Please open Telegram to view this post
VIEW IN TELEGRAM
🌸Подборка NeurIPS: LLM-статьи 🌸
#nlp #про_nlp #nlp_papers
Вот и прошёл NeurIPS 2024, самая большая конференция по машинному обучению. Ниже — небольшая подборка статей, которые мне показались наиболее интересными. Про некоторые точно стоит сделать отдельный обзор.
Агенты
🟣 StreamBench: Towards Benchmarking Continuous Improvement of Language Agents arxiv
🟣 SWE-agent: Agent-Computer Interfaces Enable Automated Software Engineering arxiv
🟣 AgentBoard: An Analytical Evaluation Board of Multi-turn LLM Agents arxiv
🟣 DiscoveryWorld: A Virtual Environment for Developing and Evaluating Automated Scientific Discovery Agents arxiv
Бенчмарки
🟣 DevBench: A multimodal developmental benchmark for language learning arxiv
🟣 CVQA: Culturally-diverse Multilingual Visual Question Answering Benchmark arxiv
🟣 LINGOLY: A Benchmark of Olympiad-Level Linguistic Reasoning Puzzles in Low-Resource and Extinct Languages arxiv
🟣 CLUE - Cross-Linked Unified Embedding for cross-modality representation learning arxiv
🟣 EmoBench: Evaluating the Emotional Intelligence of Large Language Models arxiv
LLM
🟣 The PRISM Alignment dataset: What Participatory, Representative and Individualised Human Feedback Reveals About the Subjective and Multicultural Alignment of Large Language Models arxiv
🟣 UniGen: A Unified Framework for Textual Dataset Generation via Large Language Models arxiv
🟣 A Watermark for Black-Box Language Models arxiv
#nlp #про_nlp #nlp_papers
Вот и прошёл NeurIPS 2024, самая большая конференция по машинному обучению. Ниже — небольшая подборка статей, которые мне показались наиболее интересными. Про некоторые точно стоит сделать отдельный обзор.
Агенты
Бенчмарки
LLM
Please open Telegram to view this post
VIEW IN TELEGRAM
arXiv.org
StreamBench: Towards Benchmarking Continuous Improvement of Language Agents
Recent works have shown that large language model (LLM) agents are able to improve themselves from experience, which is an important ability for continuous enhancement post-deployment. However,...
Forwarded from Сиолошная
Уходит эпоха — из OpenAI уходит Alec Radford, один из самых ранних и известных (и непубличных) исследователей. Он был первым автором статей про GPT-1 и GPT-2, а также работы Unsupervised sentiment neuron, напрямую им предшествующей.
В четверг он сообщил коллегам, что уходит, чтобы продолжить независимые и самостоятельные исследования. Alec написал, что планирует сотрудничать с OpenAI, а также с другими разработчиками ИИ-моделей.
Radford носит легендарный характер — о его блестящей интуиции исследователя и инженера ходит много баек (и все правдивые).
В четверг он сообщил коллегам, что уходит, чтобы продолжить независимые и самостоятельные исследования. Alec написал, что планирует сотрудничать с OpenAI, а также с другими разработчиками ИИ-моделей.
Radford носит легендарный характер — о его блестящей интуиции исследователя и инженера ходит много баек (и все правдивые).
The Information
Senior OpenAI Researcher Radford Departs
Alec Radford, an OpenAI researcher who helped develop some of its most important artificial intelligence, on Thursday told colleagues he was leaving to pursue research independently. Radford said he planned to collaborate with OpenAI as well as other AI…
Дополнение к посту вышло 🙈
Telegram
Kali Novskaya
🌸Хроники краха OpenAI🌸
#nlp #про_nlp
Пьеса в трех актах.
Пост — следствие моей хорошей, но избирательной памяти.
🌸Акт первый. Масштабирование
🟣Июнь 2018 — выходит декодерная модель GPT, Generative Pre-trained Transformer 1. К ней выходит статья, и все…
#nlp #про_nlp
Пьеса в трех актах.
Пост — следствие моей хорошей, но избирательной памяти.
🌸Акт первый. Масштабирование
🟣Июнь 2018 — выходит декодерная модель GPT, Generative Pre-trained Transformer 1. К ней выходит статья, и все…
🌸Открытость интернет-данных под конец 2024🌸
#nlp #про_nlp
Краткий итог под конец 2024:
🟣 Интернет-архив работает в режиме ридонли и не архивирует новые страницы с 8 октября после атаки.
🟣 Google Cache как фичу убрали, больше нельзя посмотреть сохраненную копию страницы
🟣 Архив Анны визуализирует текущее состояние резервных копий всех печатных изданий: информация есть про 16%
🟣 У компаний, разрабатывающих фундаментальные LLM, корпуса, сопоставимые по размеру с интернет-индексами поисковиков, однако, есть куча копирайт-страйков и исков — полная инфографика от wired.
🟣 Есть и хорошая новость: как я уже писала, стоимость хранения продолжает снижаться, а значит, порог вхождения для поддержания самых важных ресурсов будет продолжать падать.
#nlp #про_nlp
Краткий итог под конец 2024:
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
🌸Подкаст ML Inside🌸
Давайте о хорошем тоже — вышел наш большой разговор с Виктором Кантором на YouTube!
— на когонадо было учиться, чтобы пойти делать LLM
— разница в работе в РФ и на западе
— стартапы и большие компании, особенности работы RnD
— и немного всякого личного
Целых 1.5 часа
🟣 Смотреть: https://youtu.be/U_wtmHr5ojk?si=2Hoxmh8P3tAm2fG9
Давайте о хорошем тоже — вышел наш большой разговор с Виктором Кантором на YouTube!
— на кого
— разница в работе в РФ и на западе
— стартапы и большие компании, особенности работы RnD
— и немного всякого личного
Целых 1.5 часа
Please open Telegram to view this post
VIEW IN TELEGRAM
YouTube
Вот кто делает GPT! | Интервью с Татьяной Шавриной
https://clck.ru/3FX8tN - курс "ML в бизнесе" - старт 24 декабря 2024!
https://clck.ru/3FX8ye - демо-курс "База ML"
https://www.group-telegram.com/ml_inside - подписывайтесь на MLinside в телеграм
https://www.group-telegram.com/rybolos_channel.com - телеграм канал Татьяны
Тайм-коды:
0:00 - Начало…
https://clck.ru/3FX8ye - демо-курс "База ML"
https://www.group-telegram.com/ml_inside - подписывайтесь на MLinside в телеграм
https://www.group-telegram.com/rybolos_channel.com - телеграм канал Татьяны
Тайм-коды:
0:00 - Начало…
С наступающим! Такие далекие и такие своевременные шутки прямиком из 80х, журнал "Крокодил"
Forwarded from Рабкор
Сегодня мы приглашаем вас на большой праздничный стрим Рабкора, на котором мы будем обсуждать итоги уходящего года, а также, что ждать в наступающем 2025 году. Все собранные средства на стриме пойдут в бюджет Рабкора! Присылайте свои вопросы с донатом по ссылке http://www.donationalerts.ru/r/bkagarlitsky
Нашими гостями будут:
Алексей Ракша
Михаил Магид
Ян Веселов
Евгений Ступин*
Кирилл Медведев
Александр Листратов и Кристина (Алло, Макрон)
Екатерина Дунцова*
Саша Талавер
Ксения Кагарлицкая
Алексей Сафронов
Юлия Галямина*
Олег Кашин*
Кали Новская
Ведущие: Анна Очкина, Женя Родионова, Лина Четаева
Ждём вас на нашем итоговом стриме в 19:00 по мск. С Наступающим вас Новым Годом!
*признан(а) "иноагентом"
Please open Telegram to view this post
VIEW IN TELEGRAM
YouTube
ИТОГИ 2024 без Кагарлицкого /Ракша, Магид, Кашин*, Дунцова* Ступин* Сафронов, Галямина* Талавер
На сегодняшнем стриме подведем итоги уходящего года с гостями "Рабкора" и обсудим, что ждать в новом 2025 году.
Гости:
Алексей Ракша
Михаил Магид
Ян Веселов
Евгений Ступин*
Кирилл Медведев
Александр Листратов и Кристина
Екатерина Дунцова*
Саша Талавер
Ксения…
Гости:
Алексей Ракша
Михаил Магид
Ян Веселов
Евгений Ступин*
Кирилл Медведев
Александр Листратов и Кристина
Екатерина Дунцова*
Саша Талавер
Ксения…
Сегодня в районе 22.15 по мск будем подводить итоги года в ИИ и открытых технологиях на Рабкоре!
Приходите!
🟣 https://youtube.com/live/iC7MSP2AdlI
Приходите!
Please open Telegram to view this post
VIEW IN TELEGRAM
YouTube
ИТОГИ 2024 без Кагарлицкого /Ракша, Магид, Кашин*, Дунцова* Ступин* Сафронов, Галямина* Талавер
На сегодняшнем стриме подведем итоги уходящего года с гостями "Рабкора" и обсудим, что ждать в новом 2025 году.
Гости:
Алексей Ракша
Михаил Магид
Ян Веселов
Евгений Ступин*
Кирилл Медведев
Александр Листратов и Кристина
Екатерина Дунцова*
Саша Талавер
Ксения…
Гости:
Алексей Ракша
Михаил Магид
Ян Веселов
Евгений Ступин*
Кирилл Медведев
Александр Листратов и Кристина
Екатерина Дунцова*
Саша Талавер
Ксения…