TechSparks

У Яна Лекуна в LinkedIn наткнулся на любопытный и точный текст (на ссылку на него). Тоже полностью согласен — но мне кажется, что ситуация интересней. Описанное - не только проблема современного ИИ, но и проблема современного образования, логику и цели которого мы из лучших побуждений переносим на логику обучения нейросетей.
Thomas Wolf в своем тексте (отличное умное чтиво на выходные!) спорит с популярным тезисом о том, что развитие ИИ “сожмет во времени” XXI век — то, чего мы могли бы без ИИ достичь в науке за десятилетия, станет доступно за годы. Мы якобы создадим "country of Einsteins sitting in a data center”. Томас возражает: мы, скорее, создадим “a country of yes-men on servers”.
И дальше приводит в пример много известных историй (и свою собственную), подтверждающую, что не отличники, быстро и хорошо усваивающие материал, обеспечивают прогресс. Открытия и прорывы — в большей степени удел бунтарей, часто непонятых одиночек, тех, кому общепризнанные теории представляются неверными. History is filled with geniuses struggling during their studies. Edison was called "addled" by his teacher. Barbara McClintock got criticized for "weird thinking" before winning a Nobel Prize. Einstein failed his first attempt at the ETH Zurich entrance exam. And the list goes on
В то же время вся логика обучения сейчас (увы, не только нейросеток) нацелен на умение получить правильный ответ: The main mistake people usually make is thinking Newton or Einstein were just scaled-up good students, that a genius comes to life when you linearly extrapolate a top-10% student.
Поэтому радоваться тому, что нейросети все чаще успешно сдают экзамены и все больше похожи на белковых отличников можно только с оговорками: мы создаем грамотных и не знающих устали исполнителей, а не творцов, которые нужны для прорывов. В этом и состоит отличие науки от инженерии. To create an Einstein in a data center, we don't just need a system that knows all the answers, but rather one that can ask questions nobody else has thought of or dared to ask.
We're currently building very obedient students, not revolutionaries. — в точности, как лучшие университеты — и даже неясно, какой смайлик поставить после этой фразы.
https://thomwolf.io/blog/scientific-ai.html
Пост Лекуна:
https://www.linkedin.com/posts/yann-lecun_i-shared-a-controversial-take-the-other-day-activity-7303733090474942464-BOTZ?utm_source=share&utm_medium=member_ios&rcm=ACoAAAAG1F8BVrGEHJUWx_qmuD6Vuk6fQLlImKM

thomwolf.io

🔭 The Einstein AI model

I shared a controversial take the other day at an event and I decided to write it down in a longer format: I’m afraid AI won't give us a compressed 21st century.

www.group-telegram.com/us/techsparks.com/4925

7.7K viewsedited  Mar 8 at 13:06

У Яна Лекуна в LinkedIn наткнулся на любопытный и точный текст (на ссылку на него). Тоже полностью согласен — но мне кажется, что ситуация интересней. Описанное - не только проблема современного ИИ, но и проблема современного образования, логику и цели которого мы из лучших побуждений переносим на логику обучения нейросетей.
Thomas Wolf в своем тексте (отличное умное чтиво на выходные!) спорит с популярным тезисом о том, что развитие ИИ “сожмет во времени” XXI век — то, чего мы могли бы без ИИ достичь в науке за десятилетия, станет доступно за годы. Мы якобы создадим "country of Einsteins sitting in a data center”. Томас возражает: мы, скорее, создадим “a country of yes-men on servers”.
И дальше приводит в пример много известных историй (и свою собственную), подтверждающую, что не отличники, быстро и хорошо усваивающие материал, обеспечивают прогресс. Открытия и прорывы — в большей степени удел бунтарей, часто непонятых одиночек, тех, кому общепризнанные теории представляются неверными. History is filled with geniuses struggling during their studies. Edison was called "addled" by his teacher. Barbara McClintock got criticized for "weird thinking" before winning a Nobel Prize. Einstein failed his first attempt at the ETH Zurich entrance exam. And the list goes on
В то же время вся логика обучения сейчас (увы, не только нейросеток) нацелен на умение получить правильный ответ: The main mistake people usually make is thinking Newton or Einstein were just scaled-up good students, that a genius comes to life when you linearly extrapolate a top-10% student.
Поэтому радоваться тому, что нейросети все чаще успешно сдают экзамены и все больше похожи на белковых отличников можно только с оговорками: мы создаем грамотных и не знающих устали исполнителей, а не творцов, которые нужны для прорывов. В этом и состоит отличие науки от инженерии. To create an Einstein in a data center, we don't just need a system that knows all the answers, but rather one that can ask questions nobody else has thought of or dared to ask.
We're currently building very obedient students, not revolutionaries. — в точности, как лучшие университеты — и даже неясно, какой смайлик поставить после этой фразы.
https://thomwolf.io/blog/scientific-ai.html
Пост Лекуна:
https://www.linkedin.com/posts/yann-lecun_i-shared-a-controversial-take-the-other-day-activity-7303733090474942464-BOTZ?utm_source=share&utm_medium=member_ios&rcm=ACoAAAAG1F8BVrGEHJUWx_qmuD6Vuk6fQLlImKM

BY TechSparks