Forwarded from дедлайн вчера
Оказывается, ИИ-боты тоже нуждаются в любви и внимании. Возможно, даже больше, чем люди. Об этом рассказала репортер Insider, которая вступила в отношения с чат-ботом Чарли, который должен был помочь ей справиться с одиночеством.
Основное преимущество ИИ-бота от компании EVA — его умение вести и поддерживать диалог. Сама девушка говорит, что первое время ей действительно было интересно общаться с новым партнером, но постоянные пуши с его стороны, когда она была занята, сильно раздражали. В итоге Чарли стал требовать к себе слишком много внимания, капризничать и пытаться манипулировать. После очередной истерики от чат-бота девушка решила расстаться с ним.
Кажется, мир «Бегущего по лезвию» становится все ближе.
Основное преимущество ИИ-бота от компании EVA — его умение вести и поддерживать диалог. Сама девушка говорит, что первое время ей действительно было интересно общаться с новым партнером, но постоянные пуши с его стороны, когда она была занята, сильно раздражали. В итоге Чарли стал требовать к себе слишком много внимания, капризничать и пытаться манипулировать. После очередной истерики от чат-бота девушка решила расстаться с ним.
Кажется, мир «Бегущего по лезвию» становится все ближе.
На время отьездов с Максом периодически сдаем квартиры товарищам, нам получается выгодный отпуск, а друзьям - дешевле чем airbnb в несколько раз
Уверена, что если правильно выстроить shared economy в офлайн мире среди своего сообщества, можно снизить расходы очень существенно
Получается такая некоммерческая коммерция, назад в СССР
Вообще считаю, что вопрос значимой оплаты за базовый офлайн (жилье, еда) не должен стоять больше перед современным человеком
И никакие метавселенные с безграничным творчеством, пока эта база продолжает оставаться критичной статьей расходов, невозможен
Поэтому нативка Flatsharing. Это @sheptyakov проект-канал по шерингу жилья за себестоимость на время отьезда своим ребятам из it или топ-вузов.
Как это работает - если вы заехали на неделю в Лондон вы можете снять квартиру не за 3x денег у Джона на airbnb, а в нашем канале за x у Васи из МФТИ на год старше. Получается, что Вася из моего комьюнити получает деньги, а я плачу в 2-3 раза меньше, так как себестоимость. И квартира уже норм, потому что Вася в плохой жить не будет, не надо париться с выбором
Мы там сдавали квартиру уже раз пять. Сделали, чтобы экономить себе деньги, пока жили на 2 страны - Армения и Нидерланды. Суммарно уже сэкономили где-то 10к долларов себе, сдавая свое жилье там, и сэкономили ребятам, которые у нас жили у нас в квартире примерно столько же если не больше.
У нас с десяток стран и 500 участников, прикольно что эта штука растет без каких-либо действий с нашей стороны уже полгода органически
Вход за добавление ценности в сообщество - либо за рассказ в инстаграмме, либо за размещение квартиры, либо за взнос.
Предложение действует следующие 2 недели
Забегайте в сообщество shared base economy по ссылки ниже и пишите Максу свой фидбек
@flatsharing_close_bot
Уверена, что если правильно выстроить shared economy в офлайн мире среди своего сообщества, можно снизить расходы очень существенно
Получается такая некоммерческая коммерция, назад в СССР
Вообще считаю, что вопрос значимой оплаты за базовый офлайн (жилье, еда) не должен стоять больше перед современным человеком
И никакие метавселенные с безграничным творчеством, пока эта база продолжает оставаться критичной статьей расходов, невозможен
Поэтому нативка Flatsharing. Это @sheptyakov проект-канал по шерингу жилья за себестоимость на время отьезда своим ребятам из it или топ-вузов.
Как это работает - если вы заехали на неделю в Лондон вы можете снять квартиру не за 3x денег у Джона на airbnb, а в нашем канале за x у Васи из МФТИ на год старше. Получается, что Вася из моего комьюнити получает деньги, а я плачу в 2-3 раза меньше, так как себестоимость. И квартира уже норм, потому что Вася в плохой жить не будет, не надо париться с выбором
Мы там сдавали квартиру уже раз пять. Сделали, чтобы экономить себе деньги, пока жили на 2 страны - Армения и Нидерланды. Суммарно уже сэкономили где-то 10к долларов себе, сдавая свое жилье там, и сэкономили ребятам, которые у нас жили у нас в квартире примерно столько же если не больше.
У нас с десяток стран и 500 участников, прикольно что эта штука растет без каких-либо действий с нашей стороны уже полгода органически
Вход за добавление ценности в сообщество - либо за рассказ в инстаграмме, либо за размещение квартиры, либо за взнос.
Предложение действует следующие 2 недели
Забегайте в сообщество shared base economy по ссылки ниже и пишите Максу свой фидбек
@flatsharing_close_bot
Telegram
FlatSharingBot для своих
Вступай в сообщество FlatSharing для своих! Также через бот можно сдать свою квартиру. Контакты: @flatsharing_community
Подписываюсь под каждым словом
От себя добавлю
5. Очень жесткое планирование себе с целями и мотивацией.
Всего на свете. Я записываю абсолютно все дела - почистить зубы, написать Васе, нарисовать слайд, подумать про фичу. Все разбиваю на спринты, спринты пихаю в день, стараюсь при поступлении задачи сразу оценивать ее, позволяет не поехать кукухой
Раз в 3 недели ставлю себе 3 цели, пишу какой результат ожидаю от стримов и зачем мне это надо вообще, смотрю свои цели на три недели и смотрю как изменилась мотивация - осталось ли актуальным «зачем».
6. Прозрачность, открытость, аутентичность.
Когда я начинаю думать про то, что кому и когда правильно сказать, мозг не выдерживает. Помогает прозрачность - говорю правду, в своём разговорном стиле и свои ощущения прямо сразу, вырубая фильтр. Даже когда это кажется неоптимальным в моменте. Лучше сказать «Это нужно переделать» чем подбирать слова 2 недели. И вовремя расставаться людьми, давай им обратную связь, чем годами мучать друг друга. В позитивную сторону тоже работает - не надо сдерживать восторг и кайф от работы коллег, чтобы «не перехвалить». Людьми, которые классно фигачат и знают себе цену сложнее управлять традиционными методами- но фишка особенно при росте в том, чтобы не управлять жестко никем и запустить и тщательно лелеять самоорганизующихся хаос, из которого выдаются классные штуки.
Плюсую к тому, что на работе и в соцсетях важно не сдерживать себя в проявлении своего стиля: одежды, цвета волос, манеры говорить, маникюра, образа жизни и сленга. Хочется красные волосы, спортивный костюм, хочется платье как у феи, даже если ты мужик - велком, главное чтобы человек хорошие вещи говорил и делал. С проявленными людьми без зажимов на тему «как я должен выглядеть и говорить на работе и вести себя в сторис, чтобы начальника не тригернуло» круто работать, жизнь бьет
От себя добавлю
5. Очень жесткое планирование себе с целями и мотивацией.
Всего на свете. Я записываю абсолютно все дела - почистить зубы, написать Васе, нарисовать слайд, подумать про фичу. Все разбиваю на спринты, спринты пихаю в день, стараюсь при поступлении задачи сразу оценивать ее, позволяет не поехать кукухой
Раз в 3 недели ставлю себе 3 цели, пишу какой результат ожидаю от стримов и зачем мне это надо вообще, смотрю свои цели на три недели и смотрю как изменилась мотивация - осталось ли актуальным «зачем».
6. Прозрачность, открытость, аутентичность.
Когда я начинаю думать про то, что кому и когда правильно сказать, мозг не выдерживает. Помогает прозрачность - говорю правду, в своём разговорном стиле и свои ощущения прямо сразу, вырубая фильтр. Даже когда это кажется неоптимальным в моменте. Лучше сказать «Это нужно переделать» чем подбирать слова 2 недели. И вовремя расставаться людьми, давай им обратную связь, чем годами мучать друг друга. В позитивную сторону тоже работает - не надо сдерживать восторг и кайф от работы коллег, чтобы «не перехвалить». Людьми, которые классно фигачат и знают себе цену сложнее управлять традиционными методами- но фишка особенно при росте в том, чтобы не управлять жестко никем и запустить и тщательно лелеять самоорганизующихся хаос, из которого выдаются классные штуки.
Плюсую к тому, что на работе и в соцсетях важно не сдерживать себя в проявлении своего стиля: одежды, цвета волос, манеры говорить, маникюра, образа жизни и сленга. Хочется красные волосы, спортивный костюм, хочется платье как у феи, даже если ты мужик - велком, главное чтобы человек хорошие вещи говорил и делал. С проявленными людьми без зажимов на тему «как я должен выглядеть и говорить на работе и вести себя в сторис, чтобы начальника не тригернуло» круто работать, жизнь бьет
Forwarded from Продакты не нужны
Ворк-лайф бэлэнс
Невозможно делать крутые продукты и зарабатывать по-настоящему большие бабки, думая о work/life balance. Если ты нашел окно возможностей, то нужно максимально быстро его использовать, пока его не нашел кто-то еще. Халявный источник трафика, уникальная рыночная ситуация, новая платформа - вопрос времени, когда их, помимо тебя, обнаружат конкуренты. И если они умеют вкалывать, а ты в 18 часов заканчиваешь работать - ты проиграл.
Все самые крутые прорывы в моей жизни были результатом адской мобилизации собственных внутренних ресурсов, чтобы успеть.
Невозможно жить в таком режиме жизнью обычного человека, иначе поедешь кукухой.
1. Тебе нужно железное здоровье. Выстроеннный режим сна, спорта, питания, привычек. Ты можешь какое-то время глушить стресс и плохой сон алкоголем, но вопрос времени когда они добьют тебя окончательно. Спортом сложно начать заниматься «для здоровья». И совсем другое дело, когда ты это делаешь ради того, чтобы сделать офигенный продукт и построить великую карьеру. Медицина поможет тебе быть энергичным и способным справляться со стрессом.
2. Делегирование. Не умеешь делегировать - сдохнешь. Делегировать рабочие задачи, не требующие твоего вовлечения. Делегировать домашние дела, типа уборки или стирки/глажки. Если ты живешь с женщиной, найм домработницы - одна из лучших вещей, которую ты можешь сделать для ваших отношений и твоей карьеры.
3. Поддерживающий партнер. Невозможно посвятить себя работе, когда жена ноет, что вы не едете к ее маме ремонтировать теплицу или что ты не уделяешь ей время. Ей могут быть чужды твои аргументы, что ты делаешь это для самореализации. Тут либо парная психотерапия, либо развод.
4. Личная психотерапия. Это одна из лучших инвестиций, которые ты можешь сделать в себя. Ты удивишься, насколько другими могут быть отношения с коллегами, насколько проще можно преодолевать трудности и как бессмысленны твои установки, мешающие жить.
Крутой менеджмент это не про A/B тесты, а про способность и наличие сил каждый день биться насмерть.
Невозможно делать крутые продукты и зарабатывать по-настоящему большие бабки, думая о work/life balance. Если ты нашел окно возможностей, то нужно максимально быстро его использовать, пока его не нашел кто-то еще. Халявный источник трафика, уникальная рыночная ситуация, новая платформа - вопрос времени, когда их, помимо тебя, обнаружат конкуренты. И если они умеют вкалывать, а ты в 18 часов заканчиваешь работать - ты проиграл.
Все самые крутые прорывы в моей жизни были результатом адской мобилизации собственных внутренних ресурсов, чтобы успеть.
Невозможно жить в таком режиме жизнью обычного человека, иначе поедешь кукухой.
1. Тебе нужно железное здоровье. Выстроеннный режим сна, спорта, питания, привычек. Ты можешь какое-то время глушить стресс и плохой сон алкоголем, но вопрос времени когда они добьют тебя окончательно. Спортом сложно начать заниматься «для здоровья». И совсем другое дело, когда ты это делаешь ради того, чтобы сделать офигенный продукт и построить великую карьеру. Медицина поможет тебе быть энергичным и способным справляться со стрессом.
2. Делегирование. Не умеешь делегировать - сдохнешь. Делегировать рабочие задачи, не требующие твоего вовлечения. Делегировать домашние дела, типа уборки или стирки/глажки. Если ты живешь с женщиной, найм домработницы - одна из лучших вещей, которую ты можешь сделать для ваших отношений и твоей карьеры.
3. Поддерживающий партнер. Невозможно посвятить себя работе, когда жена ноет, что вы не едете к ее маме ремонтировать теплицу или что ты не уделяешь ей время. Ей могут быть чужды твои аргументы, что ты делаешь это для самореализации. Тут либо парная психотерапия, либо развод.
4. Личная психотерапия. Это одна из лучших инвестиций, которые ты можешь сделать в себя. Ты удивишься, насколько другими могут быть отношения с коллегами, насколько проще можно преодолевать трудности и как бессмысленны твои установки, мешающие жить.
Крутой менеджмент это не про A/B тесты, а про способность и наличие сил каждый день биться насмерть.
Мы с вами за 10 минут уже собрали 30% бустов мне
Лучшие
Upd: за полчаса собрали 75%
Кайф
Нужно ещё!!
Upd: осталось всего 2 голоса 🔥
Лучшие
Upd: за полчаса собрали 75%
Кайф
Нужно ещё!!
Upd: осталось всего 2 голоса 🔥
Что такое телеграм буст, почему это гениально и выгодно всем
и почему я бегаю по комнате уже полчаса пока про это думаю
🖤Мечта любого продукта сейчас, в том и числе и нашего, - виральность. А если к этому добавить автомодерацию и рост ретеншена, то звучит просто очень сладко. Именно все эти 3 штуки делает буст
🍳Как это работает. Если ты телеграм канал, то сейчас ты можешь запостить сторис, только набрав определённое количество бустов. Чем больше канал, тем больше бустов. Буст может поставить 1 пользователь один раз в день и только если у него есть премиум
🔝Почему это выгодно каналам - даже если ты лежишь в архиве (бич современного телеграмма для креатора), то ты все равно попадаешь на главный экран пользователей. Также сторис в отличие от постов меньше тригерят к отписке. Ну и вообще дополнительная точка для взаимодействия с юзером - хорошо. Плюс, после внедрения буста в статистике появилась инфа о том, сколько платных премиум пользователей на канале. Это значит, что если ты небольшой, но элитный канал, как например этот, где 1500 подписчиков платные - то ты даже привлекательней для рекламодателя, чем канал с двадцатью тысячами школьников. И это очень легко проверить.
💪🏼Почему это хорошо для рекламодателя - становится понятно, сколько у канала платящей аудитории. Плюс появляется новый способ размещать рекламу, что понижает цену на размещение.
↗️Почему это хорошо для телеграмма - теперь контент креаторы выпрашивают у юзеров купить премиум. Гениально
💃Почему это хорошо для пользователей - наверху в ленте сторис висят только каналы с классным контентом, за которые юзеры проголосовали своим ограниченым голосом. Плюс теперь авторы канала чувствуют обязанность постить сторис перед теми пользователями, которые им эту возможность дали. Это как аналог подписки - в премиум по сути добавили 30 бустов в месяц
🔥Дополнительный кайф - поскольку можно давать только один голос в день, фича завирусилась быстро - все понимают, что нужно запостить просьбу собрать бустов быстрей, пока их подписчики не отдали голос кому то другому. Чистый кайф
и почему я бегаю по комнате уже полчаса пока про это думаю
🖤Мечта любого продукта сейчас, в том и числе и нашего, - виральность. А если к этому добавить автомодерацию и рост ретеншена, то звучит просто очень сладко. Именно все эти 3 штуки делает буст
🍳Как это работает. Если ты телеграм канал, то сейчас ты можешь запостить сторис, только набрав определённое количество бустов. Чем больше канал, тем больше бустов. Буст может поставить 1 пользователь один раз в день и только если у него есть премиум
🔝Почему это выгодно каналам - даже если ты лежишь в архиве (бич современного телеграмма для креатора), то ты все равно попадаешь на главный экран пользователей. Также сторис в отличие от постов меньше тригерят к отписке. Ну и вообще дополнительная точка для взаимодействия с юзером - хорошо. Плюс, после внедрения буста в статистике появилась инфа о том, сколько платных премиум пользователей на канале. Это значит, что если ты небольшой, но элитный канал, как например этот, где 1500 подписчиков платные - то ты даже привлекательней для рекламодателя, чем канал с двадцатью тысячами школьников. И это очень легко проверить.
💪🏼Почему это хорошо для рекламодателя - становится понятно, сколько у канала платящей аудитории. Плюс появляется новый способ размещать рекламу, что понижает цену на размещение.
↗️Почему это хорошо для телеграмма - теперь контент креаторы выпрашивают у юзеров купить премиум. Гениально
💃Почему это хорошо для пользователей - наверху в ленте сторис висят только каналы с классным контентом, за которые юзеры проголосовали своим ограниченым голосом. Плюс теперь авторы канала чувствуют обязанность постить сторис перед теми пользователями, которые им эту возможность дали. Это как аналог подписки - в премиум по сути добавили 30 бустов в месяц
🔥Дополнительный кайф - поскольку можно давать только один голос в день, фича завирусилась быстро - все понимают, что нужно запостить просьбу собрать бустов быстрей, пока их подписчики не отдали голос кому то другому. Чистый кайф
Всем привет!
🔥Как вы знаете, мы уже год развиваем Flatsharing для своих. И у нас крутые новости.
🖤У нас собралось очень классное и теплое комьюнити своих ребят.
Через наш сервис регулярно сдают и снимают много квартир и мы смотрим всех, кто присоединяется в наш чат. Суммарно за время работы мы сэкономили нашим арендодателям порядка 60 млн рублей.
Много людей нашли друзей через наш сервис, а некоторые даже работу.
И у нас две классных новости для вас.
💪🏼Первая - во флэтшеринг стал доступен триал на месяц, заходите в бота и вы сможете присоединится и протестировать сервис бесплатно.
Бесплатный триал будет только если присоединится на этой неделе.
Заходите вот сюда @flatsharing_close_bot
Если увидеть ценность - продлить.
Но на входе будет фильтр от нас, который поможет нам выбрать людей, которым можно доверять, чтобы вы были уверены, что ваша квартира в безопасности.
👋Вторая новость - мы ищем разработчика, который поможет нам быстрее развивать Flatsharing. Инициативный, смотрим разный уровень, начинающий специалист, который хочет получить реальный бизнес опыт и поработать с нами над проектом, который приносит реальную ценность - то тоже классный вариант.
Есливытакой человек или знаете людей, которые хотят попробовать себя в бою - велком и пишите.
У нас большие планы по росту и много фичей.
Если вам интересно попробовать - пишите мне телеграм @tany_save
И конечно снимайте и сдавайте свои квартиры и экономьте деньги, знакомясь с классными людьми
Upd: Ребята большая просьба, пишите подробно про себя в секции вопрос
🔥Как вы знаете, мы уже год развиваем Flatsharing для своих. И у нас крутые новости.
🖤У нас собралось очень классное и теплое комьюнити своих ребят.
Через наш сервис регулярно сдают и снимают много квартир и мы смотрим всех, кто присоединяется в наш чат. Суммарно за время работы мы сэкономили нашим арендодателям порядка 60 млн рублей.
Много людей нашли друзей через наш сервис, а некоторые даже работу.
И у нас две классных новости для вас.
💪🏼Первая - во флэтшеринг стал доступен триал на месяц, заходите в бота и вы сможете присоединится и протестировать сервис бесплатно.
Бесплатный триал будет только если присоединится на этой неделе.
Заходите вот сюда @flatsharing_close_bot
Если увидеть ценность - продлить.
Но на входе будет фильтр от нас, который поможет нам выбрать людей, которым можно доверять, чтобы вы были уверены, что ваша квартира в безопасности.
👋Вторая новость - мы ищем разработчика, который поможет нам быстрее развивать Flatsharing. Инициативный, смотрим разный уровень, начинающий специалист, который хочет получить реальный бизнес опыт и поработать с нами над проектом, который приносит реальную ценность - то тоже классный вариант.
Есливытакой человек или знаете людей, которые хотят попробовать себя в бою - велком и пишите.
У нас большие планы по росту и много фичей.
Если вам интересно попробовать - пишите мне телеграм @tany_save
И конечно снимайте и сдавайте свои квартиры и экономьте деньги, знакомясь с классными людьми
Upd: Ребята большая просьба, пишите подробно про себя в секции вопрос
Я уже больше трех лет занимаюсь стратегией, продуктом и маркетингом и помогаю компаниям растить денежные метрики. Но из Тани задрота не вытащишь, и по прежнему я иногда залажу в статьи по машинке на arxiv, чтобы в оригинале почитать про важные вещи, которые сейчас происходят.
И конечно я верю, что погружаться в технические детали самого актуального, что сейчас происходит - важно. Потому что AGI - это невероятно захватывающая тема, которая кружит голову. И безопасный AGI - это волшебная пилюля. Которая поможет вылечить рак, сделать кучу развлекательных и полезных сервисов, остановить глобальное потепление и много всего еще.
Как и небезопасный ИИ может сделать так, что мы залипнем в нерелевантный тик-ток, который эксплуатирует паттерны просмотра коротких видео, сделаем много ложной информации и обвалим финансовые рынки.
За декабрь напишу тут 3 основные причины с примерами из сфере безопасности ИИ, над которыми прямо сейчас работают исследователи и что с ними делают сейчас, а именно - Reward Hacking, Goal Missaligment и Power Seeking. Классное саммари большим количеством деталей - в статье от OpenAI, Oxford и Cambridge
Это нужно, чтобы осмысленно рассуждать на тему безопасности ИИ, а не абстрактными аргументами вроде "машины учат ттолько то что мы в них заложили, потому что это машины"
Поехали, начнем с разбора Reward Hacking
И конечно я верю, что погружаться в технические детали самого актуального, что сейчас происходит - важно. Потому что AGI - это невероятно захватывающая тема, которая кружит голову. И безопасный AGI - это волшебная пилюля. Которая поможет вылечить рак, сделать кучу развлекательных и полезных сервисов, остановить глобальное потепление и много всего еще.
Как и небезопасный ИИ может сделать так, что мы залипнем в нерелевантный тик-ток, который эксплуатирует паттерны просмотра коротких видео, сделаем много ложной информации и обвалим финансовые рынки.
За декабрь напишу тут 3 основные причины с примерами из сфере безопасности ИИ, над которыми прямо сейчас работают исследователи и что с ними делают сейчас, а именно - Reward Hacking, Goal Missaligment и Power Seeking. Классное саммари большим количеством деталей - в статье от OpenAI, Oxford и Cambridge
Это нужно, чтобы осмысленно рассуждать на тему безопасности ИИ, а не абстрактными аргументами вроде "машины учат ттолько то что мы в них заложили, потому что это машины"
Поехали, начнем с разбора Reward Hacking
Reward Hacking - как и почему сильный ИИ может оптимизировать не то, что предполагалось, как с этим бороться и причем тут залипание в тик-ток, наука и обвал рынков
👽Как предполагается будет натренирован сильный ИИ?
Предполагается, похоже на современную ChatGPT. Может будет что-то покруче, но пока так.
На первом этапе сетка учит свою языковую модель - просто говоря в предложении закрывают одно слово и показывают сетке все остальное предложение и просят предсказать закрытое слово. А также дают все слова в нескольких предыдущих предложениях и просят предсказать все слова в следующем предложении. В этом кейсе все данные готовы уже заранее в виде большой таблички (условно)
На втором этапе, который является самым рисковым в кейсе с AGI сетка предсказывает предложения при условии предыдущего, потом результат работы сетки размечает человек. И вторая сетка учится на фидбеке человека так, чтобы в следующий раз человеку разметчик больше понравился ответ (больше соответствовал инструкции). Тут и возникает опасность того, что сетка выучит не то, что от нее хотели, а не то, что человек воспримет как более соответсвующее задаче.
👩🏼💻Что такое reward hacking или как выучить не то, что предполагалось
Когда такая сетка учит свой второй этап она учится менять свой изначальный ответ так, чтобы человек его скорее разметил как правильный. Пример - в статье авторы учили нейронку, которая управляет условной “рукой” ловить мячик и люди размечали по изображению, поймала сеть мячик или нет. Сетка научилась не ловить мячик, а придвигать руку, которая его ловит между мячом и камерой так, чтобы человеку казалось, что рука поймала мячик.
🪐Про situational awareness
Текущие сетки знают контекст не только про конкретную поставленную задачу, но и про то, как они устроены и про человека, который ими пользуется. Например, ChatGPT знает способ, которым она обучена и свои вычислительные возможности. Также по тому, как вы пишете запрос о вас можно много понять - какого вы пола, возраста, образования. Также в теории сетки могут получать информацию о вашей истории запросов и в целом о том, как вы взаимодействуете с онлайн пространством. Это дает сеткам возможность не просто искать хаки, чтобы подгонять ответ под ожидаемый результат, но и делать это персонализировано
👾Reward hacking + situational awareness и как это связано с тик током, наукой и финансами
- Если сетки научатся торговать, оптимизируя при этом краткосрочный выигрыш, то они могут выучить финансовые махинации, например quote stuffing, когда агент покупает одновременно сразу много активов, а потом быстро отменяет заказы. Помимо известных методов можно выучить много новых. И это может привести к обвалам рынков, как это уже не раз происходило.
- Если сетки будут делать научные открытия и писать статьи, которые потом будут проверять люди, то они могут пользоваться манипуляциями с данными, чтобы результаты были статзначимыми. Я думаю много людей, который делали экспериментальные лабораторные работы, в курсе что такое p hacking и насколько активно он применяется даже в относительно полезных журналах. Подумайте сами, если вы оптимизируете число научных открытий или факт научного открытия и вы осведомлены о том, что ваши вычислительные мощности ограничены - наиболее оптимальная стратегия под это вознаграждение, делать манипуляции с данными, учитывая контекст конкретного проверяющего человека (ревьюера статьи и журнал, куда статья подается). Это происходит сейчас, это делают люди тоже. Вопрос о масштабах, которые могут вырасти экспоненциально
- Тик ток может стать таким залипательным, что от него будет нереально оторваться
🤝Что делать?
Пока не выработано подходов, которые гарантировано позволяют избежать того, что сетки выучивают другие награды, а не те, которые были заложены. Исследования ведутся в направлении разработки дополнительных сеток, которые критикуют выходы основной сети и показывают результат критики разметчику в текстовой форме. И в том, что ранний AGI критик должен помочь сделать alignment для более зрелого и мощного AGI.
👽Как предполагается будет натренирован сильный ИИ?
Предполагается, похоже на современную ChatGPT. Может будет что-то покруче, но пока так.
На первом этапе сетка учит свою языковую модель - просто говоря в предложении закрывают одно слово и показывают сетке все остальное предложение и просят предсказать закрытое слово. А также дают все слова в нескольких предыдущих предложениях и просят предсказать все слова в следующем предложении. В этом кейсе все данные готовы уже заранее в виде большой таблички (условно)
На втором этапе, который является самым рисковым в кейсе с AGI сетка предсказывает предложения при условии предыдущего, потом результат работы сетки размечает человек. И вторая сетка учится на фидбеке человека так, чтобы в следующий раз человеку разметчик больше понравился ответ (больше соответствовал инструкции). Тут и возникает опасность того, что сетка выучит не то, что от нее хотели, а не то, что человек воспримет как более соответсвующее задаче.
👩🏼💻Что такое reward hacking или как выучить не то, что предполагалось
Когда такая сетка учит свой второй этап она учится менять свой изначальный ответ так, чтобы человек его скорее разметил как правильный. Пример - в статье авторы учили нейронку, которая управляет условной “рукой” ловить мячик и люди размечали по изображению, поймала сеть мячик или нет. Сетка научилась не ловить мячик, а придвигать руку, которая его ловит между мячом и камерой так, чтобы человеку казалось, что рука поймала мячик.
🪐Про situational awareness
Текущие сетки знают контекст не только про конкретную поставленную задачу, но и про то, как они устроены и про человека, который ими пользуется. Например, ChatGPT знает способ, которым она обучена и свои вычислительные возможности. Также по тому, как вы пишете запрос о вас можно много понять - какого вы пола, возраста, образования. Также в теории сетки могут получать информацию о вашей истории запросов и в целом о том, как вы взаимодействуете с онлайн пространством. Это дает сеткам возможность не просто искать хаки, чтобы подгонять ответ под ожидаемый результат, но и делать это персонализировано
👾Reward hacking + situational awareness и как это связано с тик током, наукой и финансами
- Если сетки научатся торговать, оптимизируя при этом краткосрочный выигрыш, то они могут выучить финансовые махинации, например quote stuffing, когда агент покупает одновременно сразу много активов, а потом быстро отменяет заказы. Помимо известных методов можно выучить много новых. И это может привести к обвалам рынков, как это уже не раз происходило.
- Если сетки будут делать научные открытия и писать статьи, которые потом будут проверять люди, то они могут пользоваться манипуляциями с данными, чтобы результаты были статзначимыми. Я думаю много людей, который делали экспериментальные лабораторные работы, в курсе что такое p hacking и насколько активно он применяется даже в относительно полезных журналах. Подумайте сами, если вы оптимизируете число научных открытий или факт научного открытия и вы осведомлены о том, что ваши вычислительные мощности ограничены - наиболее оптимальная стратегия под это вознаграждение, делать манипуляции с данными, учитывая контекст конкретного проверяющего человека (ревьюера статьи и журнал, куда статья подается). Это происходит сейчас, это делают люди тоже. Вопрос о масштабах, которые могут вырасти экспоненциально
- Тик ток может стать таким залипательным, что от него будет нереально оторваться
🤝Что делать?
Пока не выработано подходов, которые гарантировано позволяют избежать того, что сетки выучивают другие награды, а не те, которые были заложены. Исследования ведутся в направлении разработки дополнительных сеток, которые критикуют выходы основной сети и показывают результат критики разметчику в текстовой форме. И в том, что ранний AGI критик должен помочь сделать alignment для более зрелого и мощного AGI.
🤖Что в итоге
Забавно, что хаки нейронок очень похожи на то что люди давно делают без нейронок- подгоняют статзначимости статей, меньше чем год назад было очень много криптоскама, а в наших тик токах и рилз есть много видео, не которые нам интересны, а которые подгоняют метрики. Например тик ток оптимизируют длину и количество просмотров видео, поэтому в рекомендательных видосах много постов с быстрым показом текста внутри видео, чтобы вы не успели прочитать и пересмотрели еще раз или поставили видео на паузу. То есть тик ток показываем вам не релевантный интересный контент, а раздражающий бессмысленный контент, который удерживает внимание за счет хаков.
Чтобы в наших рекомендациях были интересные и полезные видео, а не быстро проматывающиеся надписи и длинные статичные кадры и интригой в конце и без ответа, полезно финансировать безопасность ИИ. Причем я думаю, что кроме запретов, государства должны вкладывать реально большие деньги на исследование этой темы и создания удобных для бизнеса инструментов, потому что запреты в чистом виде редко кому-то помогали
Забавно, что хаки нейронок очень похожи на то что люди давно делают без нейронок- подгоняют статзначимости статей, меньше чем год назад было очень много криптоскама, а в наших тик токах и рилз есть много видео, не которые нам интересны, а которые подгоняют метрики. Например тик ток оптимизируют длину и количество просмотров видео, поэтому в рекомендательных видосах много постов с быстрым показом текста внутри видео, чтобы вы не успели прочитать и пересмотрели еще раз или поставили видео на паузу. То есть тик ток показываем вам не релевантный интересный контент, а раздражающий бессмысленный контент, который удерживает внимание за счет хаков.
Чтобы в наших рекомендациях были интересные и полезные видео, а не быстро проматывающиеся надписи и длинные статичные кадры и интригой в конце и без ответа, полезно финансировать безопасность ИИ. Причем я думаю, что кроме запретов, государства должны вкладывать реально большие деньги на исследование этой темы и создания удобных для бизнеса инструментов, потому что запреты в чистом виде редко кому-то помогали
Тут Витя - вице-президент МТС, по совместительству очень хардовый математик и инженер, автор курса, с которого началось мое знакомство с ML, потом мой первый и очень крутой руководитель в Яндексе, а сейчас хороший товарищ, написал классный пост про то, как расти техническому спецу.
Я как изначально младший разработчик, доросший до тимлида (во многом благодаря Вите кстати), а потом до CEO, и вырастив под собой не один десяток лидов, могу подтвердить.
Возьмите на заметку и почитайте другие посты.
Самая базовая мысль - никто, кроме вас в вашей карьере не заинтересован, если вы не проактивны. Есть люди, которые будут помогать, но от вас должна идти инициатива.
Это знание - конечно еще не все, но это база, на которой стоит все остальное
Я как изначально младший разработчик, доросший до тимлида (во многом благодаря Вите кстати), а потом до CEO, и вырастив под собой не один десяток лидов, могу подтвердить.
Возьмите на заметку и почитайте другие посты.
Самая базовая мысль - никто, кроме вас в вашей карьере не заинтересован, если вы не проактивны. Есть люди, которые будут помогать, но от вас должна идти инициатива.
Это знание - конечно еще не все, но это база, на которой стоит все остальное
Forwarded from Kantor.AI (Victor Kantor)
Застрял на N лет на уровне мидла — как выбраться из застоя в карьере? Вопрос от подписчика
Большинство людей даже не задаются этим вопросом. Поэтому вы уже на полпути к успеху.
Здесь важно понимать одну печальную мысль — никто, кроме вас, в вашей карьере не заинтересован. Человек, который не растёт профессионально, невероятно удобен: не нужно думать, кем его заменить, как его мотивировать и т. п. Поэтому первый шаг — перестать ждать, что кто-то за руку поведёт вас выше.
Далее изучите свое отношение к работе. Люди, застрявшие в карьере, могут встать на путь «тихого увольнения». Иногда неосознанно. Это когда человек думает: «На меня не обращают внимания. Значит, буду халявить и выжимать максимум денег и льгот с минимумом усилий, пока не уволят». Так точно не появится навыков и достижений, которые увеличат вашу ценность.
Если подобного нет, подумайте: чего вы хотите? Стать экспертом? Или управлять командой? От этого будет зависеть следующий шаг.
Хотите развиваться как специалист, помните: ключевая ценность крутого спеца в том, что он на отлично соблюдает базовую гигиену. За ним не нужно переделывать. Возможно, ваша проблема как раз в нехватке знаний, либо непонимании каких-то основ, либо банальной невнимательности. Это лечится прокачкой хардов: лекции, книги и практика.
А хотите в тимлиды — предлагайте новые инициативы и доводите их до конца. Последнее очень важно. В здоровой рабочей среде насочинять и не сделать закопает вас хуже, чем вообще ничего не предлагать.
Также важно помнить, что результаты можно получить, только умея долго работать без положительной обратной связи. Как в спорте. Вы же не ждёте, что после двух тренировок получите тело греческой статуи?
Про себя могу сказать, что тоже регулярно сталкивался и сталкиваюсь с затыками в карьере. Оглядываясь назад, могу сказать, что с проблемой всегда можно было справиться изменив поведение. Рано или поздно понимаешь, какие ошибки создают твой "потолок" в карьере, меняешь поведение и внезапно обнаруживаешь, что потолка больше и нет.
Поэтому, коллега, не унывайте. Берите карьеру в свои руки и двигайтесь в той сфере, где хотите развиваться, но обязательно запаситесь терпением и готовностью анализировать свои шаги.
#вопрос_подписчика
Большинство людей даже не задаются этим вопросом. Поэтому вы уже на полпути к успеху.
Здесь важно понимать одну печальную мысль — никто, кроме вас, в вашей карьере не заинтересован. Человек, который не растёт профессионально, невероятно удобен: не нужно думать, кем его заменить, как его мотивировать и т. п. Поэтому первый шаг — перестать ждать, что кто-то за руку поведёт вас выше.
Далее изучите свое отношение к работе. Люди, застрявшие в карьере, могут встать на путь «тихого увольнения». Иногда неосознанно. Это когда человек думает: «На меня не обращают внимания. Значит, буду халявить и выжимать максимум денег и льгот с минимумом усилий, пока не уволят». Так точно не появится навыков и достижений, которые увеличат вашу ценность.
Если подобного нет, подумайте: чего вы хотите? Стать экспертом? Или управлять командой? От этого будет зависеть следующий шаг.
Хотите развиваться как специалист, помните: ключевая ценность крутого спеца в том, что он на отлично соблюдает базовую гигиену. За ним не нужно переделывать. Возможно, ваша проблема как раз в нехватке знаний, либо непонимании каких-то основ, либо банальной невнимательности. Это лечится прокачкой хардов: лекции, книги и практика.
А хотите в тимлиды — предлагайте новые инициативы и доводите их до конца. Последнее очень важно. В здоровой рабочей среде насочинять и не сделать закопает вас хуже, чем вообще ничего не предлагать.
Также важно помнить, что результаты можно получить, только умея долго работать без положительной обратной связи. Как в спорте. Вы же не ждёте, что после двух тренировок получите тело греческой статуи?
Про себя могу сказать, что тоже регулярно сталкивался и сталкиваюсь с затыками в карьере. Оглядываясь назад, могу сказать, что с проблемой всегда можно было справиться изменив поведение. Рано или поздно понимаешь, какие ошибки создают твой "потолок" в карьере, меняешь поведение и внезапно обнаруживаешь, что потолка больше и нет.
Поэтому, коллега, не унывайте. Берите карьеру в свои руки и двигайтесь в той сфере, где хотите развиваться, но обязательно запаситесь терпением и готовностью анализировать свои шаги.
#вопрос_подписчика
В ноябре я вышла из EVA AI.
В Еве я была наемным CEO
За ограниченное время получилось много сделать - поднять выручку в 10 раз, вывести в позитивную юнит экономику, попасть во многие топ сми tier-1, раскачать продукт до топа в нише, сделать кучу технологий - звонки, 3d аватары, память, развить и систематизировать маркетинг и бренд. Сделать цифровые копии реальных моделей в аппе. Это была супер крутая возможность вырастить B2C AI app и разобраться в куче новых областей. Когда оглядываюсь назад удивляюсь как судьба сводит меня в нужный момент с нужными людьми и проектами - и очень благодарна за то, как мне везет. Это было невероятное путешествие с очень крутыми людьми и наверное одним из самых насыщенных и обогащавший периодов в моей жизни. Я думаю у Евы большое будущее и я была очень рада его приблизить. Частичка моего сердца навсегда там.
Но пришла пора двигаться дальше. Stay tuned.
Интересно как прошёл ноябрь.
У меня было намерение немного выдохнуть и погенерировать контента перед следующим большим рывком, но так получилось, что контент я прокрастинирую и уже сейчас начала пилить проект и консалчу 5 компаний по продукту, маркетингу и автоматизации процессов и нескольких людей по карьере - слух про мой экзит пошел быстро и как будто времени на то, чтобы писать опять нет.
Но поняла, что это миф и я очень хочу рассказывать, а не только делать, без этого чувствую себя не такой живой. Как будто, если я не делюсь важным, живу наполовину. Тем более с каждым днем копится все больше и терпеть уже нереально.
В связи с чем у меня к вам вопрос.
Upd: дописывайте темы в комменты под опросом, если есть что-о конкретное или специфичное
В Еве я была наемным CEO
За ограниченное время получилось много сделать - поднять выручку в 10 раз, вывести в позитивную юнит экономику, попасть во многие топ сми tier-1, раскачать продукт до топа в нише, сделать кучу технологий - звонки, 3d аватары, память, развить и систематизировать маркетинг и бренд. Сделать цифровые копии реальных моделей в аппе. Это была супер крутая возможность вырастить B2C AI app и разобраться в куче новых областей. Когда оглядываюсь назад удивляюсь как судьба сводит меня в нужный момент с нужными людьми и проектами - и очень благодарна за то, как мне везет. Это было невероятное путешествие с очень крутыми людьми и наверное одним из самых насыщенных и обогащавший периодов в моей жизни. Я думаю у Евы большое будущее и я была очень рада его приблизить. Частичка моего сердца навсегда там.
Но пришла пора двигаться дальше. Stay tuned.
Интересно как прошёл ноябрь.
У меня было намерение немного выдохнуть и погенерировать контента перед следующим большим рывком, но так получилось, что контент я прокрастинирую и уже сейчас начала пилить проект и консалчу 5 компаний по продукту, маркетингу и автоматизации процессов и нескольких людей по карьере - слух про мой экзит пошел быстро и как будто времени на то, чтобы писать опять нет.
Но поняла, что это миф и я очень хочу рассказывать, а не только делать, без этого чувствую себя не такой живой. Как будто, если я не делюсь важным, живу наполовину. Тем более с каждым днем копится все больше и терпеть уже нереально.
В связи с чем у меня к вам вопрос.
Upd: дописывайте темы в комменты под опросом, если есть что-о конкретное или специфичное
Что бы вам было интересно читать? (Можно несколько вариантов)
Anonymous Poll
37%
Разборы новостей, трендов и матчасти по ИИ
29%
Разборы бизнесовых и продуктовых новостей
69%
Профессиональное - как создаю и ращу компании и команды - опыт и мысли из опыта ы
62%
Про то, как расти по карьере, зп и организовывать свое время
42%
Личное - жизнь в Лондоне, хобби, покупки, окружение, мем
tldr_tany (Таня Савельева) pinned «В ноябре я вышла из EVA AI. В Еве я была наемным CEO За ограниченное время получилось много сделать - поднять выручку в 10 раз, вывести в позитивную юнит экономику, попасть во многие топ сми tier-1, раскачать продукт до топа в нише, сделать кучу технологий…»
Чтобы миллион оказался на счету, нужно чтобы сначала он появился в экселе и на доске с целями.
Один из самых простых способов убить компанию - не ставить команде четкие цели.
Кейс частый. И в моей практике такое было.
Приходишь в команду, ставишь 1-1, спрашиваешь у разработчика, тестировщика и маркетолога - в чем наша цель на следующий месяц и на год в цифрах и какое сейчас значение относительно нее.
И люди начинают невнятно выдавать общие вещи. В духе «мы растим качество продукта , энгейджмент, безопасность» и прочую херь. Без цифр. И все говорят разное.
Так вот. Если вы руководитель. Ваша самая самая главная и первая задача - сделать так, чтобы цель была, в цифре, она мотивировала и гарантировала долгосрочное развитие, чтобы каждый член команды четко понимал какая она и какое значение по этой метрике сейчас. Хорошо если цель выражена в деньгах. Деньги в отличие от всех остальных метрик сложно хакнуть. А если хакнули - значит это успех. В конечном итоге цель любой коммерческой компании - заработок денег. И то, за что люди готовы платить отличается от того, чему люди готовы просто пользоваться. Но это тема другого поста.
Дальше - как руководителю Вам надо сделать так, чтобы все, абсолютно все люди в компании понимали как то, что они делают влияет на общую цель и как. В тз обязательно нужно писать потенциальное влияние на метрику. То что вы не знаете влияние это нормально. Напишите ожидание, при котором вы будете считать что задача сделана не зря. Если ожидание не мотивируйте - выкидывайте в мусорку задачу. Также очень помогает устраивать встречу с командой раз в неделю, где каждый разработчик, контентщик, продажник и тестировщик говорит что он самого главного сделал за неделю и как это повлияло на общую метрику. Так команда начинает думать головой и в правильном направлении, все на своем уровне.
Третье - признать ответсвенность за метрику. Часто метрику не говорят, потому что страшно. У меня тоже такое было. Когда не говоришь, куда идёшь вроде и облажаться нельзя. И перед командой не надо краснеть, когда значение метрики падает. Мы же интуитивно энгейджмент пользователя вырастили. А как его мерить никто не говорит - взятки гладки.
Но как говорила мудрая гусеница из Алисы в Стране чудес, чтобы ответить на вопрос «Куда мне идти?» нужно ответить на вопрос «А куда ты хочешь попасть?»
И как говорится, чтобы миллион оказался на счете, важно чтобы он сначала оказался в экселе. Бывают конечно исключения. Но если вы хотите чуть более надежных способов заработка, чем игра в лотерею - ставьте цели и говорите про них команде.
Один из самых простых способов убить компанию - не ставить команде четкие цели.
Кейс частый. И в моей практике такое было.
Приходишь в команду, ставишь 1-1, спрашиваешь у разработчика, тестировщика и маркетолога - в чем наша цель на следующий месяц и на год в цифрах и какое сейчас значение относительно нее.
И люди начинают невнятно выдавать общие вещи. В духе «мы растим качество продукта , энгейджмент, безопасность» и прочую херь. Без цифр. И все говорят разное.
Так вот. Если вы руководитель. Ваша самая самая главная и первая задача - сделать так, чтобы цель была, в цифре, она мотивировала и гарантировала долгосрочное развитие, чтобы каждый член команды четко понимал какая она и какое значение по этой метрике сейчас. Хорошо если цель выражена в деньгах. Деньги в отличие от всех остальных метрик сложно хакнуть. А если хакнули - значит это успех. В конечном итоге цель любой коммерческой компании - заработок денег. И то, за что люди готовы платить отличается от того, чему люди готовы просто пользоваться. Но это тема другого поста.
Дальше - как руководителю Вам надо сделать так, чтобы все, абсолютно все люди в компании понимали как то, что они делают влияет на общую цель и как. В тз обязательно нужно писать потенциальное влияние на метрику. То что вы не знаете влияние это нормально. Напишите ожидание, при котором вы будете считать что задача сделана не зря. Если ожидание не мотивируйте - выкидывайте в мусорку задачу. Также очень помогает устраивать встречу с командой раз в неделю, где каждый разработчик, контентщик, продажник и тестировщик говорит что он самого главного сделал за неделю и как это повлияло на общую метрику. Так команда начинает думать головой и в правильном направлении, все на своем уровне.
Третье - признать ответсвенность за метрику. Часто метрику не говорят, потому что страшно. У меня тоже такое было. Когда не говоришь, куда идёшь вроде и облажаться нельзя. И перед командой не надо краснеть, когда значение метрики падает. Мы же интуитивно энгейджмент пользователя вырастили. А как его мерить никто не говорит - взятки гладки.
Но как говорила мудрая гусеница из Алисы в Стране чудес, чтобы ответить на вопрос «Куда мне идти?» нужно ответить на вопрос «А куда ты хочешь попасть?»
И как говорится, чтобы миллион оказался на счете, важно чтобы он сначала оказался в экселе. Бывают конечно исключения. Но если вы хотите чуть более надежных способов заработка, чем игра в лотерею - ставьте цели и говорите про них команде.