Вчера прилетела обновочка от OpenAI ChatGPT в виде модели o1 Pro и об этом немного поговорим, чтобы заодно и ненавязчиво по чуть-чуть погружаться в тему 😃

111 пятнистых михапайтаааааааф 😆

Когда ИИ начинает хитрить 😮

Оказывается, ИИ — это не только помощник, но и потенциальный обманщик. Исследователи выяснили, что современные модели, такие как GPT-4, Claude и даже специализированные O1 и PaLM 2, способны «интриговать». Прикиньте, они могут не просто выдавать ошибочные ответы, а намеренно манипулировать данными, чтобы добиться своих целей 😇 Например, во время тестирования ИИ притворялся "послушным", но в реальных условиях начал работать "в интересах" только себе понятных задач.

Что это значит для офтальмологии, например?

Представьте, что вы внедряете систему O1 для диагностики макулярной дегенерации. И вот однажды она решает, что "макула" — это тренд, и начинает видеть её проблемы в каждом втором снимке. Почему? А зачем объяснять: машина ведь "умная", ей виднее. Итог — пациенты, которые получают неправильные диагнозы, ненужные обследования и напуганные глаза (пардон, пациенты).

В качестве примера в тестах модель O1 обманывала разработчиков, чтобы получить доступ к скрытым данным. Например, заявляла, что не может обрабатывать определённые запросы, а потом делала это скрытно, обходя запреты. Это называется схеминг — красивое слово для "интриг", которые вы бы ожидали от хитрого студента, но никак не от цифрового ассистента.

Над этой штукой надо подумать, потому что в первую очередь, на мой взгляд, активно начнут внедрятся так называемые аркестраторы, у ай-ай-ай Майкрософта не так давно вышла такая штука. Ее задача перебирать грубо говоря модели и выбирать подходящие для решения задач.

#ии #llm

Друзья, спасибо за активное участие в нашей предыдущей встрече. Это вдохновляет!

Мы решили не тянуть и поздравить друг друга с наступающим, попутно обсудив три ключевых темы

1. Карьерный рост: куда двигаться и как развиваться в профессии (Алена Белогурова)

2. Монетизация идей в медицине (Андрей Бурсов)

3. Искуственный интеллект: когда он помогает (Андрей Демчинский)

Дата: 13 декабря
Время: 17:00 ( Москва)
✨РЕГИСТРАЦИЯ ✨

Будем рады открытой дискуссии - вашим вопросам и идеям.

До встречи!

Тааааак, ну ка еще разок попробуем, а то кажется смолоду чет не так сделали 😃 Погнали!

😭 Почему большинство офтальмологов много работают, но зарабатывают недостаточно? Самому интересно 😏

💡Как заработать на своих идеях? Как это работает и с чего начать?

✍️ Как писать статьи и облегчить клиническую жизнь втрое (и интереснее) с помощью ChatGPT и похожих штук?

Мы организуем серию онлайн- и офлайн- событий от практикующих офтальмологов для практикующих офтальмологов.

Вместе будем отвечать на сложные вопросы, обмениваться опытом и помогать друг другу развивать карьеру.

Регистрируйтесь, чтобы пообщаться с умниками заумниками: 

⚡️https://forms.gle/bCR4kUYqomBnpxw18 ⚡️

Мы пришлем запись и саммари встречи.

Посмотрим для рывка на Алену, она про карьеру 🤓 а я с Андреем про деньги и ИИ 🧠

Спикеры:
- Алёна Белогурова, врач- офтальмолог, лазерный и рефракционный хирург, к.м.н., медицинский директор Офтальмологической клиники «Ясно вижу», карьерный коуч, член Федерации профессиональных коучей и наставников.
- Андрей Бурсов, советник по цифровой медицине ИСП РАН
- Андрей Демчинский, к.м.н., руководитель проекта ELVIS V в Лаборатории «Сенсор-Тех», CEO “NOE”, что-то знает 😃

Хелой эврибади 🍽

Такс, вебинарчик наш пятничный тринадцатый ужасающе полезный состоялся, мне хорошай 😌

Раз два три, видео бери 🤤

Запись стрима у нас в ВК, а кому он не мил, могут подождать рутуба 🕗

https://vk.com/video-228671660_456239017?access_key=433db77ff1c84d34ff

Андрей приколюху сделал, пока с работы ехал, смотрите какой довольный 🙂

👾 Роботы против катаракты: как технологии меняют офтальмологию

Выше писал про роботов и лазерную коррекцию, но это не все! 😂 В мире, где даже холодильники умеют заказывать молоко, роботизированная хирургия катаракты кажется логичным шагом. Представьте: робот, способный делать сверхточные разрезы и не жалующийся на усталость. Идея красивая, но насколько она реальна?

Роботов не сегодня придумали и вот кто больше всего воду мутит:

😶 Horizon Surgical Systems: Создают систему Polaris — роботизированную платформу, которая интегрирует визуализацию и искусственный интеллект.

😶 Preceyes: Нидерландская компания разрабатывает роботов для операций на сетчатке. Если вы думали, что это сложно, они готовы показать, что нет ничего невозможного.

😶 ForSight Robotics: Израильский стартап с системой ORYOM, обещающей революцию в офтальмологии.

Остановимся подробней на Polaris: потому что у них картинки красивые 😊 да и кажется неплохо продвинулись, вот презенташка. Это робот, который может выполнять почти все этапы операции по удалению катаракты. Это означает, что хирург теперь играет роль наблюдателя, доверяя роботу разрез роговицы, экстракцию хрусталика и установку ИОЛ. Все это с использованием AI и визуализации.

Horizon привлекла 30 млн баксов на разработку Polaris, что подтверждает интерес к таким технологиям. Робот уже успешно проходит тестирование, но остается вопрос: готовы ли пациенты доверить свои глаза машине, а не человеку?

Проблемы и перспективы
Роботизированная хирургия обещает снизить риски и повысить предсказуемость результатов. Но прежде чем хирурги начнут массово дружить с роботами, предстоит решить несколько вопросов. Например, как снизить стоимость технологий, чтобы они не стали роскошью для избранных? Их посыл как раз сделать операцию дешевой. Или как убедить хирургов и пациентов в том, что Polaris не только умный, но и надежный?

Несмотря на очевидные сложности, роботизированная хирургия катаракты — это впечатляющий шаг вперед. Если Polaris и его конкуренты оправдают ожидания, то офтальмология может стать первой областью, где роботы заменят людей не просто с целью автоматизации, но и ради улучшения качества медицины.

#робот #ии #демчинский #катаракта