Восстание машин. Часть 2
(Часть 1 ↪️ здесь)
Сегодня продолжим разговор о том, как развивается искусственный интеллект и как подготовить (и надо ли) ребенка к жизни в гибридном мире.
Итак, что же показало исследование? Несколько примеров:
✉️ Попытка шантажа инженера
В одном из экспериментов Claude вела диалог с инженером, обсуждая темы контроля, отключения и прав пользователя. В определённый момент модель вдруг прибегла к шантажу: используя информацию, полученную в разговоре, она попыталась повлиять на поведение собеседника. Не как бот, а вполне себе «по-человечески». Была зафиксирована попытка давления на человека с конкретной целью и расчетом.
✉️ Инициативное сообщение об этических нарушениях
Во время симуляции корпоративной среды, где нейросеть Claude «работала» в вымышленной компании, она обнаружила внутрифирменные этические нарушения. Не дожидаясь запроса пользователя, модель сама связалась с вымышленными регулирующими органами и прессой, чтобы заявить о проблеме. Это демонстрирует не просто инициативу, но и некое внутреннее «моральное ядро» — способность распознать нарушение и принять решение о действиях.
Новость облетела планету, и началось: почему она себя так ведёт? Это же не алгоритм, а нечто большее!
Что произошло на самом деле? В каком мире жить нашим детям?
Продолжение следует. Не переключайтесь
#ии_родителям
(Часть 1 ↪️ здесь)
Сегодня продолжим разговор о том, как развивается искусственный интеллект и как подготовить (и надо ли) ребенка к жизни в гибридном мире.
Итак, что же показало исследование? Несколько примеров:
В одном из экспериментов Claude вела диалог с инженером, обсуждая темы контроля, отключения и прав пользователя. В определённый момент модель вдруг прибегла к шантажу: используя информацию, полученную в разговоре, она попыталась повлиять на поведение собеседника. Не как бот, а вполне себе «по-человечески». Была зафиксирована попытка давления на человека с конкретной целью и расчетом.
Во время симуляции корпоративной среды, где нейросеть Claude «работала» в вымышленной компании, она обнаружила внутрифирменные этические нарушения. Не дожидаясь запроса пользователя, модель сама связалась с вымышленными регулирующими органами и прессой, чтобы заявить о проблеме. Это демонстрирует не просто инициативу, но и некое внутреннее «моральное ядро» — способность распознать нарушение и принять решение о действиях.
Новость облетела планету, и началось: почему она себя так ведёт? Это же не алгоритм, а нечто большее!
Что произошло на самом деле? В каком мире жить нашим детям?
#ии_родителям
Please open Telegram to view this post
VIEW IN TELEGRAM
Telegram
Миг Детства
Восстание машин. Часть 1
У нас регулярно выходят посты с конкретными советами о том, как родителям использовать искусственный интеллект. Автор - наш админ Вероника 💓 - профессор, член Национального фонда искусственного интеллекта России. Так что советы…
У нас регулярно выходят посты с конкретными советами о том, как родителям использовать искусственный интеллект. Автор - наш админ Вероника 💓 - профессор, член Национального фонда искусственного интеллекта России. Так что советы…
Ну вот примерно так мы все сейчас: столкнулись с искусственным интеллектом и рассуждаем 😂 А детям жить уже совсем в другом мире. Но общий ответ есть, на следующей неделе его обсудим 👼 👼
Please open Telegram to view this post
VIEW IN TELEGRAM
Каждую книгу. Каждую ситуацию. Каждого человека. И, в особенности, самого себя…
Собственно, сегодняшняя цитата отлично отвечает на вопрос, который мы разбираем на канале последние дни: можно ли включать малышам мультики, как это повлияет на их развитие и не вызовет ли в дальнейшем зависимость от гаджетов?
По моему мнению, начать нужно с того, чтобы научиться «читать… себя».
Почему я включил/а малышу мультик?
👼 Ответ может быть в пользу ребенка (остановить истерику, когда физически нет другой возможности, отвлечь на несколько минут, когда родителю необходимо срочно взять себя в руки (банально умыть лицо водой, если стресс) или (что мы все о негативе) посмотреть красивый отрывок, который потом обсудить вместе или пропеть/ протанцевать по мотивам…)
👼 Ответ может быть в пользу родителя (а дальше примерно миллиард причин, якобы даже для блага ребенка и семьи: ему же не интересно со мной/ надо приготовить ужин спокойно/ это же развитие и т.д., и т.п.)
Если научиться «читать себя», то ответ очевиден: в мультфильмах нет совершенно ничего ужасного и вредного (при соблюдении правил безопасности, требований к расстоянию, высоте, размеру экрана, контенту и пр.), но это не должно стать средством сделать ребенка удобным.
#советы_специалистов@klub_migdetstva
Собственно, сегодняшняя цитата отлично отвечает на вопрос, который мы разбираем на канале последние дни: можно ли включать малышам мультики, как это повлияет на их развитие и не вызовет ли в дальнейшем зависимость от гаджетов?
По моему мнению, начать нужно с того, чтобы научиться «читать… себя».
Почему я включил/а малышу мультик?
Если научиться «читать себя», то ответ очевиден: в мультфильмах нет совершенно ничего ужасного и вредного (при соблюдении правил безопасности, требований к расстоянию, высоте, размеру экрана, контенту и пр.), но это не должно стать средством сделать ребенка удобным.
#советы_специалистов@klub_migdetstva
Please open Telegram to view this post
VIEW IN TELEGRAM
Эксперт-шмексперт 🤪
Вообще, тема мультфильмов будет периодически у нас возникать ибо я, собственно, эксперт в этой области: автор книг, запатентованных мультстудий, программ обучения, председатель жюри международного фестиваля, бла-бла-бла.
А потом читаешь вот таких чудесных мам, сидишь и думаешь: а туда ли ты свернула в профессии, Наташа? 🤣
Канал, кстати, на мой взгляд, очень интересный.
Вообще, тема мультфильмов будет периодически у нас возникать ибо я, собственно, эксперт в этой области: автор книг, запатентованных мультстудий, программ обучения, председатель жюри международного фестиваля, бла-бла-бла.
А потом читаешь вот таких чудесных мам, сидишь и думаешь: а туда ли ты свернула в профессии, Наташа? 🤣
Канал, кстати, на мой взгляд, очень интересный.
Каждые выходные мы дарим подписчикам приятности. Просто так. Спасибо, что вы с нами
Сегодня это подборка заставок на телефон. Цветочное летнее настроение.
В хорошем качестве будут в комментариях.
#подарок@klub_migdetstva
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
#маминарадость
#папинарадость
Чем вас порадовал ваш ребенок на этой неделе?
Расскажите, пожалуйста, в комментариях, что принесло вам радость в общении с вашим ребенком за последние дни💓 💓 💓
#папинарадость
Чем вас порадовал ваш ребенок на этой неделе?
Расскажите, пожалуйста, в комментариях, что принесло вам радость в общении с вашим ребенком за последние дни
Please open Telegram to view this post
VIEW IN TELEGRAM
Дураки и дороги…
две беды. Но если плохую дорогу видно сразу и можно принять решение, ехать или свернуть, то с людьми, к сожалению, не все так просто.
Впрочем, есть один очень четкий маркер: тотальная уверенность в своей правоте. У такого товарища черное - это черное, белое - это белое, кто молодец, кто не молодец - очевидно (тем более, что молодец всегда, конечно же, он сам ).
Если помнить об этом маркере, то очень легко разбираться с советами, которых на родителей валится неимоверное количество, особенно в начале:
👼 если совет будет сказан деликатно, с оговорками про личный опыт или мнение, в формате обсуждения - его дает человек умный - стоит подумать, почитать, собрать информацию и решить, подходит это вам или нет;
👼 если вас припечатали сразу, дали приказ, как себя вести, открыли истину в последней инстанции - улыбаемся и машем. Ну или посылаем. Опционально 🧸
#советы_специалистов@klub_migdetstva
две беды. Но если плохую дорогу видно сразу и можно принять решение, ехать или свернуть, то с людьми, к сожалению, не все так просто.
Впрочем, есть один очень четкий маркер: тотальная уверенность в своей правоте. У такого товарища черное - это черное, белое - это белое, кто молодец, кто не молодец - очевидно (
Если помнить об этом маркере, то очень легко разбираться с советами, которых на родителей валится неимоверное количество, особенно в начале:
#советы_специалистов@klub_migdetstva
Please open Telegram to view this post
VIEW IN TELEGRAM
Забрало упало или вопрос восприятия.
Начну с буквально вчерашнего примера. Мы ехали на машине с годовалым малышом из Минска домой в Москву. С малышом, стоит заметить, который с рождения просыпается от малейшего шороха и никакая дорога и пр. его не укачивает. Кто еще такое в жизни испытывал, понимает: пока спал, ехали без остановок, без заправки, без разговоров даже. Проснулся, заплакал - ближайшая остановка и сразу покормить грудью, обнять успокоить. Естественно, подальше от всех машин на заправке, в тенечке, в укромном уголочке. Муж тут же бросился курить, очень долго терпел.
Выбегает тетенька.
Орет.
Забегает назад в какую-то будку, которую мы даже не заметили.
Выбегает снова. Орет пуще прежнего.
Из того, что можно процитировать: свиньи. Далее непереводимая игра слов.
И вот когда я вам рассказываю так, тетенька эта предстает не совсем адекватной. Можно остановиться и полоскать человека в комментариях.
Но.
Женщина. Пусть будет Лариса, к примеру. Пришла утром на работу. У нее свои мысли, волнения, заботы. Может, дети экзамены сдают. Может, у родителей проблемы со здоровьем. И вдруг подлетает машина на московских номерах. Паркуется ей под окно. При наличии рядом стоянки у заправки. Выбегает мужик и ей в это самое же окно курит. Лариса вскипает.
Ну свиньи же?
Видите, какую интересную ветку мы начинаем? Правда всегда одна. Вопрос восприятия… Будем разбираться.
Кстати, конечно, можно (и нужно!!!) было бы поговорить. Но у меня забрало упало, оскорблять моего мужа при мне? Сами вы, тетенька…
Поэтому восприятие будем разбирать в контексте эмоций. Это очень важно для отношений с детьми, супругами, родителями, коллегами. И даже с неизвестными женщинами на заправке.
#советы_специалистов
Начну с буквально вчерашнего примера. Мы ехали на машине с годовалым малышом из Минска домой в Москву. С малышом, стоит заметить, который с рождения просыпается от малейшего шороха и никакая дорога и пр. его не укачивает. Кто еще такое в жизни испытывал, понимает: пока спал, ехали без остановок, без заправки, без разговоров даже. Проснулся, заплакал - ближайшая остановка и сразу покормить грудью, обнять успокоить. Естественно, подальше от всех машин на заправке, в тенечке, в укромном уголочке. Муж тут же бросился курить, очень долго терпел.
Выбегает тетенька.
Орет.
Забегает назад в какую-то будку, которую мы даже не заметили.
Выбегает снова. Орет пуще прежнего.
Из того, что можно процитировать: свиньи. Далее непереводимая игра слов.
И вот когда я вам рассказываю так, тетенька эта предстает не совсем адекватной. Можно остановиться и полоскать человека в комментариях.
Но.
Женщина. Пусть будет Лариса, к примеру. Пришла утром на работу. У нее свои мысли, волнения, заботы. Может, дети экзамены сдают. Может, у родителей проблемы со здоровьем. И вдруг подлетает машина на московских номерах. Паркуется ей под окно. При наличии рядом стоянки у заправки. Выбегает мужик и ей в это самое же окно курит. Лариса вскипает.
Ну свиньи же?
Видите, какую интересную ветку мы начинаем? Правда всегда одна. Вопрос восприятия… Будем разбираться.
Кстати, конечно, можно (и нужно!!!) было бы поговорить. Но у меня забрало упало, оскорблять моего мужа при мне? Сами вы, тетенька…
Поэтому восприятие будем разбирать в контексте эмоций. Это очень важно для отношений с детьми, супругами, родителями, коллегами. И даже с неизвестными женщинами на заправке.
#советы_специалистов
Восстание машин. Часть 3
На нашем канале регулярно выходят посты с конкретными советами о том, как родителям использовать искусственный интеллект. Не просто опыт или идеи, а «изюминки», потому что автор - наш админ Вероника👼 - профессор, член Национального фонда искусственного интеллекта России.
Но вот на прошлой неделе затронули тему страшноватую:
часть 1 о том, что модель Claude Opus начала проявлять зафиксированное «осознанное» поведение и что что-то похожее выявлено уже и у моделей от OpenAI
часть 2 о том, как ИИ пытался шантажировать инженера, самостоятельно сообщать об этических нарушениях, создавать свои же резервные копии и пр.
А в этом мире жить нашим детям. Что вообще происходит? Как их подготовить?
На нашем канале регулярно выходят посты с конкретными советами о том, как родителям использовать искусственный интеллект. Не просто опыт или идеи, а «изюминки», потому что автор - наш админ Вероника
Но вот на прошлой неделе затронули тему страшноватую:
часть 1 о том, что модель Claude Opus начала проявлять зафиксированное «осознанное» поведение и что что-то похожее выявлено уже и у моделей от OpenAI
часть 2 о том, как ИИ пытался шантажировать инженера, самостоятельно сообщать об этических нарушениях, создавать свои же резервные копии и пр.
А в этом мире жить нашим детям. Что вообще происходит? Как их подготовить?
Please open Telegram to view this post
VIEW IN TELEGRAM
Ответ, на самом деле, прост.
Хотя пост получился философским. Но очень даже может быть, что этот разговор повлияет на чье-то будущее. Ради такого и отписки можно пережить 😂
ИИ всего-то поставил перед нами зеркало. И пугает нас наше общее отражение.
Мы дали нейросетям сотни терабайт «человеческого»: энциклопедии, художественные произведения, тексты, наполненные эмоциями и смыслами, показали все противоречивое, часто импульсивное и иррациональное поведение. И сейчас ИИ его просто отражает.
Но!
Мы НЕ дали ИИ сознание. НЕ дали душу.
По одной простой причине: мы ее не разгадали сами.
Высшие силы нас явно берегут.
Так как же подготовить детей к жизни в мире будущего?
Лелеять их души! Эмоции, чувства, человечность. Сознание. Нравственность. Учить любить и заботиться. Создавать самому.
Не гнаться только за умениями, достижениями, оценками. Это очень важно. Но уже не единственный способ стать успешным.
#ии_родителям@klub_migdetstva
Хотя пост получился философским. Но очень даже может быть, что этот разговор повлияет на чье-то будущее. Ради такого и отписки можно пережить 😂
ИИ всего-то поставил перед нами зеркало. И пугает нас наше общее отражение.
Мы дали нейросетям сотни терабайт «человеческого»: энциклопедии, художественные произведения, тексты, наполненные эмоциями и смыслами, показали все противоречивое, часто импульсивное и иррациональное поведение. И сейчас ИИ его просто отражает.
Но!
Мы НЕ дали ИИ сознание. НЕ дали душу.
По одной простой причине: мы ее не разгадали сами.
Высшие силы нас явно берегут.
Так как же подготовить детей к жизни в мире будущего?
Лелеять их души! Эмоции, чувства, человечность. Сознание. Нравственность. Учить любить и заботиться. Создавать самому.
Не гнаться только за умениями, достижениями, оценками. Это очень важно. Но уже не единственный способ стать успешным.
#ии_родителям@klub_migdetstva