Telegram Group Search
ai-privacy-risks-and-mitigations-in-llms.pdf
3.2 MB
💡Опубликован доклад 'AI Privacy Risks & Mitigations Large Language Models (LLMs)', в котором представлена комплексная методология управления рисками для систем LLM с рядом практических мер по снижению распространенных рисков конфиденциальности в системах LLM.
🔸Кроме того, в докладе приводятся примеры использования системы управления рисками в реальных сценариях:
1. виртуальный помощник (чатбот) для обработки запросов клиентов;
2. система LLM для мониторинга и поддержки успеваемости студентов;
3. ИИ-помощник для управления поездками и расписанием.
🏛️ Минцифры разработало проект постановления правительства, определяющий требования и методы к обезличиванию персональных данных
🔸В Минцифры доработали методы обезличивания персональных данных, которые должны начать действовать с сентября текущего года для наполнения госсистемы «озера данных». Операторам данных, которые будут сдавать информацию по запросу министерства, предложены несколько методов обезличивания, каждый из которых будет проводиться только через софт Минцифры.
🔸 Правила подготовлены к принятым прошлым летом поправкам к ФЗ «О персональных данных», которые установили механизм формирования баз данных с обезличенной информацией и их хранения в госсистеме. Механизм должен заработать в сентябре 2025 года. Загружать в систему дата-сеты по запросу Минцифры будут госорганы и компании—операторы данных, однако детали информационного обмена и методы обезличивания ранее установлены не были.
🔸Регулятор утвердил следующие методы обезличивания персональных данных:
а) метод введения идентификаторов – замена части сведений (значений ПД) идентификаторами с созданием таблицы (справочника) соответствия идентификаторов исходным ПД;
б) метод изменения состава или семантики – изменение состава или семантики ПД в том числе путем замены результатами статистической обработки или удаления части сведений;
в) метод декомпозиции – разбиение массива ПД на несколько частей с последующим раздельным их хранением;
г) метод перемешивания – перестановка отдельных записей, а также групп записей в массиве ПД;
д) метод преобразования – агрегация массива ПД, полученных в результате обезличивания, путем обобщения элементов структуры массива ПД, подлежащих обезличиванию, имеющих качественные или количественные значения применительно к каждому субъекту ПД.
🔸Бизнес будет уведомлен о необходимости представить информацию в систему, но обезличить данные сможет только с использованием специального программного обеспечения (ПО), его бесплатно предоставит Минцифры. Компании-операторы должны будут обеспечить «раздельное хранение» персональных и обезличенных данных, будут отвечать за их безопасность и исключение из обрабатываемой информации данных, доступ к которым ограничен по закону.
🔸Оператором системы станет Минцифры, а доступ к данным могут получить представители организаций, компаний и госорганов по запросу. При этом еще в тексте самих поправок, принятых летом, закреплялось, что передача данных со стороны бизнеса в госсистему осуществляется добровольно.
🏛️ Опубликованы следующие акты:
🔸Проект постановления Правительства РФ о порядке формирования составов обезличенных персональных данных и о порядке предоставления доступа к составам таких данных
🔸Проект постановления Правительства РФ о требованиях к обезличиванию персональных данных, методов и правил обезличивания персональных данных
🔸Приказ Минздрава РФ от 20.03.2025 № 139н
"Об утверждении Порядка обезличивания сведений о лицах, которым оказывается медицинская помощь, а также о лицах, в отношении которых проводятся медицинские экспертизы, медицинские осмотры и медицинские освидетельствования"
🏛️Подготовлен законопроект о применении биометрии в телемедицине
🔸Депутаты Госдумы подготовили законопроект, разрешающий использовать Единую биометрическую систему (ЕБС) для подтверждения личности пациентов при оказании телемедицинских консультаций. Сейчас биометрия применяется в России при оказании госуслуг, в банковской, транспортной и телекомотраслях. Законопроект был внесен в нижнюю палату еще 1 апреля, а на следующий день отозван авторами из-за технической ошибки. Законопроект будет вновь внесен в Думу. Документ предполагает поправки в ст. 36-2 закона об основах охраны здоровья.
🔸Рассматриваются разные сценарии применения ЕБС в телемедицине. В частности, она может использоваться для подтверждения личности при онлайн-консультациях в дополнение, например, к аутентификации через портал «Госуслуги», рассказал представитель оператора ЕБС АО «Центр биометрических технологий». Выбор способа подтверждения личности остается за пользователем, а применение биометрии в РФ исключительно добровольно, напомнил он.
🏛️ Банк оштрафован на 200 тыс. рублей за пересылку персональных данных в WhatsApp
🔸Российский суд впервые привлек к ответственности финансовую организацию за использование иностранного мессенджера для передачи персональных данных гражданина.
🔸С доказательствами нарушения банком закона в Роскомнадзор обратилась жительница Москвы. В ходе разбирательства выяснилось, что сотрудник кредитной организации, вопреки запрету, отправил с корпоративного номера сообщение должнику через WhatsApp.
🔸Банк был признан виновным по статье 13.11.2 КоАП и оштрафован на 200 тыс. рублей за коммуникацию с должником через WhatsApp.
🤷‍♂️Глава ВТБ заявил о потере "прайвиси" в современном мире
🔸Конфиденциальность личных данных в современном мире утрачена, считает глава ВТБ Андрей Костин.
🔸"Я вообще считаю, что мы потеряли, что называется, "прайвиси". <…> Куда бы ты ни пошел, куда бы ты ни поехал, чего бы ты ни сделал. <…> Мир такой становится. Он такой есть сегодня. Поэтому я даже не знаю, какие данные еще можно раскрыть", - заявил Костин на пленарной сессии конференции Data Fusion "Платформенная экономика: возможности и вызовы".
🏦 ЦБ создаст "единое окно" для управления согласиями на предоставление данных
🔸Банк России разрабатывает ряд инструментов для увеличения прозрачности обмена данными, в том числе "единое окно", в котором человек сможет управлять согласиями на предоставление персональных данных, сообщила глава ЦБ Эльвира Набиуллина, выступая на конференции ВТБ Data Fusion.
🔸"Обмен данными не очень прозрачен. Правила должны быть, они должны быть едиными, и должна быть ответственность за соблюдение этих правил, соразмерная рискам, которые возникают из недобросовестного или неосторожного использования больших объемов данных. Основные инструменты, которые мы для этого разрабатываем, - это открытые API (открытые программные интерфейсы) с понятным набором правил обмена данными и создание платформы коммерческих согласий. Это "единое окно", где человек сможет просматривать все согласия, которые он дал, и управлять ими, отказываться от этих согласий", - рассказала Набиуллина.
🔸Она отметила, что обладание данными позволяет персонифицировать продукты и сервисы, однако существуют и риски. "Это возможность утечки данных при обмене и второе - использование данных таким образом, что будут навязываться разного рода услуги. Вы позвонили, чтобы купить пылесос, а завтра вам звонят из автосалона, ремонта квартир и так далее", - добавила глава ЦБ.
😏"Ростелеком" выступил за ограничение числа организаций, хранящих данные граждан
🔸ПАО "Ростелеком" выступает за централизацию хранения персональных данных россиян - количество организаций, которые могут ее хранить, должно быть жестко ограничено, заявил президент компании Михаил Осеевский.
🔸"Мы являемся жесткими сторонниками централизации этой информации - в силу того, что много занимаемся вопросами информационной безопасности и знаем, как картина выглядит на самом деле. Количество мест, где должна храниться наша персональная информация, должно быть очень ограничено, и должно быть доверено только крупным институтам - государственным, банковским... Я сейчас не говорю о том, какой должна быть модель", - сказал Осеевский на пленарной сессии технологической конференции Data Fusion.
🔸Он отметил, что считает правильной модель, выбранную для биометрической информации граждан, которая хранится в Единой биометрической системе (ЕБС). Оператор ЕБС - "Центр биометрических технологий" (ЦБТ) - обеспечивает сбор, хранение, обработку и проверку биометрических персональных данных.
🔸"Персональные данные все время находятся под прицелом, и так будет очень долго. Мы находимся в состоянии кибервойны - это тоже надолго. И чем быстрее будет принято решение о централизации такой информации, тем картина будет лучше. Поэтому еще раз: мы сторонники ужесточения требований и введения ограниченного количества держателей нашей информации", - сказал глава "Ростелекома".
🏛️ Законопроект о предоставлении доступа к данным умерших организаторам похорон
🔸Депутаты Законодательного собрания Петербурга предложили изменить федеральный закон "О персональных данных". Проект постановления городского парламента рассмотрели на очередном заседании.
🔸Авторы инициативы указали, что такие поправки необходимы для организации похорон. Как сказано в пояснительной записке, сейчас в случае смерти человека согласие на обработку его персональных данных могут дать только наследники.
🔸Однако по другому федеральному закону, если умерший не оставил завещания, право на организацию погребения имеют родственники, а при отсутствии таковых — "иные лица". При этом лицу, взявшему на себя организацию похорон, для оформления необходимых документов требуется выразить согласие на обработку персональных данных умершего.
🔸Петербургские парламентарии предложили устранить эту правовую коллизию. Они решили обратиться в Госдуму со своей законодательной инициативой, а также направить проект поправок на заключение в правительство РФ.
🏛 В РФ может появиться возможность проверки работодателем данных из резюме
🔸Минцифры РФ рассчитывает на запуск возможности проверки работодателем данных из резюме соискателя. Об этом в ходе First Russian Data Forum сообщил министр цифрового развития РФ Максут Шадаев.
🔸"Есть несколько кейсов [по взаимодействию бизнеса с данными из государственных информсистем], которые мы хотим реализовать в этом году. Один из них касается кадров. Мы считаем, что любой работодатель, естественно, с согласия кандидата-соискателя, должен иметь возможность проверить те данные, которые указаны в резюме. Подтвердить свой опыт, стаж, образование должно быть просто и удобно", - сказал министр.
🔸Он пояснил, что соискатель должен принять запрос работодателя и разрешить ему получить подтверждающие сведения. "Мы рассчитываем на то, что уже в этом году будет запущен подобный кейс. Нам кажется, что это сильно упростит процесс найма, проверки сведений о кандидатах и сделает рынок более открытым и цивилизованным", - добавил министр. 
Privacy Advocates
😏"Ростелеком" выступил за ограничение числа организаций, хранящих данные граждан 🔸ПАО "Ростелеком" выступает за централизацию хранения персональных данных россиян - количество организаций, которые могут ее хранить, должно быть жестко ограничено, заявил президент…
🏛️ Минцифры не планирует централизовать хранение персональных данных россиян
🔸Минцифры не планирует централизацию хранения персональных данных россиян, сообщил журналистам глава министерства Максут Шадаев. "Так (как с Единой биометрической системой - ИФ) не планируем, что у нас будет одна организация, которая будет хранить все персданные", - сказал Шадаев, комментируя эту инициативу.
Data Fusion_ТК.pdf
468.3 KB
👁 Сегодня CEO Privacy Advocates Алексей Мунтян принял участие в конференции First Russian Data Forum 2025 на сессии "Совершенствование правовых механизмов работы с данными", в рамках которой Алексей поделился презентацией о возможности модернизации порядка защиты персональных данных работников, предусмотренного Главой 14 Трудового кодекса РФ:
🔸деприоритизация значения согласия в качестве ведущего основания обработки (в т.ч. передачи) ПД работника, т.е. отказ от «культа согласий» и переход к подходу «согласие как исключение из правила»;
🔸законность обработки (в т.ч. передачи) ПД работника, предусмотренной трудовым договором для реализации трудовых отношений;
🔸законность передачи ПД работника в не связанных с трудовыми отношениями целях с согласия работника, данного в любой подтверждаемой форме (т.е. отказ от обязательной письменной формы согласия).
Please open Telegram to view this post
VIEW IN TELEGRAM
🏛️ Замглавы РКН: от свободы обращения данных нужно переходить к их суверенитету
🔸Персональные данные россиян используются не только для создания новых полезных технологий, но и для втягивания в "информационный пузырь", а также осуществления мошеннических действий. Такое мнение выразил заместитель руководителя Роскомнадзора Милош Вагнер.
🔸"Персональные данные сегодня становятся ресурсом двойного назначения. Одни с их использованием создают технологии, которые делают жизнь человека насыщеннее и лучше. Другие вместо бесстрастного информирования о событиях в мире, расширения кругозора затягивают в информационный пузырь, манипулируют эмоциями и поляризуют общество. Я даже не буду говорить о прямо преступных технологиях, основанных на обладании персональными данными - вымогательство или телефонное мошенничество, основанное на социальной инженерии", - сказал он в ходе First Russian Data Forum.
🔸"Поэтому, на наш взгляд, необходимо говорить не столько о свободе обращения данных, сколько о суверенитете персональных данных. Чтобы компании, имеющие к ним доступ, ставили безусловным приоритетом безопасность человека и общества, интересы государства", - подчеркнул замглавы ведомства.
🔸В связи с этим сегодня необходима реформа института правовых оснований обработки данных и переход к модели, когда сбор и обработка данных будет возможна, если это прямо предусмотрено законодательством, считает Вагнер.
🔸В частности, сегодня необходимо перейти к новой модели организации обработки данных, в том числе с помощью крупных операторов, которые смогут обеспечить защиту информации, добавил Вагнер. "Они должны быть готовы брать на себя ответственность и в случае неприятных ситуаций платить административные штрафы, в том числе те, которые вступят силу в конце следующего месяца", - добавил он.
🏛️ Минцифры рассматривает отказ от хранения данных с портала «Госуслуги»
🔸Минцифры России к 2026 году хочет отказаться от хранения любых данных на портале "Госуслуги", заявил глава министерства Максут Шадаев на форуме Data Fusion.
🔸Он в ноябре 2023 года рассказал, что ведомство перестанет хранить большие массивы данных граждан в одном месте и перейдет к распределенной системе. Шадаев подчеркнул, что Минцифры откажется от архивов с персональной информацией пользователей "Госуслуг" и перейдет на ведомственную онлайн-витрину: все данные будут хранится в базах учреждений и будут использоваться для оказания госуслуг через электронную систему.
💡Чтобы уметь управлять вопросами ИИ, нужно уметь его применять! Начать этот путь можно с вебинара "Личный опыт: как начать использовать ИИ в своей работе".

📌22 апреля в 17:00 (Мск)
Павел Мищенко, сооснователь сообщества ilovedocs, партнер компании "Рунетлекс"

⭐️В программе: 
– как выбрать первую нейросеть и не запутаться;
– какие ошибки совершают новички;
– кейсы: юрдизайн и ускоренная проверка NDA;
– способы использования, которые увидел у других.

Вебинар продлится 1 час.

В конце Павел расскажет о втором потоке курса для юристов по нейросетям, который стартует 12 мая. И конечно же ответит на вопросы слушателей.

⚡️Зарегистрироваться можно в боте
Материалы РКН.pdf
195.8 KB
👁💡Обновлен перечень ссылок на полезные материалы для операторов персональных данных, опубликованные Роскомнадзором и его территориальными органами.
Please open Telegram to view this post
VIEW IN TELEGRAM
🏛️Прокуратура в ходе проверки официальных интернет-ресурсов органов власти и подведомственных организаций ряда субъектов РФ выявила нарушения в области обработки персональных данных
🔸Прокуратура в ходе проверки официальных интернет-ресурсов органов власти и подведомственных организаций ряда субъектов РФ, в том числе Москвы, Санкт-Петербурга и Московской области, выявила ряд нарушений. Об этом сообщил первый заместитель председателя комитета Совфеда по конституционному законодательству и госстроительству Артем Шейкин.
🔸"В рамках рассмотрения моих обращений по вопросам соблюдения законодательства о защите персональных данных генеральной прокуратурой были организованы проверки в ряде регионов, включая Москву, Санкт-Петербург и Московскую область. <...> Проведенные мероприятия подтвердили наличие отдельных нарушений в работе официальных интернет-ресурсов органов власти и подведомственных организаций", - сказал Шейкин.
🔸В Московской области выявлено 95 нарушений, внесено 84 представления, 32 сотрудника привлечены к дисциплинарной ответственности. В Санкт-Петербурге направлено 66 представлений, в Москве - 61 представление в адрес муниципалитетов, отметил сенатор.
🔸"Основные замечания связаны с неполным соблюдением требований информирования пользователей о сборе персональных данных, отсутствием уведомлений Роскомнадзора о трансграничной передаче, а также использованием сторонних аналитических сервисов, расположенных за пределами России", - сказал Шейкин.
💡Только треть работников в РФ не готовы делиться данными прежнего работодателя
🔸40% российских работников считают возможным использование «чувствительной» информации, полученной в ходе работы на своего прежнего работодателя, на новом месте работы. Среди топ-менеджеров готовы к такой практике большинство (67%), среди линейных специалистов — 37%. С учетом роста текучки на нынешнем рынке труда это может потребовать от компаний более эффективного контроля за информационной безопасностью.
🔸Как следует из ответов респондентов, абсолютное большинство (93%) не сталкивалось с просьбой предоставить рабочие документы, клиентские кейсы или коммерческие предложения с прошлого места работы при трудоустройстве на новую позицию. О факте таких запросов упомянули только 5%. При этом топ-менеджерам предлагают поделиться информацией чаще, чем рядовым сотрудникам,— среди первых с подобными запросами сталкивались 11%, среди вторых — только 3%.
🔸Большинство сотрудников (79%) перед уходом из компании не сохраняли у себя рабочую информацию, 3% сделали это случайно или по привычке, 4% забрали данные специально. У 14% сотрудников остались файлы в почте, облаке, на личных устройствах. При этом о полной блокировке доступа к информации прежнего работодателя сообщила треть респондентов (33%), 11% сохраняли его некоторое время.
💡🇷🇺 Эксперты RPPA [РФ] подготовили аналитический материал об определении личности субъекта персональных данных при обращении к оператору. Основные выводы материала:

1️⃣ Чтобы верно установить набор сведений, необходимых для решения задачи подтверждения тождественности, следует учитывать контекст обработки ПД.

2️⃣ Если установленные законом требования к обращению не исполнены, ни отказ в удовлетворении, ни исполнение требования субъекта сами по себе не будут нарушением.

3️⃣ При решении задачи подтверждения тождественности нужно исходить из целесообразности принятия дополнительных мер и уровня риска для прав субъекта при удовлетворении требования отправителя.

4️⃣ При оценке указанной целесообразности и уровня риска необходимо учитывать, в частности, объем данных в обращении, возможное влияние исполнения требования на обработку и (или) права субъекта.
2025/06/29 16:59:32
Back to Top
HTML Embed Code: