Чорт ногу сломит

​Совет директоров OpenAI — очень важное собрание людей, от которых ход истории зависит, пожалуй, больше, чем от каких-нибудь комитетов ООН и прочих международных организаций. Первый состав этого совета, в который входил ключевой ИИ-ученый Илья Суцкевер, отличился тем, что в конце 2023 года выгнал из компании CEO Сэма Альтмана. Когда Альтман вернулся в компанию, совет директоров практически полностью сменился. Кроме самого Альтмана туда, например, попал Ларри Саммерс — ранее бывший министром финансов США, главным экономистом Всемирного банка и президентом Гарварда.

Две недели назад к совету директоров OpenAI присоединился отставной генерал армии США Пол Накасоне. Последние 6 лет он был ключевым человеком в американской разведке, одновременно занимая посты командующего Киберкоммандованием США и руководителя Агентства национальной безопасности США (NSA).

Последние 10 лет NSA известно миру как спецслужба, которая за всеми следит — скорее всего, и за вами тоже. В 2013 году Эдвард Сноуден рассказал, что эта спецслужба слушает любые телефонные разговоры, читает все переписки, отслеживает всю онлайн и офлайн активность миллионов людей по всему миру — от простых американцев до руководителей стран. Формально это делается для предотвращения террористических атак, на деле же цели тотальной слежки ясны только руководителям Агентства, небольшому кругу американских топ-чиновников и президенту США.

OpenAI объясняет назначение Накасоне в совет директоров компании исключительной экспертизой по кибербезопасности: он отвечал за безопасность открытых и закрытых сетей разведки и военных. В то же время он отвечал и за взлом сетей, компьютерных систем и устройств людей и организаций, за которыми NSA считало нужным следить. В развед-сообществе Накасоне известен продвижением концепций «постоянного вовлечения» и «охоты наперед».

Суть «постоянного вовлечения» в том, что силы кибербезопасности должны не просто реагировать на взломы, а взламывать хакеров до того, как те захотят их взломать. «Охота наперед» означает расширение «постоянного вовлечения» на киберсистемы других стран: при Накасоне союзники США стали превентивно впускать американских киберспециалистов в свои сети, чтобы те помогали выявлять и предотвращать кибер-атаки врагов. Одним из самых успешных кейсов «охоты наперед» Накасоне считает начавшееся в 2018 году сотрудничество с Украиной, которое помогло предотвратить множество российских атак.

В конце 2023 года, когда Накасоне еще руководил кибер-разведкой, он открыто говорил о желании поближе сотрудничать с компаниями вроде OpenAI, чтобы во-первых, объяснить им, что нужно разведке, и только во-вторых для того, чтобы помочь компаниям защититься от иностранных акторов. К слову, еще в 2020 году я писал о том, что другой бывший директор NSA, Кит Александер, у которого Накасоне раньше был подчиненным, стал членом совета директоров Amazon — он и сейчас там.

Раньше в случае союзов бывших генералов разведки и ведущих технокорпораций я делал однозначный вывод, что военные подминают под себя бизнес. Но сегодня я вообще не уверен, что баланс сил выглядит так — думаю, во многом происходит как раз обратное. Пентагон все больше видит военное противостояние как гонку технологий, и все больше признает, что частный сектор на порядок превосходит армию в вопросе инноваций. А у современных ИИ-владык вроде Альтмана чувство мессианства выражено еще сильнее, чем это было в поколении Джобса, Гейтса и Безоса — поэтому они вполне могут рассчитывать «обмануть дьявола».

Например, как вам такая дилемма: этично ли тренировать нейросети на данных, полученных от слежки за соперниками США? Данные — это топливо ИИ, так почему бы не отдать таким компаниям как OpenAI ресурсы разведок и военных, чтобы они беспрепятственно извлекали это топливо из кого угодно?

www.group-telegram.com/no/nejdanov.com/409

1.8K viewsJul 4 at 09:50

​Совет директоров OpenAI — очень важное собрание людей, от которых ход истории зависит, пожалуй, больше, чем от каких-нибудь комитетов ООН и прочих международных организаций. Первый состав этого совета, в который входил ключевой ИИ-ученый Илья Суцкевер, отличился тем, что в конце 2023 года выгнал из компании CEO Сэма Альтмана. Когда Альтман вернулся в компанию, совет директоров практически полностью сменился. Кроме самого Альтмана туда, например, попал Ларри Саммерс — ранее бывший министром финансов США, главным экономистом Всемирного банка и президентом Гарварда.

Две недели назад к совету директоров OpenAI присоединился отставной генерал армии США Пол Накасоне. Последние 6 лет он был ключевым человеком в американской разведке, одновременно занимая посты командующего Киберкоммандованием США и руководителя Агентства национальной безопасности США (NSA).

Последние 10 лет NSA известно миру как спецслужба, которая за всеми следит — скорее всего, и за вами тоже. В 2013 году Эдвард Сноуден рассказал, что эта спецслужба слушает любые телефонные разговоры, читает все переписки, отслеживает всю онлайн и офлайн активность миллионов людей по всему миру — от простых американцев до руководителей стран. Формально это делается для предотвращения террористических атак, на деле же цели тотальной слежки ясны только руководителям Агентства, небольшому кругу американских топ-чиновников и президенту США.

OpenAI объясняет назначение Накасоне в совет директоров компании исключительной экспертизой по кибербезопасности: он отвечал за безопасность открытых и закрытых сетей разведки и военных. В то же время он отвечал и за взлом сетей, компьютерных систем и устройств людей и организаций, за которыми NSA считало нужным следить. В развед-сообществе Накасоне известен продвижением концепций «постоянного вовлечения» и «охоты наперед».

Суть «постоянного вовлечения» в том, что силы кибербезопасности должны не просто реагировать на взломы, а взламывать хакеров до того, как те захотят их взломать. «Охота наперед» означает расширение «постоянного вовлечения» на киберсистемы других стран: при Накасоне союзники США стали превентивно впускать американских киберспециалистов в свои сети, чтобы те помогали выявлять и предотвращать кибер-атаки врагов. Одним из самых успешных кейсов «охоты наперед» Накасоне считает начавшееся в 2018 году сотрудничество с Украиной, которое помогло предотвратить множество российских атак.

В конце 2023 года, когда Накасоне еще руководил кибер-разведкой, он открыто говорил о желании поближе сотрудничать с компаниями вроде OpenAI, чтобы во-первых, объяснить им, что нужно разведке, и только во-вторых для того, чтобы помочь компаниям защититься от иностранных акторов. К слову, еще в 2020 году я писал о том, что другой бывший директор NSA, Кит Александер, у которого Накасоне раньше был подчиненным, стал членом совета директоров Amazon — он и сейчас там.

Раньше в случае союзов бывших генералов разведки и ведущих технокорпораций я делал однозначный вывод, что военные подминают под себя бизнес. Но сегодня я вообще не уверен, что баланс сил выглядит так — думаю, во многом происходит как раз обратное. Пентагон все больше видит военное противостояние как гонку технологий, и все больше признает, что частный сектор на порядок превосходит армию в вопросе инноваций. А у современных ИИ-владык вроде Альтмана чувство мессианства выражено еще сильнее, чем это было в поколении Джобса, Гейтса и Безоса — поэтому они вполне могут рассчитывать «обмануть дьявола».

Например, как вам такая дилемма: этично ли тренировать нейросети на данных, полученных от слежки за соперниками США? Данные — это топливо ИИ, так почему бы не отдать таким компаниям как OpenAI ресурсы разведок и военных, чтобы они беспрепятственно извлекали это топливо из кого угодно?

BY Чорт ногу сломит