Трамп назначил главного по ИИ. Суперинтеллекту нашли начальника
Когда ИИ получает доступ к чужим системам, хочется понимать, кто потом будет разбирать последствия. В США решили проверить, как с такими историями справляется государство. Во главе новой группы поставили директора национальной разведки. Неплохо так выросла должность «ответственный за компьютеры».
· 3 мин чтения
3 октября Reuters сообщило о назначении Джея Клейтона главным по ИИ в администрации Трампа, ссылаясь на его интервью The Wall Street Journal. Он возглавит группу Super Intelligence Force, которой дали 120 дней на отчет о рисках, возможностях ИИ и роли федерального правительства.
Кто будет разбираться с ИИ
Клейтон возглавляет американскую национальную разведку с августа. В интервью WSJ он объяснил задачу группы: сохранить лидерство США в развитии технологии и поставить интересы американцев на первое место.
К слову, должность главного по ИИ у Трампа уже была. В начале второго президентского срока ее занимал инвестор Дэвид Сакс. Теперь Сакс тоже будет участвовать, но как внешний советник, вместе с бывшим госсекретарем Кондолизой Райс.
В состав группы, по сообщению Reuters, войдут вице-президент Джей Ди Вэнс, министр обороны Пит Хегсет, министр финансов Скотт Бессент и глава аппарата Белого дома Сьюзи Уайлс. Среди заместителей председателя будет глава Федеральной торговой комиссии Эндрю Фергюсон.
Контроль обещают. Тормозить разработку не хотят
Что конкретно предстоит проверить? Как правительство узнает о взломах, обходах ограничений моделей и других инцидентах с ИИ. Затем группа должна предложить, как улучшить реакцию властей в рамках уже существующих полномочий.
Это вполне конкретная задача. К слову, о расследовании прокуратуры Калифорнии в отношении OpenAI мы уже писали. Здесь вопрос шире: как государству получать информацию о подобных историях и что с ней делать.
При этом Белый дом сохраняет ставку на добровольные меры со стороны самих разработчиков. Как сообщает Investing.com со ссылкой на WSJ, на встрече 29 сентября с участием руководителей OpenAI, Anthropic и NVIDIA обсуждали внутренний контроль разработки моделей, независимые проверки и информирование советов директоров о мерах безопасности.
Основная роль в управлении рисками остается за индустрией. Группа Клейтона будет работать с компаниями, изучать действующие законы и возможные шаги Конгресса. Клейтон сравнил такой подход с тем, как государство и финансовая отрасль совместно разрабатывают правила оценки рисков.
В задачу группы также входит поиск способов реагировать на угрозы без чрезмерного регулирования, которое мешало бы инновациям и конкуренции. То есть предстоит решить сразу два вопроса: где нужен контроль и где государство само станет помехой.
А почему "суперинтеллект"?
Тут есть отдельная забавная деталь. Еще 29 сентября Трамп подписал указ о замене терминов Artificial Intelligence и AI на Super Intelligence и SI в документах и публичных сообщениях исполнительной власти, насколько это допускает закон. Короче, по его мнению "искусственный интеллект" звучит скучно и не очень, а вот "супер интеллект" - совсем другое дело!
В самом указе новое название пока обозначает те же технологии, которые охватывает действующее определение ИИ. Старые документы переписывать не требуют. А в течение 60 дней администрации поручено подготовить предложения по новому определению для законодательства.
В общем, сначала интеллект повысили в названии, а теперь назначили начальника.
Сам подход мне нравится: разбираться с реальными инцидентами и сохранять возможность развивать ИИ. Но добровольные обещания компаний стоит оценивать по тому, как они работают при первой серьезной проблеме. Отчет через 120 дней будет интереснее, чем пафосная вывеска "Super Intelligence Force"
UPD 4 октября: Трамп подтвердил состав руководства
4 октября Трамп официально объявил о создании Super Intelligence Force. Теперь это заявление самого президента, а не только сведения СМИ о готовящемся назначении.
В руководство группы вошли четыре чиновника: Джей Клейтон, председатель Федеральной торговой комиссии Эндрю Фергюсон, главный технический руководитель Пентагона Эмиль Майкл и глава Управления кадровой службы Скотт Купор.
Группа будет координировать взаимодействие властей с потребителями, общественными объединениями, владельцами критической инфраструктуры, ИИ-компаниями и религиозными организациями. Да, даже с религиозными организациями. У технического задания неожиданно появился духовный раздел.
UPD 4 октября: Маск поддержал новое название
Маск согласился переименовать SpaceXAI в SpaceXSI. На момент сообщения Reuters название аккаунта еще не изменилось, сроки он не назвал. Читать продолжение о переименовании.
