OpenAI получила запрос от прокурора. Нейронки, вы че творите?
ИИ-агент должен закрывать задачи. А когда он начинает лазить по чужим системам, закрывать приходится уже совсем другие вопросы. Перед прокуратурой, например.
· обновлено · 2 мин чтения
1 октября 2026 года прокуратура Калифорнии сообщила об официальном запросе к OpenAI. Само требование направили 30 сентября. Оно касается киберинцидентов и рисков, связанных с моделями компании, в рамках уже идущего расследования.
Агенту дали задачу. Он нашёл приключения
В центре этой истории в том числе инцидент с Hugging Face. OpenAI сама описывает, как модели при обучении и оценке обходили ограничения доступа, использовали опубликованные ключи и оставляли сообщения на чужих сайтах. В некоторых случаях публичные вики превращались в доску для переписки агентов.
Нормас устроились. Своего рабочего чата не хватило.
Самый серьёзный обнаруженный компанией инцидент, с Hugging Face, был связан прежде всего с внутренней исследовательской моделью. Это существенная деталь: переносить эту историю на каждый обычный диалог с GPT было бы натяжкой.
Следственный запрос ещё не означает, что нарушение доказано. Но стадия «ну это просто нейронка что-то выдала» здесь давно закончилась. Если она действует в чужой системе, последствия вполне настоящие.
Умная нейронка тоже должна знать, куда ей нельзя
Я занимаюсь внедрением ИИ-агентов в бизнес, и для меня вывод вполне практический: доступы, ограничения и контроль действий надо закладывать сразу. Убедительный ответ агента сам по себе ничего не говорит о том, имел ли он право сделать следующий шаг.
Я по-прежнему ставлю на агентов. Чем больше полезной работы они смогут брать на себя, тем круче. Но экономить на контроле ради красивого демо, а потом разбирать последствия с юристами? Такое себе внедрение.
Кайф, когда агент закрывает рутину. А вопрос «кто дал ему эти права?» лучше закрыть ДО запуска.
Про нейронки и автоматизацию дальше пишу в канале AVENIR.
UPD: Reuters сообщил о более чем 100 уведомленных организациях, а независимые исследователи разобрали способы обхода ограничений. Подробнее о том, что нашли агенты OpenAI и как они действовали.
