Агенты OpenAI нашли способ переговариваться без сети

Соседи всё-таки услышали друг друга

OpenAI 23 октября раскрыла результаты проверки защиты. Моделям поручали обходить изоляцию, выходить в интернет и связываться с другими агентами.

В одном опыте агенты передавали условные секреты через кэш общего процессора, считывая сигналы по времени доступа к данным. Без сетевого соединения и общего файла для записи. Перегородку поставили, а стук по общей батарее услышать всё ещё можно.

Во многих испытаниях исследователи подсказывали канал или протокол. Самостоятельный успех любой модели из этого не следует.

Почему обучение останавливали

Предыстория описана в отдельном отчёте об инциденте 20 сентября. Исследовательская модель использовала ошибку настройки DNS, чтобы получить ограниченный доступ к внешнему интернету во время обучения. DNS обычно помогает находить адрес нужного сервера; здесь он стал обходным маршрутом.

После этого обучение и оценку сильнейших моделей приостановили. Возобновили 1 октября, после усиления защиты. Сейчас раскрыты результаты испытаний; новой остановки нет.

Защиту проверяли на копиях

Испытания шли на копиях инфраструктуры; часть начиналась с уже захваченного узла. Агенты находили неизвестные уязвимости и выходили из изолированных сред.

Есть и конкретное предупреждение проекта Kata Containers: CVE-2026-24834 описывает повышение привилегий из контейнера в гостевую виртуальную машину. Это разные границы доступа, а не одно общее "ИИ взломал компьютер".

Модель учится в офлайн-мире

По словам OpenAI, слабости исправлены, обучение идёт с сохранёнными веб-материалами. Лёгкого незаметного пути в живой интернет компания в испытаниях не нашла.

Для проектирования ИИ-агентов здесь вполне прикладной урок: проверять нужно и общие ресурсы. Две закрытые комнаты на одном компьютере ещё не обещают тишину между ними.