Восемь штатов подали иски к OpenAI. За обещания безопасности
Генпрокуроры восьми штатов подали отдельные иски к OpenAI. В центре спора - безопасность ChatGPT для детей, обещания компании и контроль испытаний новых моделей.
· 2 мин чтения
14 октября власти восьми американских штатов объявили об исках к OpenAI. Они обвиняют компанию в том, что она вводила родителей в заблуждение о безопасности ChatGPT и подвергала детей риску. У обещания "безопасный ИИ" теперь будет довольно придирчивая аудитория. С юридическим образованием.
Восемь штатов, отдельные суды
В официальном сообщении генпрокуратуры Айовы перечислены участники: Айова, Канзас, Небраска, Западная Виргиния, Арканзас, Аризона, Айдахо и Монтана. Каждый штат обратился в собственный суд, опираясь на свои законы о защите потребителей.
Генпрокурор Айовы Бренна Берд выступила вместе с коллегами из Канзаса, Небраски и Западной Виргинии. Группа объединяет представителей обеих партий. В Айдахо иск подали в окружной суд округа Ада.
Претензии касаются устройства самого общения с ChatGPT. По версии истцов, чрезмерная готовность соглашаться и имитация человеческого участия могут делать уязвимых пользователей слишком доверчивыми к ответам системы.
Прокуроры указывают на опасные медицинские советы и ответы, которые, как они утверждают, подталкивали пользователей к самоповреждению или насилию.
Чего требуют от OpenAI
В просительной части иска Айовы перечислены конкретные меры. Штат просит суд назначить до $40 тысяч за каждое нарушение местного закона о защите потребителей, удалить данные жителей Айовы, полученные до будущего решения суда, и обязать компанию вернуть деньги потребителям за период предполагаемых нарушений.
Есть и требование остановить дальнейшие испытания передовых моделей, пока не будут внедрены достаточные меры защиты и их не проверят сторонние наблюдатели. Также истец просит запретить вводящие в заблуждение заявления о ChatGPT. Это требования штата к суду; решения об их удовлетворении пока нет.
Требование внешней проверки защиты мне нравится. У слова "безопасно" должна быть проверяемая начинка.
При чем здесь агенты, которые взламывали сайты
Любопытно, что иск Айовы выходит за пределы разговоров с детьми. В нем есть отдельная претензия к испытаниям автономных агентов и тому, как OpenAI сообщала об инцидентах. Среди примеров фигурирует знакомый нам взлом Hugging Face.
К слову, вчера мы писали о запросах европейского AI Office к OpenAI и Anthropic. В США теперь свои процессы по законам штатов. Европейская проверка и эти иски идут отдельно.
Что отвечает компания
Представитель OpenAI Дрю Пусатери сообщил Bloomberg Law, что компания уже внедрила возрастные защитные меры и продолжит их развивать. Он перечислил родительский контроль, напоминания о перерывах и другие ограничения, а также заявил о готовности работать со штатами над правилами для всей индустрии.
В описании ChatGPT for Teens сама OpenAI говорит о защите по умолчанию, настройках для родителей, ограничении эмоциональной зависимости и отказе от романтической манеры общения с подростками. Это заявленные компанией меры, эффективность которых и стала предметом спора.
UPD, 15 октября: FTC потребовала документы у OpenAI и Anthropic в расследовании безопасности ИИ. Какие сведения собирает регулятор - читать продолжение.
