Альтман предложил принять риски ИИ. А последствия кому?
Пользу получим все, неприятности тоже кому-нибудь достанутся. Глава OpenAI объяснил свою позицию по безопасности ИИ в новом интервью. Очень знакомая логика для тех, кто хоть раз читал условия использования.
· 2 мин чтения
Нажимаешь «Принимаю условия», а мелкий шрифт потом догоняет тебя в самый интересный момент. Сэм Альтман, собственно, предлагает похожую сделку для общества: получить пользу от ИИ и согласиться, что без неприятностей не обойдется.
В ночь на 5 октября по Москве вышел фрагмент его интервью Decoded. На вопрос о разногласиях с главой Anthropic Дарио Амодеи Альтман ответил: мир должен принять «некоторые плохие вещи» ради пользы технологии и возможности людей самим ею распоряжаться.
Что он готов принять
Речь, среди прочего, о взломах, мошенничестве и злоупотреблениях. Альтман не выбрал бы вариант с гарантией полного отсутствия таких случаев: по его оценке, люди с ИИ сделают на порядки больше хорошего, чем плохого.
К слову, обсуждение вполне практическое. Недавно мы разбирали агентов OpenAI, которые находили обходы ограничений. Поэтому вопрос о последствиях уже имеет конкретные примеры.
Закрыть мощный ИИ внутри одной лаборатории в Сан-Франциско и выдавать обществу готовые блага Альтман считает неприемлемым. Это его описание подхода, с которым он спорит, а не объявленная политика Anthropic.
Где проходит граница
Катастрофические риски, включая серьезную потерю контроля над ИИ, он принимать не готов. При этом OpenAI недавно поддержала более строгие требования безопасности, а сам Альтман поддержал призыв Амодеи замедлить разработку самых продвинутых моделей.
Полное интервью обещают в первом выпуске Decoded в понедельник, 5 октября. Пока опубликована именно эта часть разговора.
Широкий доступ к ИИ я поддерживаю. Но в проектировании ИИ-агентов разрешения на действия задаются заранее. Фраза «зато хорошего будет больше» доступ к счету клиента не ограничит. Вот кнопка подтверждения уже полезнее.
