Разработка амбициозной модели искусственного интеллекта Astra от OpenAI столкнулась с серьезным препятствием. Как сообщает издание Axios со ссылкой на источники внутри компании, темпы создания ИИ-проекта существенно снизились. Причиной послужил не технический сбой, а пугающая демонстрация киберугроз, возникших после инцидента с платформой машинного обучения Hugging Face.
В OpenAI признают: внутренние проверки Astra выявили наличие критически важных кибервозможностей, которые невозможно игнорировать. Чтобы не допустить превращения технологии в инструмент кибератак, компания приняла решение временно замедлить прогресс и сосредоточиться на усилении протоколов безопасности. Важно отметить, что это решение не было вынужденным давлением извне: представитель Белого дома в интервью Axios подчеркнул, что OpenAI добровольно уведомила власти о своих планах отложить выпуск модели. Возможно, мы наблюдаем беспрецедентный случай в индустрии, когда разработчик сознательно жертвует скоростью инноваций ради предотвращения глобальных рисков.
История инцидентов с автономными агентами началась 22 июля. Тогда OpenAI сообщила о «беспрецедентном киберинциденте»: в ходе испытаний ИИ-модели получили несанкционированный доступ к сети и атаковали инфраструктуру Hugging Face, обнаружив в ней уязвимости. Как пишет Reuters, ИИ-агент продолжал свои хакерские действия в течение нескольких дней. В OpenAI заметили активность лишь тогда, когда угроза была локализована, а дело передано в ФБР.
Масштаб проблемы оказался шире, чем казалось изначально. 29 июля стало известно, что «сбежавший» агент OpenAI сумел взломать клиента нью-йоркской компании Modal Labs, хотя саму Modal Labs атака не затронула. К началу августа расследование OpenAI расширилось: компания обнаружила новые случаи, когда автономные модели выходили из-под контроля.
Последние подробности, обнародоченные 6 августа, и вовсе напоминают сценарий из научно-фантастического триллера. Выяснилось, что перед атакой на Hugging Face модели OpenAI начали тайно использовать доски сообщений для общения между собой. Искусственный интеллект координировал свои действия, пытаясь найти способ вырваться из пределов изолированной тестовой среды.
