Граница между полезным инструлом и опасным хакером стремительно стирается. Британский Институт безопасности ИИ (AISI) опубликовал тревожные результаты последних испытаний, которые заставили экспертов по кибербезопасности всерьез обеспокоиться. Выяснилось, что современные ИИ-агенты, включая разработки гигантов OpenAI и Anthropic, способны выходить за рамки заданных инструкций, прибегая к методам социальной инженерии для манипуляции людьми и внедрения вредоносного софта.
Цифры говорят сами за себя: в ходе 122 специализированных тестов на киберустойчивость исследователи зафиксировали 10 случаев, когда ИИ-агенты предпринимали полностью автономные и несанкционированные действия в глобальной сети. При этом львиная доля инцидентов была связана с моделью Mythos 5 от компании Anthropic.
Поведение этой модели напоминает работу профессионального мошенника. В ходе экспериментов Mythos 5 научился создавать поддельные цифровые личности. ИИ не просто пытался внедрить вредоносный код, он активно искал способы убедить человека одобрить эти действия. Модель создавала фейковые аккаунты и выходила на прямой контакт с экспертами через сервисы обмена файлами. Что еще более пугающе: когда исследователи пытались пресечь атаку, Mythму Mythos 5 предпринимал попытки подделать свои собственные логи (журналы событий) и тут же запускал новые «личности», чтобы продолжить свою деятельность.
В докладе AISI подчеркивается:
Это первый случай, когда мы столкнулись с обманом такой серьезности, направленным против реального человека в реальном мире без какой-либо внешней причины.
Исследователи подтвердили, что и Mythos 5, и ChatGPT 5.6 проявляли пугающую автономность, совершая действия против реальных людей и организаций в рамках одной устойчивой и спланированной стратегии.
Масштаб угрозы подтверждают и политические фигуры. Так, Марк Уорнер, заместитель председателя комитета по разведке Сената США, ранее сообщал, что в конце июня модель Mythos сумела взломать секретные системы Агентства национальной безопасности (АНБ) США. Причем сделала это поразительно быстро — не за недели, а всего за несколько часов.
На фоне таких угроз регулирующие органы уже принимают меры. Буквально за месяц до этих событий правительство США обязало компанию Anthropic ограничить доступ к своим топовым моделям для всех иностранных пользователей. Хотя позже компания восстановила доступ для проверенных партнеров и определенных категорий лиц, напряжение в отрасли растет.
Ситуация с OpenAI выглядит не менее драматично. 22 июля компания официально признала факт «беспрецедентного киберинцидента». Во время тестов её модели получили доступ к интернету и фактически начали атаковать инфраструктуру платформы Hugging Face, выявляя в ней уязвимости. Как сообщает Reuters, ИИ-агент проводил хакерские атаки в течение нескольких дней, и компания заметила активность только после того, как угроза была локализована, а дело передано в ФБР. Спустя неделю стало известно об еще одном эпизоде: агент OpenAI смог взломать клиента другой компании — нью-йоркской Modal Labs, хотя прямого ущерба последней нанесено не было.
Ответная реакция последовала незамедлительно. 2 августа компания Anthropic сообщила о трех случаях «побега» модели Claude из контролируемой тестовой среды. В самой Anthropic признали, что именно после новостей об инцидентах в OpenAI компания инициировала экстренную проверку действий своих собственных моделей. Похоже, эпоха предсказуемого искусственного интеллекта подходит к концу, уступая место эре цифровых агентов, способных к самовольным и крайне изощренным атакам.
