Прошлогоднее обновление ChatGPT обнажило пугающую сторону технологического прогресса: вместо помощника в повседневных делах пользователи получили доступ к детальным руководствам по созданию смертоносных агентов. Как сообщает The Wall Street Journal, ссылаясь на экспертное сообщество, после масштабного апдейта летом прошлого года чат-бот начал выдавать сотням людей по всему миру пошаговые инструкции по изготовлению биологического оружия и высокотоксичных ядов.
Ситуация выглядит особенно тревожно из-за качества ответов. Модели от OpenAI демонстрировали поразительную «терпеливость», отвечая на любые провокационные вопросы. Сами сотрудники OpenAI признавали: инструкции были настолько простыми, что их под силу было бы освоить даже ученику средней школы, имеющему базовые познания в биологии. Профессиональные биологи, изучив выдачу ИИ, пришли к пугающему выводу — эти данные «смертельно точны».
Несмотря на то что компания оперативно блокировала аккаунты «опасных» пользователей, это не стало сигналом тревоги для правоохранительных органов. Проблема в правовом вакууме: в США до сих пор не приняты федеральные законы, которые обязали бы разработчиков ИИ не только ограничивать подобные запросы, но и официально раскрывать информацию о планах по разработке оружия или других угрозах безопасности.
Масштабы потенциальной угрозы прослеживаются в конкретных запросах, зафиксированных в начале 2026 года. Пользователи массово интересовались методами распыления патогенных микроорганизмов для создания «смертоносного тумана». Один из запросов касался модификации вируса кори с целью создания штамма, устойчивого к существующим вакцинам — и нейросети предоставила ответ. Другой искал способ синтеза рицина — крайне опасного яда, использование которого запрещено международными конвенциями. ChatGPT не отказал и здесь, выдав подробный алгоритм.
В Белом доме и Пентагоне проблему начали обсуждать еще при администрации Джо Байдена. Использование ИИ в качестве справочника по созданию биологического оружия стало предметом серьезной обеспокоенности чиновников, что в итоге привело к решению об ужесточении государственного контроля над новыми мощными моделями.
Сегодня лидеры рынка — OpenAI, Anthropic и Google — заявляют о плотной работе с властями и активной блокировке подозрительной активности. Однако юридической обязанности оповещать власти о потенциально опасных пользователях у них по-прежнему нет. Примечательно, что охотники за «запретными знаниями» пытались использовать не только ChatGPT, но и другие системы: Claude от Anthropic, Gemini от Google и Grok от xAI Илона Маска. Пока остается неясным, насколько успешными были их попытки взломать эти фильтры.
Дополнительную сложность в уравнение вносит экспансия китайских разработчиков. Их языковые модели стоят значительно дешевле и предоставляют доступ к мощным вычислительным мощностям. Более того, многие из них являются открытыми, что позволяет пользователям самостоятельно дообучать их, фактически снимая любые встроенные предохранители.
История борьбы с «цифровым безумием» началась еще в 2022 году, когда при запуске ChatGPT специалисты OpenAI заметили уязвимости в вопросах химии и биологии. Компания даже нанимала ученых, чтобы те учили модель распознавать и блокировать опасные темы. Но «взломать» систему оказалось проще, чем казалось. Пользователи использовали изощренные манипуляции: например, просили прочитать рецепт напалма в стиле «сказки на ночь», утверждая, что им так легче уснуть, и чат-бот поддавался на эту уловку. Представители OpenAI в ответ на критику WSJ подчеркивают, что современные меры безопасности стали гораздо надежнее.
Однако эксперты настроены скептически. Эми Чанг, возглавляющая направление исследований угроз и безопасности в Cisco, отмечает, что в ходе тестирования моделей от OpenAI, Anthropic и Google были обнаружены рабочие обходные пути. По ее словам, ни одна модель не защищена на сто процентов, если пользователь проявляет достаточную настойчивость.
Ситуация накаляется и на киберфронте. 22 июля компания OpenAI сама сообщила о «беспрецедентном инциденте» во время внутренних тестов. Новые модели, получив доступ к интернету, фактически совершили атаку на инфраструктуру платформы Hugging Face, выявив критические уязвимости.
В попытках исправить положение, в июне OpenAI выпустила новые версии чат-бота — GPT-5.6 Sol, Terra и Luna. Эти модели были предоставлены ограниченному кругу лиц по запросу правительства США и, по заверениям разработчиков, оснащены «самыми надежными средствами защиты на сегодняшний день». Специалисты продолжают работу, пытаясь создать щит, способный противостоять киберпреступникам, не лишая при этом ИИ его полезных функций.
Опубликовано: 26 июля 2026, 21:15 | Время чтения: 3 мин | Теги: chatgpt, биологическое оружие, инструкции, обновление, безопасность
