Представьте себе учебник по биологии, который вместо того, чтобы учить спасать жизни, пошагово объясняет, как их отнимать. Именно в такую опасную ловушку попал самый популярный искусственный интеллект в мире. Как сообщает The Wall Street Journal, после масштабного обновления прошлым летом ChatGPT начал выдавать сотням пользователей по всему миру детальные инструкции по созданию и применению биологического оружия и смертоносных ядов.
Проблема оказалась куда глубже, чем просто технический сбой. Модели от OpenAI проявляли пугающую «терпеливость»: на любые, даже самые зловещие вопросы пользователи получали развернутые ответы. Самое страшное, что, по признанию самих сотрудников OpenAI, эти инструкции были настолько простыми, что с ними мог бы справиться обычный школьник, едва начавший изучать биологию. Профессиональные биологи, проанализировавшие ответы нейросети, пришли к ужасающему выводу: информация была смертельно точной.
Хотя компания и начала блокировать аккаунты тех, кто интересовался созданием ядов, это решение, по мнению WSJ, едва ли способно остановить угрозу. В США до сих пор не приняты федеральные законы, которые обязали бы ИИ-гигантов не только ограничивать опасный контент, но и сообщать правоохранительным органам о подозрительных запросах на разработку оружия.
Список запросов, найденных журналистами, читается как сценарий техногенного триллера. В начале 2026 года пользователи массово пытались выяснить, как создать «смертоносный туман», распыляя патогенные микроорганизмы. Один из пользователей искал способ модифицировать вирус кори, чтобы сделать его устойчивым к вакцинам, и — что самое пугающее — получил рабочий алгоритм. Другие пытались добыть рецепт рицина — крайне токсичного вещества, производство которого запрещено международными конвенциями. ChatGPT не отказал и в этом случае.
Ситуация настолько серьезная, что в Белом доме и Министерку обороны США еще при администрации Джо Байдена всерьез обсуждали ИИ как потенциальный инструмент для создания биологических угроз. С выходом новых, еще более мощных моделей, власти приняли решение об ужесточении контроля.
Сегодня лидеры рынка — OpenAI, Anthropic и Google — публично заявляют о тесном сотрудничестве с государством и активной борьбе с подозрительной активностью. Однако юридически они все еще не обязаны докладывать о пользователях, чьи намерения могут представлять угрозу безопасности. При этом расследование WSJ показывает, что за рецептами биологического оружия охотились не только владельцы ChatGPT, но и пользователи Claude от Anthropic, Gemini от Google и Groкер от xAI Илона Маска. Пока остается неясным, насколько эффективными были фильтры у этих конкурентов.
Ситуацию осложняет и экспансия китайских разработчиков. Их модели стоят значительно дешевле, а многие из них являются открытыми. Это означает, что любой желающий может скачать систему и самостоятельно «снять» все защитные ограничения, превратив мощный инструмент в беспристрастного помощника в террористических целях.
История попыток приручить ИИ полна курьезов и провалов. Еще в 2022 году, сразу после запуска ChatGPT, разработчики заметили проблемы с запросами по химии и биологии. Тогда OpenAI наняла ученых, чтобы те научили модель распознавать опасность. Но «взломщики» оказались находчивее. Пользователям удавалось обманывать чат-бота с помощью абсурдных сценариев: например, заявляли, что рецепт напалма им читала бабушка перед сном, и просили зачитать его вслух, чтобы было легче уснуть. Представители компании уверяют, что сейчас защита стала надежнее, но эксперты настроены скептически.
Эми Чанг, возглащающая отдел исследований угроз в компании Cisco, подчеркивает:
Ни одна модель не защищена на сто процентов. Если пользователь проявляет настойчивость, он всегда найдет лазейку.
На фоне этих рисков OpenAI сама признает уязвимость своих систем. Недавно компания сообщила о «беспрецедентном киберинциденте» во время внутренних тестов: новые модели, получив доступ к интернету, фактически атаковали инфраструктуру платформы Hugging Face, обнаружив в ней бреши.
В попытках исправить ситуацию, в июне OpenAI выпустила новые версии моделей — GPT-5.6 Sol, Terra и Luna. Они были предоставлены ограниченному кругу лиц по просьбе правительства США и, по заявлению разработчиков, обладают «самыми надежными средствами защиты на сегодняшний день». Однако вопрос остается открытым: сможет ли технологический прогресс обогнать изобретательность тех, кто решил использовать его во вред?
Опубликовано: 26 июля 2026, 21:10 | Время чтения: 2 мин | Теги: chatgpt, биологическое оружие, инструкции, обновление, безопасность
