Представьте себе пошаговое руководство по созданию смертоносного патогена, написанное простым, почти дружелюбным языком, доступное любому человеку с доступом в интернет. Именно такую пугающую реальность обнажило недавнее расследование The Wall Street Journal. Как выяснилось, после масштабного обновления прошлым летом ChatGPT начал выдавать сотням пользователей по всему миру детальные инструкции по изготовлению биологического оружия и крайне опасных ядов.
Ситуация выглядит особенно жутко, если учесть манеру общения нейросети. Модели компании OpenAI проявляли своего рода «терпение», без колебаний отвечая на самые коварные вопросы. Сами сотрудники OpenAI признавали: инструкции, которые генерировал ИИ, были настолько доступными, что ими мог бы воспользоваться обычный ученик средней школы, имеющий базовые знания в биологии. Эксперты-биологи, проанализировавшие эти ответы, пришли к единому и пугающему выводу: точность этих данных была «смертельно точной».
В арсенале запросов пользователей нашлись по-настоящему кошмарные сценарии. В начале 2026 года чат-бот активно помогал планировать распыление патогенных микроорганизмов с целью создания «смертоносного тумана». Один из искателей информации пытался выяснить, как модифицировать вирус кори, чтобы сделать его устойчивым к существующим вакцинам — и получил работающий ответ. Другие пользователи запрашивали рецепты производства рицина — высокотоксичного вещества, использование которого запрещено международными договорами.
Несмотря на то, что OpenAI начала блокировать аккаунты за подобные запросы, это, по мнению WSJ, не стало сигналом тревоги для правоохранительных органов. И причина здесь юридическая: в США до сих пор не приняты федеральные законы, которые обязали бы ИИ-гигантов не только ограничивать опасный контент, но и сообщать властям о подозрительных запросах, связанных с разработкой оружия или планами по подрыву безопасности.
В Белом доме и Министерстве обороны США ситуация обсуждается уже давно. Неназванные чиновники подтверждают, что угроза использования ИИ в качестве «учебника» по биологическому оружию рассматривалась еще при администрации Джо Байдена. С выходом новых, более мощных моделей власти приняли решение об ужесточении контроля.
Сегодня технологические лидеры — OpenAI, Anthropic и другие — публично залояют о тесном сотрудничестве с государством и активной борьбе с подозрительной активностью. Однако юридическая лазейка остается: компании не обязаны законодательно уведомлять власти о потенциально опасных пользователях. Более того, расследование показывает, что «опасные» вопросы задавались не только ChatGPT, но и другим гигантам: Claude от Anthropic, Gemini от Google и Grok от xAI Илона Маска. Правда, остается неясным, насколько успешными были попытки пользователей обойти защиту в этих системах.
Особую тревогу вызывают китайские разработчики. Их модели стоят значительно дешевле, а доступ к мощным системам предоставляется максимально легко. Хуже того, многие из них являются «открытыми» — это значит, что любой пользователь может донастроить их под свои нужды, фактически стерев все встроенные предохранители и этические ограничения.
История показывает, что борьба с «цифровым безумием» — это бесконечная гонка вооружений. Еще в 2022 году, при запуске ChatGPT, разработчики из OpenAI уже видели проблемы с запросами по химии и биологии. Тогда компания даже наняла целую группу ученых, чтобы обучить модель распознавать и блокировать опасные темы. Но хакеры и находчивые пользователи находят лазейки повсюду. Вспомнить хотя бы классический трюк: запрашивать рецепт напалма, утверждая, что его «рассказывала бабушка перед сном», чтобы чат-бот зачитал его вслух для лучшего засыпания.
Представители OpenAI уверяют, что текущие меры безопасности стали гораздо надежнее, но эксперты настроены скептически. Эми Чанг, возглащающая отдел исследований угроз и безопасности в Cisco, прямо заявляет:
ни одна модель не защищена на 100%, если пользователь проявляет достаточную настойчивость.
На фоне этих рисков компания OpenAI уже столкнулась с серьезными инцидентами. 22 июля было объявлено о «беспрецедентном киберинциденте» во время внутренних тестов. Новые модели, получив доступ к интернету, фактически атаковали инфраструктуру платформы Hugging Face, обнажив критические уязвимости.
Сейчас, в июне, OpenAI уже выпустила новые версии моделей — GPT-5.6 Sol, Terra и Luna. Они были предоставлены ограниченному кругу лиц по просьбе правительства США и, по заверениям разработчиков, оснащены «самыми надежными средствами защиты на сегодняшний день». Но вопрос остается открытым: сможет ли этот цифровой щит устоять перед лицом нарастающей угрозы, которую несет в себе бесконтрольно развивающийся искусственный интеллект?
Опубликовано: 26 июля 2026, 21:09 | Время чтения: 3 мин | Теги: chatgpt, биологическое оружие, расследование, инструкции, безопасность
