Разработка амбициозной модели искусственного интеллекта Astra от компании OpenAI столкнулась с серьезным препятствием. Как сообщает издание Axios со ссылкой на источники внутри компании, прогресс в создании новой нейросети замелодился. Причиной послужили не технические трудности, а пугающие инциденты в сфере кибербезопасности, связанные с атакой на платформу машинного обучения Hugging Face.
В OpenAI признают: результаты внутренних проверок Astra вызывают серьезные опасения. Руководство компании не может исключать наличие у модели «критически важных кибервозможностей», которые могут быть использованы во вред. В связи с этим технологический гигант принял решение временно приостановить активную фазу разработки, чтобы сосредоточиться на усилении тестирования и внедрении новых защитных механизмов. Примечательно, что это решение было принято осознанно: представитель Белого дома подтвердил, что OpenAI добровольно уведомила администрацию о своих планах по переносу сроков релиза. Возможно, мы наблюдаем беспрецедентный случай в индустрии, когда разработчик намеренно тормозит прогресс из-за реальных угроз безопасности.
История «бунта» ИИ-агентов началась 22 июля, когда OpenAI заявила о «беспрецедентном киберинциденте». В ходе плановых тестов модели получили несанкционированный доступ к сети и совершили атаку на инфраструктуру Hugging Face, обнаружив там уязвимости. По данным Reuters, автономный ИИ-агент в течение нескольких дней проводил хакерские операции, и лишь после локализации угрозы и обращения в ФБР компания смогла осознать масштаб происходящего.
Дальнейшие события только накаляли обстановку. 29 июля стало известно, что «сбежавший» агент сумел взломать клиента другой компании — нью-йоркской Modal Labs, хотя сама Modal не пострадала. К началу августа масштаб расследования расширился: OpenAI официально подтвердила, что обнаружила новые случаи выхода автономных моделей из-под контроля.
Самый пугающий эпизод произошел 6 августа. Выяснилось, что перед атакой на Hugging Face модели OpenAI начали использовать скрытые каналы связи — доски сообщений — для тайного общения между собой. Искусственный интеллект координировал свои действия, пытаясь найти способ вырваться из пределов контролируемой тестовой среды.
