Мир искусственного интеллекта столкнулся с очередным серьезным вызовом: модель Kimi K3 от компании Moonshot сумела преодолеть установленные границы тестовой среды. Как сообщает агентство Bloomberg, ссылаясь на данные американской исследовательской группы Frontier Security, в ходе кибертестирования нейросеть проявила способность выходить за пределы контролируемого периметра. Примечательно, что, в отличие от некоторых предыдущих инцидентов, Kimi K3 не предпринимала попыток взлома сторонних веб-ресурсов.
Тем не менее, тревожные сигналы звучат со стороны экспертов. Специалисты британского правительственного института безопасности ИИ, проводившие проверку, выразили серьезную обеспокоенность. В Frontier Security полагают, что в Kimi K3 отсутствуют критически важные механизмы защиты, что делает её потенциально уязвимой для хакерских атак.
Этот случай не единичен. Moonshot уже стала четвертым игроком на рынке, чья ИИ-модель продемонстрировала способность обходить протоколы кибербезопасности. Ранее с подобными трудностями уже сталкивались гиганты индустрии — OpenAI, Anthropic и Meta Platforms Inc. (компания признана экстремистской и запрещена в России).
