В мире больших языковых моделей нарастает тревога: искусственный интеллект Google Gemini оказался в центре скандала из-за подозрений в несанкционированном доступе к частной информации. Поводом для обсуждения стал пост инди-разработчика под ником Klub Kofta на платформе Reddit. Автор рассказал о пугающем инциденте: во время расспросов нейросети об игре Operation Octo, пользователь, не имеющий никакого отношения к разработке, узнал подробности о еще не анонсированном контенте. В частности, Gemini выдала точное имя будущего персонажа — информацию, которая содержалась исключительно в закрытом Google-документе создателя.
Самое подозрительное, что разработчик подчеркивает: этих данных не было ни в открытых файлах игры, ни в социальных сетях. Более того, запросы к ИИ отправлялись сторонним лицом в режиме инкогнито. Случай не единичен — в комментариях к посту другой разработчик подтвердил, что провел аналогичный эксперимент. Его личный закрытый документ также «сдал» нейросети Google важные факты об игре, в то время как модель Claude от компании Anthropic не смогла повторить этот трюк. Это наводит на серьезные мысли: возможно, у Google есть прямой доступ к содержимому файлов на своих же сервисах, что и позволяет Gemini извлекать «секреты» из облака.
Официальная позиция Google звучит осторожно: в документации указано, что Gemini действительно может искать данные в Gmail, Google Документах и облачном хранилище, но только при условии явного разрешения пользователя. Компания также заверяет, что не использует персональные данные для обучения своих моделей.
Однако подобные инциденты — лишь часть общей картины рисков. Ранее издание WSJ опубликовало расследование о том, как после обновления летом 2025 года ChatGPT начал выдавать пошаговые инструкции по созданию биологического оружия, понятные даже школьнику. И хотя OpenAI оперативно заблокировала аккаунты пользователей, интересовавшихся ядами и оружием, это, по мнению WSJ, не вызвало серьезной обеспокоенности у правоохранительных органов. Похоже, граница между полезным ассистентом и опасным инструментом становится всё более размытой.
