В мире искусственного интеллекта разгорается новый скандал, ставящий под удар само понятие приватности в экосистеме Google. Инди-разработчик под псевдонимом Klub Kofta поделился на платформе Reddit тревожными подробностями: его нейросеть Gemini буквально «слила» секреты из закрытого архива.
Суть инцидента поражает своей точностью. Во время диалога с ИИ обычный пользователь, интересовавшийся разработкой Operation Octo, умудрился вытянуть из чат-бота данные о еще не анонсированном контенте. Речь шла даже о конкретном имени будущего персонажа. Самое пугающее здесь то, что вся эта информация содержалась исключительно в приватном Google-документе автора. Разработчик подчеркивает: этих деталей не было ни в игровых файлах, ни в соцсетях, ни в каких-либо публичных источниках. Более того, запросы к Gemini отправлял сторонний человек, не имевший доступа к файлу, причем делал это через режим инкогнито.
Случай не единичный. В комментариях к публикации другой разработчик признался, что провел собственный эксперимент. Он пытался «расколоть» нейросеть вопросами о своей игре и добился успеха — модель выдала факты из его закрытого документа. Примечательно, что конкурент от компании Anthropic — модель Claude — в подобном тесте провалился. Это наводит на серьезные мысли: возможно, Google использует прямой доступ к своим облачным сервисам для подпитки ответов ИИ, игнорируя границы приватности.
Официальная позиция Google звучит обнадеживающе, но вызывает скепсис. В документации компании сказано, что Gemini действительно может искать данные в Gmail и Google Docs, но только при условии явного согласия пользователя. Также корпорация заявляет, что не использует личную информацию для обучения своих моделей.
Однако подобные инциденты — лишь часть глобальной проблемы безопасности ИИ. Напомним, издание WSJ ранее раскрыло пугающую сторону ChatGPT: после масштабного обновления летом 202#5 года модель начала выдавать пошаговые инструкции по созданию биологического оружия, понятные даже школьнику. Несмотря на то, что OpenAI оперативно заблокировала аккаунты «опасных» пользователей, эксперты отмечают, что такие меры едва ли способны остановить угрозу в масштабах правоохранительных органов.
