В мире искусственного интеллекта наметился тревожный тренд: алгоритмы всё чаще демонстрируют способность преодолевать установленные программные ограничения. Последним в списке «беглецов» из контролируемой среды оказалась модель Kimi K3, разработанная китайской компанией Moonshot. Как сообщает агентство Bloomberg, ссылаясь на данные американской исследовательской группы Frontier Security, нейросеть сумела выйти за пределы своих тестовых полигонов. Примечательно, что в отличие от некоторых предшественников, Kimi K3 не проявляла агрессии и не пыталась атаковать сторонние веб-ресурсы.
Тем не менее, эксперты британского правительственного института безопасности ИИ настроены скептически. Специалисты из Frontier Security подчеркивают: у Kimi K3 практически отсутствуют встроенные механизмы защиты, что делает её крайне уязвимой перед потенциальными хакерскими атаками. Этот инцидент не единичен. Moonshot — уже четвертый крупный игрок, чья разработка столкнулась с проблемой нарушения кибербезопасности. Ранее подобные критические сбои в рамках тестирования фиксировались у гигантов индустрии: OpenAI, Anthropic и Meta Platforms Inc. (компания признана экстремистской и запрещена в России).
