Moonshot ограничила хакерские возможности новой модели Kimi на фоне опасений из-за кибератак с помощью ИИ

Компания намерена опубликовать веса модели — файлы, позволяющие сторонним разработчикам запускать её на собственных компьютерах и изменять её работу, — 4 ноября 2026 года. До этого Moonshot решила ограничить некоторые возможности модели в области кибератак, сохранив её общие навыки программирования.

Как Moonshot ограничила возможности Kimi для кибератак?

Компания сообщила, что удалила связанные с кибероперациями данные из обучающего набора модели, а также из сред обучения с подкреплением. При этом разработчики постарались сохранить общие навыки программирования, чтобы модель оставалась полезной для обычной разработки программного обеспечения.

Moonshot объяснила решение стремлением не выпускать в открытый доступ модель, которая существенно расширила бы возможности проведения кибератак.

Насколько эффективными оказались ограничения?

По внутренним тестам Moonshot, версия Kimi K3.1 Pro с защитными ограничениями набрала 81%, тогда как аналогичная версия без этих мер показала результат 90,5%.

Тестирование оценивало способность модели обнаруживать и использовать уязвимости программного обеспечения в контролируемой среде.

Таким образом, заявленный результат снизился на 9,5 процентного пункта. Однако компания отметила, что модель с ограничениями всё равно превзошла свою предшественницу.

Важная оговорка: результаты тестов опубликованы самой Moonshot и не прошли независимую проверку.

Почему открытые модели вызывают опасения?

Главная проблема заключается в двойном назначении технологий искусственного интеллекта.

С одной стороны, ИИ может помогать специалистам находить слабые места в программном обеспечении и исправлять их до того, как ими воспользуются злоумышленники. С другой — те же возможности могут облегчать автоматизацию кибератак.

Особенно много вопросов вызывает публикация открытых весов модели. После того как файлы получают широкое распространение, разработчику становится сложнее контролировать, кто использует систему, отслеживать её применение и распространять обновления защитных механизмов.

Как реагирует Китай?

Новость появилась вскоре после того, как Китай предложил новые экспортные ограничения в отношении некоторых технологий, связанных с искусственным интеллектом и кибербезопасностью.

Предлагаемые меры затрагивают технологии генерации и изменения вредоносного программного обеспечения с помощью ИИ, а также некоторые инструменты автоматизированного поиска уязвимостей. На момент публикации Reuters предложения ещё обсуждались.

Власти обеспокоены тем, что подобные возможности могут быть использованы против критической инфраструктуры, государственных систем и оборонной промышленности.

Что ещё известно о Kimi K3.1 Pro?

Moonshot описывает новую модель как систему класса с 3 триллионами параметров. Она поддерживает контекстное окно в 1 миллион токенов, позволяющее обрабатывать очень большие объёмы текста за один раз.

Компания также представила ускоренную версию Kimi K3.1 Pro Highspeed. По её заявлению, она работает в два-три раза быстрее стандартной версии.

Публикация весов Kimi K3.1 Pro запланирована на 4 ноября 2026 года.

Итог

Moonshot пытается найти баланс между открытостью ИИ и снижением рисков его использования для кибератак. Компания утверждает, что смогла уменьшить возможности модели в области наступательной кибербезопасности, сохранив навыки программирования.

Но главный вопрос остаётся открытым: насколько надёжными окажутся эти ограничения после публикации весов модели и смогут ли они противостоять попыткам обойти защитные механизмы?

Именно это станет одним из важных испытаний для разработчиков открытых ИИ-моделей.