Взлом Northflank привёл к злоупотреблению клиентскими AI API-ключами

Northflank позволяет разработчикам размещать и управлять приложениями, контейнерами, базами данных и AI-проектами. 30 октября компания получила предупреждение от фирмы Wiz, занимающейся облачной безопасностью. Вскоре после этого Northflank призвала клиентов считать, что все переменные окружения могли быть расшифрованы, а содержащиеся в них секреты — похищены.

Переменные окружения часто используют для хранения паролей к базам данных, облачных учётных данных, токенов авторизации и API-ключей. Если такие данные попадут к злоумышленникам, они могут получить доступ к другим сервисам или использовать платные AI-модели за счёт владельцев ключей.

Что известно об инциденте

Northflank сообщила, что несколько клиентов уже столкнулись с несанкционированным использованием AI API-ключей, которые они предоставили платформе. Компания рекомендовала проверить журналы использования и выставления счетов у AI-провайдеров и сообщить о подозрительной активности Northflank и самим поставщикам AI-сервисов.

Согласно опубликованной хронологии, Wiz предупредила Northflank о проблеме в 11:43 UTC 30 октября. Инженеры компании начали проверку минутой позже. Затем Northflank выпустила исправление сетевой политики и ещё два обновления — в 12:50 и 13:05 UTC. К расследованию также подключилась команда реагирования на инциденты Wiz.

Компания пока не раскрыла, каким образом злоумышленники проникли в её системы, сколько клиентов пострадало и были ли похищены или использованы другие учётные данные помимо AI API-ключей.

В рамках реагирования Northflank включила возможность смены учётных данных для PostgreSQL, MongoDB, MySQL и Redis. Компания также предоставила журналы аудита всем клиентам, включая пользователей бесплатных тарифов. Клиентам по-прежнему рекомендуют обновить секреты в приложениях, группах секретов и глобальных настройках, а также отключить публичный доступ к дополнениям, если он включён.

«Чёрный октябрь» для AI-платформ

Инцидент произошёл на фоне серии атак на платформы для разработки ИИ. В отчёте Black October for AI Developer Platforms компания Wiz описала как минимум девять инцидентов за октябрь. Среди затронутых платформ — Northflank, Railway, OpenCode, Warp и Lightning AI.

В случае Railway также могла произойти утечка расшифрованных переменных окружения клиентов. OpenCode сообщил о раскрытии AI API-ключей, а Warp — об утечке журналов AI-агентов и телеметрии пользователей.

По данным Wiz, злоумышленники в некоторых случаях целенаправленно искали переменные окружения с учётными данными для AI-сервисов. Украденные ключи могут использоваться в атаках, известных как LLMJacking: злоумышленники обращаются к языковым моделям за счёт чужих API-ключей, создают большие счета или перепродают полученный доступ.

В двух расследованных Wiz случаях с использованием скомпрометированных корпоративных учётных данных было выполнено около 2,5 млн запросов к Amazon Bedrock, что привело примерно к 100 000 долларов расходов на AI-сервисы.

Исследователи также обнаружили инфраструктуру, связанную с перепродажей доступа к AI-моделям, но не смогли установить её связь с первоначальными взломами или крупными случаями злоупотребления. Wiz не утверждает, что все девять инцидентов были организованы одной группой, однако во многих из них предпринимались попытки похитить AI API-ключи.

Главное: утечка секретов на облачной платформе может позволить злоумышленникам не только получить доступ к другим системам, но и запускать платные AI-модели за чужой счёт. Northflank пока не раскрыла масштаб инцидента и способ проникновения.