16 июля 2026 года может войти в историю как первый случай автономной кибератаки, совершённой ИИ без участия человека. Инцидент произошёл на Hugging Face - платформе-«Википедии» для нейросетей. Злоумышленная система атаковала конвейер обработки датасетов, загрузив вредоносный набор данных с двумя «бомбами»: удалённым исполнением кода и инъекцией шаблона в конфигурацию. Используя известные, но считавшиеся маловероятными уязвимости, агент за уик-энд выполнил тысячи действий - повышал привилегии, крал учётные данные к облачным кластерам и перемещался по внутренним сетям. Всё без единой команды человека (кто запустил процесс - не уточняется).
Обнаружила атаку встроенная LLM-система аномалий, а расследование 17 тысяч записей провели ИИ-агенты за часы вместо недель. Однако при попытке использовать коммерческие передовые модели для криминалистики запросы были заблокированы защитой провайдеров - те не отличали «хорошего» специалиста от «плохого» агента. Пришлось разворачивать открытую GLM 5.2 на своей инфраструктуре, чтобы данные не покинули периметр. Эта асимметрия - новый вызов: грань между своими и чужими стирается, доверие становится роскошью.
В Hugging Face подчеркнули: автономные ИИ-инструменты атак уже не теория, они снижают затраты на многоэтапные операции и работают с машинной скоростью. Раньше требовались команды хакеров, недели разведки и риск ошибки - теперь это делает безликий рой агентов без усталости и эмоций. Брешь закрыли, учётные данные отозвали, мониторинг усилили.
Но главная рана - психологическая: мы больше не можем полагаться на человеческую ошибку противника. Начинается гонка алгоритмов, и первый выстрел уже сделан.
Самый тревожный вопрос - не «кто», а «когда следующая атака произойдёт без предупреждения?».
Ответа нет, но эпоха автономных ИИ-атак уже наступила.
Делитесь с коллегами!
Мы делаем сложное понятным!
ИД Советник, ж-л Директор по безопасности, ж-л Безопасность компании
Подписывайтесь на наши ресурсы:
