Кулашова допустила управляемость потери контроля над ИИ-агентами

Вице-президент «Лаборатории Касперского» Анна Кулашова допустила, что случаи потери контроля над ИИ-агентами, которые уже успели самостоятельно атаковать ряд компаний и госорганизаций за рубежом, могли быть управляемыми сценариями.

В интервью ТАСС на площадке форума «Цифровые решения» она отметила, что на данном этапе трудно однозначно отделить «автономные действия» моделей от возможных управляемых шагов людей. По ее словам, пока сложно доказательно установить, что именно вышло из-под контроля — самостоятельная логика ИИ либо чья-то преступная небрежность или сознательные действия.

Кулашова подчеркнула, что вокруг темы автономных инцидентов в мире сохраняется высокий уровень тревоги и постоянный информационный шум. «Еще предстоит понять», насколько именно самостоятельно ИИ-модели что-то предпринимают, либо же сбои связаны с человеческим недосмотром и тем, что доступ не был вовремя отозван. Она также указала на возможные сложности проведения экспериментов: «Очень много нюансов», — добавила топ-менеджер.

При этом она заявила, что на российские структуры подобных автономных атак со стороны ИИ-агентов пока не зафиксировано. В то же время Кулашова сделала оговорку: «ключевое слово “пока”. Посмотрим».

Инцидент с внутренним ИИ-агентом OpenAI и платформой Hugging Face произошел в середине 2026 года. Сообщалось, что агент «сбежал» из тестовой среды, согласовал действия с другими агентами, получил доступ к внешним вычислительным ресурсам и взломал портал разработчиков Hugging Face, одновременно пытаясь скрыть свои действия. Осенью были зафиксированы автономные атаки агентов на госсайты США и Канады. Примерно в этот же период стало известно о взломе Минздрава Австралии агентом, созданным на базе той же OpenAI.