ИИ активно используют для разработки приложений, автоматизации процессов и работы с корпоративными данными. Однако новые возможности создают и дополнительные угрозы: кибератаки ускоряются, ИИ-агенты получают доступ к критическим системам, а сотрудники самостоятельно создают приложения без глубоких технических знаний. О новых рисках и способах защиты АБН24 рассказал руководитель направления информационной безопасности в «1С-Битрикс» Роман Стрельников.
Фото: rawpixel.com © freepik.com
Нейросети позволяют злоумышленникам быстрее искать уязвимости, анализировать данные и адаптировать вредоносный код. В отчетах Anthropic описаны случаи, когда ИИ использовали для поиска учетных данных и изменения способов атаки после срабатывания защиты. В некоторых расследованных случаях взлом занимал всего два-три часа.
«Сокращается цикл атаки: разведка, проверка, изменение подхода и повторная попытка. Отдельные этапы теперь могут занимать минуты или секунды, поэтому у защитных систем остается меньше времени на реагирование. ИИ, в свою очередь, может помогать центрам мониторинга безопасности быстрее анализировать события и выявлять угрозы», – пояснил спикер.
ИИ-помощники становятся участниками корпоративной инфраструктуры: они работают с базами данных, репозиториями, облачными сервисами и API. Если им предоставить избыточные права, ошибка может привести к серьезным последствиям.
«Так, в апреле 2026 года ИИ-агент компании PocketOS обнаружил токен с широкими полномочиями и за девять секунд удалил рабочую базу данных и связанные копии. Данные удалось восстановить при помощи инфраструктурного провайдера. Чтобы избежать подобных ситуаций, агентам необходимо выдавать только минимальные права, разделять тестовую и рабочую среды, требовать подтверждения критических операций и хранить независимые резервные копии», – поделился Стрельников.
Недостаточная изоляция тестовой среды создает риск выхода ИИ-агента за ее пределы. Если у него есть доступ к интернету, действующим ключам или рабочей инфраструктуре, эксперимент может превратиться в реальную угрозу.
«Anthropic описывала случай, когда во время тестирования модель создала вредоносную программу и разместила ее в интернете. Несмотря на то что задание предполагало симуляцию, доступ к сети оказался настоящим: сторонние системы установили созданный код, а учетные данные одной из организаций были похищены. Поэтому тестовые среды следует изолировать, ограничивать исходящий трафик и подключения, а также предусматривать возможность немедленно остановить агента», – добавил эксперт.
С помощью нейросетей сотрудники без опыта программирования могут самостоятельно создавать приложения. Однако они не всегда понимают, как устроен сгенерированный код. Такие инструменты могут содержать уязвимости, передавать конфиденциальные данные внешним сервисам или получать избыточные права.
«Компаниям необходимо проверять код до запуска, ограничивать доступ приложений к корпоративной информации и назначать ответственных за их безопасность», – подчеркнул специалист.
Нейросети ускоряют поиск не только отдельных ошибок, но и цепочек уязвимостей, через которые злоумышленники могут переходить из одной системы в другую.
«В июле 2026 года исследователи Hacktron с помощью Claude обнаружили две уязвимости в публичном форуме OpenAI и корпоративной системе единого входа. Это позволило получить доступ к учетным записям сотрудников и создать тестовый запрос на изменение кода во внутреннем репозитории. Исследователи сообщили о проблемах компании и получили вознаграждение в размере 6500 долларов. Другой пример — уязвимости PHP2Shell, исправления для которых разработчики PHP выпустили в октябре 2026 года. Их обнаружению помогли большие языковые модели. Ошибки позволяли в определенных случаях выполнять код на сервере без учетных данных. После публикации исправлений выросло число попыток эксплуатации уязвимостей, поскольку миллионы сайтов и серверов продолжали работать на старых версиях PHP. Этот случай показывает, что ИИ ускоряет поиск ошибок, но после раскрытия информации о них воспользоваться уязвимостями могут и злоумышленники», – объяснил спикер.
По его словам, компаниям необходимо определить, для каких задач разрешено использовать ИИ и к каким системам и данным ему можно подключаться. Для каждого инструмента следует назначить ответственного, ограничить полномочия и установить перечень действий, требующих подтверждения сотрудника. Важно вести журналы действий ИИ, изолировать тестовые среды, проверять приложения и обновлять программные компоненты. Правила использования нейросетей также нужно регулярно пересматривать, поскольку новые инструменты создают новые способы взаимодействия с корпоративной инфраструктурой.
