Нейросети стали для сотрудников таким же привычным инструментом, как электронная почта или мессенджеры. Однако вместе с ростом популярности ИИ компании столкнулись с новой угрозой: работники все чаще загружают в чат-боты внутренние документы, не задумываясь, куда в итоге попадают эти данные. Стоит ли компаниям ограничивать использование нейросетей, АБН24 разбиралось с экспертом по технологиям, директором и партнером ИТ-Резерв Павлом Мясоедовым.
Фото: unsplash.com
Искусственный интеллект сегодня становится таким же обязательным рабочим инструментом, как когда-то калькулятор пришел на смену счетам. Полный отказ от нейросетей означает не повышение безопасности, а потерю конкурентоспособности, уверен эксперт.
«Многие рутинные задачи ИИ выполняет значительно быстрее человека, позволяя сотрудникам экономить время и ускорять бизнес-процессы. Поэтому большинство компаний сегодня не пытаются запретить использование нейросетей, а ищут способы сделать их применение безопасным. Главная угроза для бизнеса связана с тем, что сотрудники могут бесконтрольно загружать в популярные нейросети внутренние документы, технические задания, служебную переписку или другую информацию, представляющую коммерческую ценность. Если с документами под грифом «секретно» или «для служебного пользования» все относительно очевидно — их в подобные сервисы загружать нельзя, — то с повседневной рабочей документацией ситуация гораздо сложнее. С одной стороны, передача таких данных в сторонние сервисы потенциально создает риски утечки, с другой — отказ от использования ИИ резко снижает эффективность работы», — пояснил спикер.
Именно поэтому компании все чаще разрабатывают внутренние регламенты, определяя, какие данные можно передавать нейросетям, а какие необходимо обезличивать или вообще исключить из обработки. Одновременно внедряются технические средства защиты, прежде всего DLP-системы (Data Loss Prevention), которые уже много лет используются для предотвращения утечек корпоративной информации. Сегодня такие решения начинают адаптировать и под работу с искусственным интеллектом, чтобы ограничивать передачу в нейросети чувствительных данных и контролировать действия сотрудников.
«При этом не стоит драматизировать ситуацию. Популярные нейросети не предназначены для того, чтобы их разработчики вручную просматривали все загружаемые пользователями данные. Информация обрабатывается огромными языковыми моделями, где найти конкретный документ или фрагмент текста крайне сложно. Однако полностью исключать риски тоже нельзя. Любая информация, загруженная в модель, потенциально может использоваться для ее дальнейшего обучения, а в отдельных случаях — стать объектом целенаправленного поиска. Более того, уже существуют сценарии промышленного шпионажа, когда злоумышленники пытаются при помощи специальных запросов выяснить, какие данные могли использоваться при обучении модели или какие документы в нее загружались», — добавил Мясоедов.
Поэтому главная задача бизнеса сегодня, по мнению эксперта, не запрещать искусственный интеллект, а выстроить баланс между безопасностью и эффективностью. Полный запрет может привести к тому, что сотрудники начнут работать значительно медленнее, а компания — проигрывать конкурентам. Вместо этого крупные организации внедряют локальные версии языковых моделей, используют защищенные корпоративные контуры, настраивают DLP-системы и вводят внутренние правила работы с нейросетями. Однако универсального подхода пока не существует: каждая компания вырабатывает собственную модель защиты, стараясь минимизировать риски утечки информации, не лишая сотрудников преимуществ, которые дает искусственный интеллект.
