Теневой ИИ: как новый теневой ИТ становится проблемой безопасности
Сотрудники используют ИИ-инструменты без ведома ИТ-отдела. Это знакомая ситуация - но с новыми рисками, которых не было у обычного теневого ИТ.
Теневое ИТ - явление, с которым компании боролись последние пятнадцать лет. Сотрудники использовали Dropbox вместо корпоративного хранилища, Telegram вместо одобренного мессенджера, Google Docs вместо SharePoint. Это создавало проблемы с управлением данными и доступом - но масштаб рисков был понятен.
С ИИ-инструментами ситуация другая. Не потому что люди ведут себя иначе - они делают то же самое: находят удобный инструмент и начинают его использовать. Разница в том, что объём данных, который уходит через ИИ-инструменты, и характер этих данных принципиально изменились.
Чем теневой ИИ отличается от теневого ИТ
Когда сотрудник загружал файл в Dropbox, данные уходили "куда-то". Это был файл, документ, таблица. Контроль над ним терялся, но содержимое оставалось фиксированным.
Когда сотрудник вставляет фрагмент договора в LLM-чат и просит "улучшить формулировки" - происходит несколько вещей одновременно. Данные передаются стороннему провайдеру. В зависимости от условий использования они могут использоваться для дообучения модели. Контекст запроса может содержать больше информации, чем сотрудник осознаёт - имена контрагентов, суммы, условия.
Это не гипотетический риск. Это уже происходит в большинстве компаний, где ИТ-отдел не выстроил явную политику.
Типичные сценарии, которые стоит знать
Копирование клиентских данных для обработки. Менеджер по продажам вставляет выгрузку из CRM, чтобы попросить ИИ сформулировать письма. В выгрузке - имена, контакты, история отношений.
Загрузка внутренней документации. Сотрудник загружает регламент или презентацию для резюмирования. В документе - внутренняя стратегия, структура команды, финансовые ориентиры.
Разработчики с кодом. Инженер вставляет код для ревью или дебаггинга. В коде - бизнес-логика, схемы данных, иногда строки с ключами доступа.
Анализ финансовых данных. Финансист вставляет таблицу с P&L для быстрого анализа тренда.
Что с этим делать
Запрет ИИ-инструментов - наименее реалистичный ответ. Он не работает технически и создаёт культурную напряжённость, которая ведёт к ещё большей непрозрачности.
Разумный подход включает несколько элементов.
Явная политика с конкретными примерами. Не "запрещено передавать конфиденциальные данные", а конкретный список: что можно вставлять в публичные ИИ-инструменты, что нельзя, что нужно анонимизировать.
Корпоративные инструменты как альтернатива. Если у компании есть доступ к LLM через корпоративный договор с надлежащими условиями обработки данных - направьте сотрудников туда. Это снижает стимул использовать публичные сервисы.
Обучение, а не только запрет. Большинство сотрудников не думают о том, куда уходят данные. Конкретные примеры того, что может произойти, работают лучше, чем абстрактные запреты.
Мониторинг в DLP-системах. Если есть инструменты предотвращения утечки данных - настроить выявление паттернов загрузки данных в ИИ-сервисы.
Несколько вопросов для проверки
- Есть ли у вас актуальная политика использования ИИ-инструментов, о которой сотрудники знают?
- Проверяли ли вы, какие ИИ-инструменты фактически используются в компании?
- Есть ли у вас корпоративный договор с LLM-провайдером с явными условиями обработки данных?
- Обучали ли вы сотрудников на конкретных примерах того, что можно и нельзя?
Теневой ИИ - это не паника и не повод запрещать. Это сигнал, что политика и инструменты нужно привести в соответствие с тем, как люди реально работают.