Теневые ИИ-инструменты: управление рисками без тотального запрета
Как компаниям управлять рисками от несанкционированного использования ИИ-инструментов сотрудниками - без того, чтобы запрет стал единственным ответом.
С 2023 года я замечаю одну закономерность в разговорах с клиентами: практически в каждой компании сотрудники используют ИИ-инструменты, которые не согласованы с ИТ-отделом или службой безопасности. ChatGPT, Claude, Copilot, десятки специализированных инструментов для конкретных задач. Кто-то использует их для составления писем, кто-то для анализа данных, кто-то для написания кода.
Это классический паттерн теневых ИТ - только с принципиально другим масштабом риска.
Почему ИИ-инструменты - это особый случай
Теневые ИТ существовали всегда. Сотрудники устанавливали неодобренные программы, использовали личные сервисы для рабочих задач. Обычно риск был ограничен: несогласованный мессенджер или файлообменник - это плохо, но управляемо.
С ИИ-инструментами картина другая по нескольким причинам.
Первая - данные уходят на обработку. Когда сотрудник вставляет в ChatGPT фрагмент договора, список клиентов или внутреннюю аналитику - эти данные обрабатываются на серверах стороннего провайдера. Условия использования у разных сервисов разные, политика хранения и использования данных - тоже.
Вторая - масштаб. Это не один сотрудник с неодобренным мессенджером. Это десятки или сотни сотрудников, ежедневно передающих куски корпоративного контекста в разные внешние системы.
Третья - скорость роста. Полгода назад этих инструментов было меньше, они были менее удобны. Сегодня они встроены в браузеры, почтовые клиенты, офисные приложения. Завтра их будет ещё больше.
Почему запрет не работает как ответ
Самая понятная реакция ИТ-безопасности - заблокировать. И это логично: нет инструмента - нет риска. Но есть несколько проблем с этой логикой.
Первая - технически сложно. Заблокировать конкретный сайт несложно. Но ИИ-возможности встраиваются в уже разрешённые инструменты: Microsoft 365, Google Workspace, браузер. Полная блокировка требует значительных усилий и постоянного обновления.
Вторая - сотрудники будут обходить. Если ИИ-инструмент даёт реальную производительность - запрет создаст мотивацию обойти его через личные устройства или личные аккаунты. В результате риск не исчезает, а становится менее видимым.
Третья - конкурентные потери. Компании, которые разрешают осознанное использование ИИ, получают реальные выгоды в производительности. Полный запрет - это выбор в пользу безопасности за счёт эффективности.
Управляемый подход
Вместо запрета имеет смысл строить управляемую политику:
Классифицируйте данные. Поймите, какие данные являются чувствительными и не должны покидать периметр: персональные данные клиентов, финансовые детали, коммерческие тайны, незакрытые сделки. Это конкретный список, а не "всё что связано с бизнесом".
Определите разрешённые инструменты. Для общих задач - составление текстов, редактирование, поиск информации - выберите один-два инструмента с приемлемыми условиями обработки данных и дайте сотрудникам легальный, удобный путь.
Обучите, а не только запретите. Сотрудники должны понимать, что именно нельзя передавать в ИИ-инструменты и почему. Это эффективнее, чем список запрещённых сайтов.
Создайте путь для эскалации. Если сотрудник видит потенциальную ценность в конкретном инструменте - должен быть простой способ запросить его проверку и одобрение.
Вопросы для оценки текущей ситуации
- Знаете ли вы, какие ИИ-инструменты сотрудники используют сегодня?
- Есть ли в компании политика использования ИИ-инструментов - написанная и понятная?
- Знают ли сотрудники, какие данные нельзя передавать в сторонние ИИ-сервисы?
- Есть ли у вас корпоративный вариант ИИ-инструмента, который покрывает основные потребности?
- Как вы узнаете, если значимые данные компании утекут через ИИ-инструмент?
Теневые ИИ-инструменты - это не проблема безопасности, которую нужно победить. Это реальность, которой нужно управлять.