NIST AI RMF 1.0: доверенный ИИ получает практический каркас
В январе 2023 года NIST выпустил первую версию фреймворка управления рисками ИИ. Разбираю, что это значит для компаний, которые уже используют или только планируют внедрять ИИ.
26 января 2023 года американский Национальный институт стандартов и технологий опубликовал AI Risk Management Framework 1.0 - первый структурированный документ такого уровня, который предлагает практический язык для работы с рисками ИИ. Это не регулятивный акт и не закон. Но это важный ориентир.
Я слежу за тем, как регуляторы и стандартизирующие организации формируют язык вокруг ИИ, потому что этот язык рано или поздно становится языком контрактов, аудитов и требований к поставщикам. Фреймворк NIST - именно такой документ.
Что такое AI RMF и для кого он написан
Фреймворк написан для организаций, которые разрабатывают, внедряют или используют системы ИИ. Он не привязан к конкретной технологии и не требует обязательного исполнения. Его цель - дать общий язык и структуру для того, чтобы разговор об ИИ-рисках мог происходить между техническими и нетехническими участниками.
Документ строится вокруг четырёх функций: Govern (управлять), Map (картировать), Measure (измерять), Manage (контролировать). Это не линейный процесс, а цикл. Сначала устанавливается культура и ответственность за риски ИИ, затем риски идентифицируются и оцениваются, затем ими управляют в операционном режиме.
Почему это важно сейчас
До появления подобных документов разговор об ИИ-рисках был либо очень абстрактным ("ИИ может быть опасен"), либо очень техническим ("точность модели 94%"). Практическому руководителю было трудно войти в этот разговор.
Фреймворк NIST решает именно эту проблему. Он предлагает категории рисков, которые понятны без технического образования: надёжность, безопасность, объяснимость, справедливость, приватность, подотчётность. Эти категории можно обсуждать на уровне совета директоров и включать в требования к поставщикам.
Кроме того, появление такого документа - сигнал о том, в каком направлении будет двигаться регулирование. Европейский AI Act уже находится в процессе принятия. Стандарты NIST исторически влияют на то, как выглядит практика управления технологическими рисками во многих отраслях.
Что стоит сделать практически
Фреймворк - не инструкция к немедленному действию. Но он полезен как чеклист для проверки зрелости.
Если ваша компания уже использует ИИ-системы в процессах, которые влияют на клиентов или на операционные решения, стоит задать несколько вопросов:
- Кто в компании несёт ответственность за качество работы ИИ-системы?
- Как вы узнаете, если система начнёт ошибаться систематически?
- Задокументированы ли ограничения и риски каждой системы?
- Как вы объясняете клиентам или сотрудникам, что решение принято с участием ИИ?
Если ответов нет - это не означает, что нужно немедленно внедрять весь фреймворк. Это означает, что разговор об управлении ИИ нужно начать.
Для тех, кто только планирует внедрение
Для компаний, которые ещё не запустили ИИ в производственных процессах, фреймворк полезен как требование к проектированию.
Прежде чем запускать систему, стоит ответить: как мы будем отслеживать её качество? Кто принимает решение о том, когда система работает неприемлемо? Есть ли механизм выключения или обхода?
Эти вопросы дешевле задать в начале, чем разбираться с последствиями после запуска.