Контекстное окно и управление знаниями в компании
Как изменение возможностей языковых моделей влияет на то, как компании могут организовать доступ к корпоративным знаниям.
В последние несколько месяцев размер контекстного окна языковых моделей вырос до уровней, которые меняют практику применения. Модели теперь могут обрабатывать сотни страниц текста за один вызов.
Для большинства руководителей это звучит как техническая деталь. Но за ней стоит конкретное практическое следствие: архитектурные решения, которые ещё год назад были единственным разумным способом встраивать ИИ в работу с корпоративными знаниями, теперь не единственные.
Это хороший момент, чтобы переосмыслить, как компания думает о доступе к накопленным знаниям и документации.
Как раньше выглядело ИИ в работе с документами
До недавнего времени стандартная схема работы с корпоративными документами через ИИ выглядела примерно так: взять большой массив документации, разбить на небольшие фрагменты, преобразовать в векторные представления, построить систему поиска по близости, и подавать модели только релевантные фрагменты.
Это работает, но у подхода есть ограничения. Поиск по векторной близости не всегда находит нужный фрагмент - особенно если вопрос требует объединения информации из нескольких мест. Контекст, который видит модель, неполный. Ответ хороший только настолько, насколько хороша система поиска.
Что меняет большой контекст
Когда модель может принять в один вызов несколько сотен страниц - появляется другой класс задач.
Например: анализ всего пакета договора на предмет рисков, противоречий и нестандартных условий. Раньше для этого нужно было либо разбивать документ на куски и терять связи между частями, либо дорогостоящая кастомная разработка. Теперь это доступный пилот.
Или: сравнение двух версий технической спецификации с выявлением содержательных изменений. Или: анализ переписки по проекту за несколько месяцев с выявлением ключевых решений и открытых вопросов.
Это не значит, что все задачи теперь решаются одним промптом. Большой контекст - это возможность, а не гарантия качества. Модель может пропустить важное, если документ плохо структурирован или вопрос поставлен неточно.
Как это меняет разговор об управлении знаниями
Большинство компаний, которые обращаются ко мне с темой "внедрение ИИ для работы с документами", имеют более глубокую проблему: у них нет порядка в самих документах.
Регламенты обновляются, но старые версии остаются рядом. Решения принимаются в чатах и нигде не фиксируются. Важные документы лежат в личных папках или в системах, к которым нет удобного доступа.
Большой контекст не решает эту проблему. Модель может прочитать тысячу страниц, но если среди них будут противоречивые версии одного регламента - она не знает, какая правильная.
Вопрос о том, как организовать хранение и обновление корпоративных знаний, стал актуальным до ИИ и остался актуальным после. ИИ лишь делает цену дезорганизации более явной.
Практический вопрос для руководителя
Если компания думает о том, как сделать корпоративные знания доступнее - через ИИ или без него - полезно начать с нескольких вопросов:
- Что именно теряется или работает медленно из-за того, что люди не могут найти нужную информацию?
- В какой системе или системах хранится большая часть операционных знаний?
- Кто отвечает за актуальность ключевых документов?
- Если завтра придёт новый сотрудник - где он будет искать, как устроен тот или иной процесс?
Ответы на эти вопросы определяют, какое решение имеет смысл - простое или сложное, с ИИ или без. Инструменты изменились, но вопросы остались теми же.