Что мешает ИИ стать полноценным рабочим инструментом: итоги митапа "ИИ без иллюзий"
У компаний, которые внедряют искусственный интеллект, появилась новая проблема. Возможности моделей быстро расширяются, но вместе с ними усложняется выбор действительно полезных сценариев. Создать чат-бота, способного отвечать на вопросы, сравнительно просто. Намного труднее построить систему, которая самостоятельно выполняет задачи, работает с корпоративными данными и при этом остается безопасной, предсказуемой и удобной для сотрудников.
Именно этому был посвящен митап "ИИ без иллюзий". Эксперты обсудили, почему эффектная демонстрация еще не гарантирует бизнес-результат, как ассистенты превращаются в агентов, какие риски возникают при подключении внешних инструментов и что необходимо учитывать при масштабировании ИИ внутри большой организации.
Хорошая ИИ-функция не всегда приносит пользу
Разговор о новом ИИ-продукте часто начинают с технических характеристик: какая модель используется, сколько инструментов к ней подключено и насколько сложные запросы она умеет обрабатывать. Однако с точки зрения бизнеса важнее другой вопрос: какую конкретную проблему решает технология.
Артем Михеенко предложил оценивать ИИ-функции через задачу пользователя. Для этого подходит простой тест: если убрать новую возможность из продукта, изменится ли рабочий процесс? Если сотрудник продолжит действовать так же, как раньше, ценность функции остается сомнительной.
Пользователю нужен не сам искусственный интеллект. Ему важно сократить объем ручной работы, уменьшить число ошибок, быстрее найти информацию и не переключаться между многочисленными системами. Поэтому корпоративный ИИ необходимо оценивать не по эффектности ответа, а по тому, какую часть процесса он действительно берет на себя.
Инструмент может быстро генерировать тексты, писать программный код или суммировать документы, но при этом не стать частью повседневной работы. Если для запуска системы нужно совершить больше действий, чем при обычном сценарии, сотрудники вскоре перестают ею пользоваться. В результате перспективный проект остается демонстрационным прототипом.
От ответа к самостоятельному действию
Следующий этап развития ассистентов - переход от формирования ответа к выполнению задачи. Пелагея Пашинская на примере MWS Life Assistant показала, как меняется взаимодействие пользователя с системой.
Языковая модель сама по себе работает преимущественно с текстом. Чтобы она могла выполнять действия, ей подключают инструменты: калькуляторы, базы знаний, браузер, корпоративные сервисы и другие программные компоненты. В результате ассистент способен не только объяснить, как решить задачу, но и выполнить последовательность операций самостоятельно.
Разница между чат-ботом и агентом принципиальная. В обычном диалоге человек получает рекомендацию, а затем сам открывает нужные сайты, ищет документы и вносит изменения. Агенту можно передать цель целиком: система сама определит порядок шагов и выберет подходящие инструменты.
Но вместе с автономностью увеличивается стоимость ошибки. Неверный текст пользователь обычно замечает до того, как применит его на практике. Ошибочное действие агента может изменить данные, отправить письмо не тому адресату, раскрыть конфиденциальную информацию или запустить нежелательный процесс. Поэтому агентные системы требуют строгого разграничения полномочий, журналирования операций, подтверждения критических действий и возможности быстро остановить выполнение сценария.
Как корпоративный помощник выходит за рамки одной профессии
Марк Маджидов рассказал о развитии цифрового помощника для разработчиков в Т1. Изначально инструмент создавался для работы программистов, однако постепенно внутри компании возник спрос на более универсальную систему, способную взаимодействовать с корпоративными и личными документами.
Так технический проект превратился в организационный. Сотрудники все равно будут использовать ИИ, поэтому перед компанией встает выбор: предоставить безопасную внутреннюю альтернативу или пытаться контролировать стихийное использование внешних сервисов.
Решение развернули внутри корпоративного контура. Это позволило сохранить код, документацию и другие рабочие материалы в управляемой среде. Инструментом пользуются более пяти тысяч сотрудников холдинга и коллег из ВТБ.
При этом корпоративный ИИ нельзя внедрить один раз и оставить без дальнейшего развития. По мере роста аудитории меняются сценарии применения, расширяется перечень источников данных и усложняется модель доступа. Возможности, достаточные для разработчика, могут оказаться избыточными или, наоборот, недостаточными для аналитика, менеджера или специалиста службы поддержки.
Почему масштабирование требует отдельной стратегии
Пилотный проект обычно запускается на ограниченной группе пользователей. В таких условиях многие проблемы остаются незаметными: небольшое количество данных, единый сценарий, ручная модерация и возможность быстро исправлять ошибки.
При масштабировании ситуация меняется. Возникают вопросы производительности, стоимости запросов, качества базы знаний, интеграции с внутренними системами и поддержки пользователей. Кроме того, необходимо заранее определить, кто отвечает за результаты работы модели и каким образом сотрудники могут сообщать об ошибках.
Особое внимание следует уделять качеству корпоративных данных. Даже самая современная модель будет выдавать ненадежные результаты, если документы устарели, противоречат друг другу или хранятся без понятной структуры. Перед внедрением ИИ компании приходится пересматривать процессы подготовки, обновления и хранения информации.
Безопасность должна быть частью продукта
Подключение агента к браузеру, CRM, файловому хранилищу или внутренней базе данных превращает вопрос безопасности из дополнительной проверки в основное условие работы.
У каждого действия должны быть понятные ограничения. Система должна знать, какие документы разрешено просматривать, какие операции можно выполнять без подтверждения, а какие требуют участия человека. Доступ агента не должен автоматически совпадать с максимальными правами пользователя.
Не менее важны прозрачность и контроль. Сотрудник должен понимать, какие источники использовал ИИ, какие шаги выполнил и почему предложил конкретный результат. Для критичных операций необходимо сохранять историю действий и обеспечивать аудит.
Как оценивать реальный эффект
Успешность внедрения нельзя измерять только количеством пользователей или числом обращений к модели. Эти показатели показывают интерес к инструменту, но не доказывают его полезность.
Более содержательными метриками могут быть:
- сокращение времени выполнения типовой операции;
- уменьшение числа ошибок и повторных обращений;
- снижение нагрузки на специалистов первой линии;
- доля задач, завершенных без ручного вмешательства;
- скорость поиска нужной информации;
- процент сотрудников, которые продолжают пользоваться сервисом спустя несколько месяцев;
- стоимость обработки одного запроса.
Важно сравнивать не отдельный ответ модели, а весь процесс до и после внедрения. Иногда ИИ не заменяет специалиста полностью, но сокращает объем подготовительной работы или освобождает время для более сложных задач. Такой эффект может оказаться ценнее полной автоматизации одного небольшого действия.
Человек остается частью контура
Даже продвинутый агент не должен становиться полностью бесконтрольным исполнителем. Для финансовых операций, юридически значимых действий, работы с персональными данными и публикации материалов необходима проверка человеком.
Оптимальная модель - распределение ролей. ИИ берет на себя поиск, классификацию, подготовку вариантов и выполнение стандартных шагов. Сотрудник принимает решения там, где требуются ответственность, контекст и оценка последствий.
Такой подход позволяет избежать двух крайностей: бесконтрольной автоматизации и чрезмерно осторожного использования, при котором человек вручную подтверждает каждое действие и теряет большую часть потенциальной выгоды.
Главный вывод
Корпоративный ИИ становится рабочим инструментом не тогда, когда модель демонстрирует впечатляющие ответы, а тогда, когда технология органично встраивается в процесс. Для этого недостаточно выбрать сильную нейросеть. Нужно определить реальную задачу, подготовить данные, продумать доступы, обеспечить контроль действий и заранее измерить результат.
Путь от пилота к полноценному сервису почти всегда связан не только с разработкой, но и с изменением внутренних процессов. Компании предстоит обучить сотрудников, пересмотреть зоны ответственности, сформировать правила использования ИИ и регулярно обновлять систему.
Главная иллюзия заключается в том, что искусственный интеллект сам по себе способен решить бизнес-проблему. На практике он дает результат только в связке с качественным процессом, понятной целью и ответственным управлением. Именно поэтому будущее корпоративного ИИ определят не самые громкие демонстрации, а надежные инструменты, которые ежедневно экономят время, уменьшают количество ошибок и помогают сотрудникам принимать более обоснованные решения.
