Цифровая амнезия: почему ставка банков на ИИ без участия человека может привести к системному тупику
Общение с российскими банками и анализ повседневных ситуаций, с которыми сталкиваются вкладчики и заемщики, заставляют по-новому взглянуть на банковскую автоматизацию. Сегодня искусственный интеллект участвует практически во всех ключевых процессах: оценивает кредитоспособность, выявляет подозрительные операции, формирует персональные предложения, определяет уровень риска клиента и иногда влияет даже на доступ к счету.
При этом универсальной банковской ИИ-системы не существует. Каждая организация самостоятельно определяет, где алгоритм может действовать автономно, а в каких случаях обязательно требуется сотрудник. Различия особенно хорошо видны при сравнении трех международных моделей взаимодействия человека и алгоритма: HITL, HOTL и HOOTL.
Три подхода к использованию искусственного интеллекта
HITL: человек остается частью каждого решения
Модель Human-in-the-Loop предполагает постоянное участие специалиста. Алгоритм обрабатывает данные, строит прогноз или предлагает решение, однако окончательное действие подтверждает сотрудник банка.
Такой подход особенно распространен в ситуациях, где ошибка может привести к серьезным финансовым, юридическим или репутационным последствиям. Например, ИИ способен рассчитать кредитный рейтинг по сотням параметров, но заявка с низкой степенью уверенности автоматически направляется кредитному инспектору.
В европейских банках подобная логика связана с повышенными требованиями к контролю высокорисковых ИИ-систем. Для кредитования, ипотеки и других значимых финансовых услуг важно не только получить результат, но и обеспечить возможность объяснить его клиенту и пересмотреть спорное решение.
В крупных международных организациях для этого создаются специальные экспертные комиссии. Они проверяют логику моделей, разбирают нетипичные случаи и оценивают, не появились ли в алгоритме систематические ошибки. В инвестиционном бизнесе роль консультанта также сохраняется: ИИ может быстро собрать информацию и подготовить аналитический вывод, но решение по операциям с крупными суммами обычно требует участия специалистов.
Американская практика строится по сходному принципу. ИИ используется для сортировки аномалий, анализа документов и подготовки рекомендаций, однако юридически значимые действия не должны выполняться без предусмотренного уровня человеческого контроля. Алгоритм может быть "супераналитиком", но не единственным ответственным лицом.
HOTL: алгоритм действует самостоятельно, человек контролирует систему
Human-on-the-Loop - промежуточная модель. В ней искусственный интеллект принимает большое количество оперативных решений без ручного подтверждения каждого шага. Человек находится не внутри каждого процесса, а над системой: задает правила, устанавливает ограничения, контролирует показатели и вмешивается при отклонениях.
Типичный пример - противодействие отмыванию денег. Алгоритм в реальном времени анализирует огромный поток платежей, ищет связи между компаниями, странами, счетами и нетипичными маршрутами движения средств. Сотрудники комплаенса получают уже не весь массив операций, а отобранные системой сигналы и сформированные досье.
Однако окончательное решение о блокировке крупного счета, приостановке международного платежа или передаче дела регулятору принимает человек. Это позволяет сохранить скорость машинной обработки и одновременно оставить ответственность за наиболее чувствительные действия у специалиста.
HOTL часто оказывается наиболее практичным вариантом для банков. Он снижает нагрузку на персонал, но не превращает сложную финансовую среду в полностью бесконтрольную автоматическую систему.
HOOTL: решения принимаются без участия человека
В модели Human-Out-of-the-Loop человек исключен из конкретного процесса. Алгоритм самостоятельно анализирует данные, принимает решение и запускает дальнейшие действия.
Наиболее ярко такой подход проявился в китайском цифровом кредитовании. Крупные банки и финтех-компании используют масштабную платформенную инфраструктуру, объединяющую сведения о платежах, покупках, налогах, геолокации, деловой активности и поведении пользователя в цифровой среде.
Известная концепция "3-1-0" описывает этот принцип предельно точно: около трех минут на подачу заявки, примерно одна секунда на получение ответа и ноль человеческих контактов с процессом. Для небольшого предпринимателя это означает возможность получить решение по кредиту практически мгновенно. Система самостоятельно оценивает обороты бизнеса, историю платежей, связи с поставщиками и другие показатели.
Преимущество очевидно: банк способен обслуживать миллионы клиентов с минимальными операционными расходами. Но цена такой эффективности - почти полное отсутствие индивидуального рассмотрения. Если алгоритм ошибся, клиент зачастую сталкивается не с конкретным специалистом, а с автоматическим отказом, который трудно оспорить.
В отношении технологических компаний китайские банки применяют более осторожные схемы. Для них важны не только цифровые показатели, но и качество продукта, перспективность рынка, компетенции команды, патентный портфель и устойчивость бизнес-модели. Поэтому полностью безлюдный режим чаще используется в массовой рознице, а сложное корпоративное кредитование может сохранять элементы HOTL или HITL.
Почему тотальная автоматизация кажется привлекательной
Для банка отказ от человеческого участия выглядит рационально. Алгоритм работает круглосуточно, не уходит в отпуск, не устает и способен обрабатывать тысячи заявок одновременно. Кроме того, автоматизация уменьшает стоимость обслуживания и позволяет применять единые критерии к огромному числу клиентов.
ИИ также быстрее выявляет мошеннические схемы. Он способен заметить цепочку операций, которую отдельный сотрудник никогда бы не увидел из-за объема данных. Чем больше цифровых следов оставляет клиент, тем точнее может становиться модель.
Но именно здесь возникает опасность: банк начинает принимать цифровой след за полноценный образ клиента. Если в системе нет нужного параметра, модель фактически "забывает" о соответствующем обстоятельстве. Такая потеря контекста и есть своеобразная цифровая амнезия.
Что происходит при ошибке алгоритма
Автоматическая система может неправильно оценить нестандартный доход, сезонность бизнеса, временное снижение оборотов или необычную, но законную транзакцию. Для алгоритма резкое изменение поведения часто выглядит как угроза, даже если оно связано с переездом, болезнью, сменой работы или крупной покупкой.
Особенно уязвимы клиенты, чья финансовая история не укладывается в среднестатистический шаблон. Это самозанятые, представители творческих профессий, начинающие предприниматели, люди с несколькими источниками дохода и компании, работающие проектно.
В полностью автоматизированной среде отказ может стать необъяснимым. Клиент получает формальное сообщение о невозможности операции, но не понимает, какой именно фактор повлиял на результат. В итоге он не может исправить ошибку, предоставить дополнительные документы или объяснить обстоятельства.
Проблема обратной связи
Человеческий специалист способен задать уточняющий вопрос, сопоставить документы и заметить противоречие между формальными данными и реальной ситуацией. Алгоритм обычно работает иначе: он использует доступную информацию и не всегда умеет определить, что данных недостаточно.
Если банк не создает понятный канал пересмотра решений, ошибки начинают накапливаться. Клиенты уходят, меняют поведение, открывают дополнительные счета и пытаются обходить ограничения. Для финансовой организации это означает потерю доверия и ухудшение качества собственных данных.
Возникает замкнутый цикл: модель ошибается, клиент меняет поведение, новые действия воспринимаются как дополнительные признаки риска, после чего система усиливает ограничения.
Почему человеческий контроль необходим даже при высокой точности
Даже очень точная модель не гарантирует правильность каждого конкретного решения. Показатель качества рассчитывается на больших массивах данных, тогда как судьба отдельного клиента определяется одной заявкой или одной транзакцией.
Кроме того, модель может быть формально точной, но социально несправедливой. Если исторические данные содержат перекосы, ИИ способен воспроизводить их в новых решениях. Автоматизация не устраняет предвзятость сама по себе - она лишь масштабирует заложенные в данные закономерности.
Поэтому банкам необходимо разделять техническую точность, юридическую допустимость и справедливость по отношению к клиенту. Это разные показатели, и высокий результат по одному из них не означает успех по двум другим.
Какой баланс можно считать оптимальным
Полностью ручная обработка всех операций невозможна: банковские потоки слишком велики. Но и абсолютное исключение человека из процесса создает чрезмерные риски.
Наиболее устойчивой выглядит многоуровневая архитектура:
- рутинные операции выполняются автоматически;
- подозрительные, но не критичные случаи контролируются по модели HOTL;
- решения с серьезными последствиями передаются сотруднику;
- для клиента сохраняется возможность получить объяснение и подать апелляцию;
- все действия алгоритма фиксируются и могут быть проверены задним числом.
Такой подход позволяет сохранить скорость ИИ, не превращая банковскую систему в непрозрачный механизм отказов.
Что должно измениться в банковских ИИ-системах
Во-первых, алгоритмы должны уметь объяснять не только итог, но и ключевые факторы, повлиявшие на решение. Клиенту не обязательно раскрывать математическую формулу, однако он должен понимать, какие сведения потребовалось уточнить или исправить.
Во-вторых, нужна процедура "второго взгляда". Если операция заблокирована, кредит отклонен или доступ к сервису ограничен, клиент должен иметь возможность обратиться к специалисту, а не повторять попытку в том же автоматическом интерфейсе.
В-третьих, банки должны регулярно проверять модели на ошибочные срабатывания, дискриминационные эффекты и устаревание данных. Экономическая среда меняется, поэтому система, хорошо работавшая год назад, может начать давать неверные результаты после изменения рынка, законодательства или поведения пользователей.
Наконец, ответственность нельзя полностью перекладывать на алгоритм. ИИ не является юридическим лицом и не может отвечать перед клиентом, регулятором или судом. За архитектуру системы, установленные ограничения и последствия автоматических решений всегда должна отвечать организация.
Итог
ИИ уже стал важнейшей частью банковской инфраструктуры, и возвращение к полностью ручному обслуживанию невозможно. Однако стратегия тотального исключения человека способна привести к цифровой амнезии: система начнет видеть только формальные показатели и перестанет учитывать реальные обстоятельства жизни клиента.
HITL обеспечивает максимальный контроль, но требует больших ресурсов. HOOTL дает рекордную скорость, однако плохо справляется с исключениями и спорными случаями. HOTL сочетает автоматизацию с надзором и потому часто оказывается наиболее сбалансированной моделью.
Будущее банковского ИИ зависит не от того, насколько быстро человек будет удален из процесса, а от того, насколько грамотно будут определены границы машинной самостоятельности. Надежный банк - это не тот, где решения принимает исключительно алгоритм, а тот, где автоматизация умеет вовремя остановиться и передать ситуацию специалисту.
