Банкинг, сделанный правильно: переосмысление розничного банкинга с помощью языко-ориентированного ИИ

Xin Jie Chua¹, Jeraelyn Ming Li Tan², Jia Xuan Tan², Скоро Чанг Пох^1,2,
И И Гох¹, Дебби Хуи Тиан Чунг¹, Чи Му Фунг^2,3,
Сзе Дже Ян^1,2, Chee Seng Chan^1†

¹Университи Малайя, ²YTL AI Labs, ³Ryt Bank
^†Соответствие: cs.chan@um.edu.my

Аннотация

Эта статья представляет Ryt AI, агентскую среду, ориентированную на LLM, которая обеспечивает работу Ryt Bank111Ryt Bank является первым в мире банком, работающим благодаря ИИ, полностью лицензированным Банком Негара Малайзии (Центральным банком Малайзии) и Министерством финансов Малайзии. Посетите https://www.rytbank.my/, чтобы узнать больше. чтобы клиенты могли выполнять ключевые финансовые операции через разговор на естественном языке. Это является первым в мире развертыванием, одобренным глобальным регулятором, где разговорный ИИ выступает в качестве основного банковского интерфейса, в отличие от прежних ассистентов, которые были ограничены консультативными или вспомогательными ролями. Построенная полностью силами собственной команды, Ryt AI работает на ILMU — внутреннем закрытом LLM, — и заменяет жесткие многоэкранные сценарии единственным диалогом, оркестрируемым четырьмя агентами, работающими на LLM (Guardrails, Intent, Payment и FAQ). Каждый агент подключает к ILMU адаптер LoRA, специфичный для конкретной задачи, при этом ILMU размещается в инфраструктуре банка, чтобы обеспечить стабильное поведение при минимальных накладных расходах. Детерминированные защитные барьеры, подтверждение при участии человека и безсостоястная архитектура аудита обеспечивают многоуровневую защиту для безопасности и соответствия требованиям. В итоге получается Banking Done Right: демонстрация того, что одобренные регулятором интерфейсы на естественном языке могут надежно поддерживать ключевые финансовые операции в условиях строгого управления.

Банкинг по-настоящему: переосмысление розничного банкинга с помощью языко-центричного ИИ

Синь Цзе Чуа1, Джераэлин Мин Ли Тан2, Цзя Сюань Тан2, Сун Чанг По Х1,2, И Сян Гох1, Дебби Хуи Тянь Чун1, Чи Мун Фонг2,3, Сзе Джуэ Ян1,2, Чи Сэн Чан1† 1Университи Малайя, 2YTL AI Labs, 3Ryt Bank †Соответствие: cs.chan@um.edu.my

1 Введение

Обработка естественного языка (NLP) быстро развивается благодаря появлению больших языковых моделей (LLM), таких как ChatGPT OpenAI et al. (2024). Эти модели теперь внедряются в различных отраслях, включая здравоохранение Thirunavukarasu et al. (2023), телекоммуникации Zhou et al. (2025) и электронную коммерцию Palen-Michel et al. (2024), где они автоматизируют сложные задачи при минимальном вмешательстве человека.

Помимо простого порождения текста, LLM перешли к интерактивным системам, способным запоминать, использовать инструменты и рассуждать, что позволяет создать новое поколение автономных приложений, обычно называемых «агентами». Эти агенты переопределяют рабочие процессы предприятия, беря на себя функции, которые традиционно зависели от координации и логики человека.

Refer to caption — (a) Ryt AI интерфейс: естественно-языковой вход для выполнения финансовых действий.

Хотя ранние агентные фреймворки продемонстрировали перспективность в исследовательских прототипах Wang et al. (2024); Xi et al. (2023); Huang et al. (2024), их перенос в развертывания уровня промышленной эксплуатации остается ограниченным. Внедрение сдерживается такими проблемами, как сложность систем, ограниченная обобщаемость и отсутствие надежных оценок в реальных условиях, особенно в высокорисковых областях. Финансовый сектор воплощает это противоречие. Несмотря на высокий спрос на инновации с использованием LLM для поддержки клиентов, аналитики и персонализации, банки воздерживаются от их интеграции в критически важные для миссии рабочие процессы. Эта нерешительность связана с опасениями относительно галлюцинаций Huang et al. (2025); Xu et al. (2025), смещений Gallegos et al. (2024) и необходимости поддерживать строгие нормативные и требования к безопасности.

В результате большинство финансовых организаций ограничивают использование LLM второстепенными задачами и задачами с низкими рисками. Например, Erica (Bank of America) и Eno (Capital One) работают как вспомогательные ассистенты в существующих системах, главным образом выполняя поддержку, поиск информации или простые запросы (например, проверку балансов, ответы на вопросы в разделе FAQ). Они не инициируют и не выполняют критически важные операции, такие как инструкции по платежам или переводы средств. Такая осторожная позиция, хотя и понятна в финансах, способствовала застою в инновациях в ядре банковской системы.

1.1 Мотивация и постановка задачи

Этот разрыв наиболее заметен в рабочих процессах цифрового банкинга, которые по-прежнему завязаны на устаревших многошаговых схемах с ограниченным интеллектом. Перевод средств это ясно иллюстрирует (см. Fig. 2): пользователи обычно проходят через 5–8 экранов, выбирая счета, вводя данные получателя, указывая суммы, просматривая сводки и выполняя аутентификацию через токен или push-уведомление; этот процесс занимает 30–45 с. Несмотря на свою повсеместность, этот поток предоставляет лишь ограниченные удобства (например, сохраненные получатели или часто используемые списки получателей), не предлагает предиктивной помощи и не поддерживает намерение, заданное в свободной форме на естественном языке.

Такие рабочие процессы создают трение. Предыдущие исследования Krol et al. (2015); Jin and Fan (2022) показывают, что повторяющиеся сценарии, особенно связанные с аутентификацией, относятся к числу наиболее распространенных проблем удобства использования в цифровом банкинге. Тем не менее преобладающая в отрасли точка зрения остается консервативной: «не чините то, что не сломано».”

Эта статья представляет альтернативу, как показано на рис. 1. Это система, изначально ориентированная на LLM, в которой ключевые функции, такие как переводы средств, оплата счетов, проверки соответствия и генерация инсайтов, оркестрируются специализированными агентами, использующими LLM, в рамках строгого контроля безопасности, соответствия и присутствия человека. Мы демонстрируем, что такие агенты могут координировать операции банковского уровня «полный стек» в производственной среде при наличии регуляторного одобрения, заменяя мног экранную навигацию разговорным взаимодействием.

1.2 Наш подход

Ryt Bank, запущенный в Малайзии, является первым в мире лицензированным банком с архитектурой, рожденной для ИИ. В основе лежит Ryt AI — агентная система, изначально ориентированная на LLM (см. рис. 1), которая перестраивает рабочие процессы цифрового банкинга. Вместо нескольких экранов пользователи выражают свои намерения на естественном языке, а система собирает, проверяет и выполняет операцию после подтверждения пользователя.

Развертывание, одобренное регулятором. Ryt AI является первым глобальным, одобренным регулятором, суверенным, собственным LLM, выступающим в качестве основного интерфейса лицензированного цифрового банка, обеспечивая прямое выполнение ключевых транзакций (например, «Transfer RM10 to Mike”).

Дизайнерские последствия. Развертывание ILMU, нашей собственной LLM, которая обеспечивает работу Ryt AI, в качестве точки входа порождает три следствия: (a) Единый интерфейс. Объединяет распространенные финансовые запросы и транзакционные функции в одной точке входа. (b) Разговорные сценарии. Преобразует последовательные шаги, основанные на экране, в диалоговые обмены. (c) Локальная адаптация. Настраивает систему для многоязычного использования в Малайзии, в соответствии с языковыми и регуляторными требованиями.

Техническая реализация. Чтобы реализовать эти принципы проектирования, Ryt AI использует модульную многoагентную архитектуру, в которой специализированные агенты на основе LLM обрабатывают разбор намерений, сборку транзакций, обеспечение соответствия требованиям и семантическую проверку. Чтобы соответствовать требованиям по аудируемости, соблюдению нормативов и точности, агенты обмениваются структурированными сообщениями, поддерживают общий контекст и включают подтверждения с участием человека в контуре авторизации.

1.3 Вклад

Наши вклады имеют три направления:

⟦• Первый ИИ, развернутый в системах корпоративного банкинга. Мы представляем Ryt AI — первое в мире внедрение агентной системы на базе LLM в Ryt Bank, первого в мире лицензированного AI-ориентированного банка, выполняющей реальные переводы средств с одобрения регулятора.
⟦• Модель взаимодействия. Мы вводим ориентированную на язык основу, в которой естественный язык заменяет многоэкранные рабочие процессы, делая разговорные взаимодействия основным интерфейсом как для типовых финансовых запросов, так и для транзакционных задач.
⟦• Системная архитектура. Мы разрабатываем модульную многoагентную архитектуру, которая поддерживает этот парадигму взаимодействия, где специализированные агенты LLM сотрудничают посредством структурированного обмена сообщениями и общего пространства контекста. Компонент OCR расширяет возможности системы для обработки изображений счетов и квитанций, а ограждения и надзор человека обеспечивают нормативное соответствие и полную отслеживаемость.

2 Смежные работы

LLMs в финансах.

LLMs всё чаще внедряются в финансовой индустрии Staegemann et al. (2025); Saha et al. (2025); Li et al. (2024); Desai et al. (2024), поддерживая разнообразные применения, такие как обнаружение мошенничества Singh et al. (2025); Korkanti (2024), скоринг кредитов Feng et al. (2024); Zhao et al. (2024) и финансовый трейдинг Xiao et al. (2025); Ding et al. (2024). Значительная часть предшествующих исследований сосредоточена на применении LLMs в низкорисковых средах, ориентированных на клиентов, таких как чатботы и виртуальные ассистенты Gopalakrishnan (2024); Landolsi et al. (2025); Kulkarni et al. (2024), в первую очередь направленные на автоматизацию поддержки и повышение вовлеченности пользователей. Однако эти внедрения остаются периферийными по отношению к ключевой части финансовых операций. Их внедрение сдерживается сохраняющимися опасениями относительно безопасности, надежности, объяснимости и соблюдения требований нормативного регулирования Fan (2024); Bhattacharyya et al. (2025); Tavasoli et al. (2025). Поэтому большинство существующих развертываний избегают интеграции с высокорисковыми, критичными для соблюдения требований процессами, такими как пайплайны переводов средств, оплаты счетов или анализа рисков.

Мультиагентная архитектура.

Недавние усилия исследовали многоагентные фреймворки Guo et al. (2024); Han et al. (2025); Hong et al. (2024) для расширения возможностей LLM за счет специализации ролей, координации и делегирования задач. Однако внедрение этих фреймворков в финансовых отраслях остается ограниченным. Например, Srivastava (2025) вводит многоагентную систему для персонализированного финансового планирования и рекомендаций. Easin et al. (2024) предлагает многоагентного помощника для цифрового банкинга, но он остается прототипом и не имеет механизмов безопасности для реального развертывания. Эти ограничения подчеркивают критическую проблему: отсутствие надежных, соответствующих требованиям и операционно устойчивых многоагентных фреймворков, способных поддерживать реальные финансовые приложения.

3 Агентная структура проектирования

Ryt AI спроектирована как модульная, основанная на LLM многоагентная система (см. рис. 3). Архитектура включает (i) Guardrails, (ii) Intent Classifier и (iii) Action Agents, которые описаны далее.

3.1 Ограничители

Для любой финансовой системы защита конфиденциальных данных имеет решающее значение для надежности и соблюдения нормативных требований. Компонент Guardrails служит первой линией защиты, перехватывая ввод, такой как попытки jailbreak Yi et al. (2024); Shen et al. (2024), adversarial prompts Shayegani et al. (2023); Chowdhury et al. (2024), или неподдерживаемые запросы, которые считаются вредоносными или не соответствующими требованиям. Мы используем ILMU, наш внутренний LLM, дообученный на широком корпусе с инструкционным усреднением и дополнительно донастроенный на данных с метками guardrail, чтобы классифицировать ввод по категориям нарушений, таким как злоупотребление кодовым интерпретатором, вредоносный язык, утечки конфиденциальности и политически чувствимый контент. Для вводов не в текстовом виде контент на основе изображений проходит проверку компонентом визуальной модерации, который блокирует неподходящие или не соответствующие требованиям материалы (например, наготу, графические изображения). Это предотвращает распространение небезопасного ввода на последующие агенты, тем самым сохраняя целостность системы и соответствие нормативным требованиям (см. рис. 4(a)).

Для реализации этих защит агент ограждений выводит структурированный ответ в формате JSON с полями, такими как isSafe, guardrailViolation и message, позволяя компонентам, ориентированным на пользователя, реагировать в соответствии с требованиями (см. Приложение A.1). В отличие от традиционных систем, основанных на правилах, ограждения на базе LLM используют семантические рассуждения и контекст, учитывающий несколько раундов, что позволяет более тонко интерпретировать ввод пользователя и выходить за рамки жесткого сопоставления ключевых слов или шаблонов. Такой подход повышает точность обнаружения нарушений политики, снижает число ложных срабатываний и более эффективно поддерживает соответствие в динамичных реальных взаимодействиях.

Чтобы идти в ногу с развивающимися угрозами, политики guardrail определяются внутренним управлением и внешними предписаниями и обновляются по мере изменения требований. Ограждения модульные и поддерживают обновления на нескольких уровнях. Например, когда сообщается о новом шаблоне jailbreak, он будет нейтрализован в течение часов с помощью обновления запроса (например, добавления фразы в blocklist), а затем будет консолидирован в адаптер на основе LoRA, прикрепляемый к ILMU, для долгосрочной устойчивости.

3.2 Классификатор намерений

Поскольку вводимые пользователем данные по своей природе динамичны, классификация пользовательского намерения имеет решающее значение для определения соответствующих последующих операций, которые должны быть выполнены. Ввод, прошедший Guardrails, передаётся в Intent Classifier, который действует как диспетчер верхнего уровня. Он определяет намерение пользователя, используя текущее сообщение и, когда доступно, предысторию беседы, что позволяет глубже понять контекст по сравнению с изолированными вводами, а затем направляет сообщение на соответствующие агенты для последующей обработки. Классификатор охватывает несколько намерений в рамках ключевых банковских функций, например Payment, Inquiry и Faq.

В отличие от традиционных систем распознавания намерений, которые опираются на сопоставление ключевых слов на поверхностном уровне (например, обнаружение “pay” или “transfer” в любом контексте и запуск заранее заданного ответа), наш классификатор использует семантическое рассуждение, чтобы сопоставлять входные данные с заранее определенными онтологическими категориями. Например, на рис. 4(b), при наличии неформального запроса вроде “pay people I owe” Классификатор намерений идентифицирует запрос как Payment и направляет его в агент Payment, который отвечает за операции перевода средств. Затем агент Payment задает пользователю уточняющие вопросы, чтобы собрать необходимые сведения перед тем, как инициировать транзакцию в соответствии с правилами банковского комплаенса.

Эта контекстно-зависимая конструкция согласуется с реальными моделями использования, что особенно важно в финансовых приложениях, где запросы часто бывают расплывчатыми, с кодовым смешением или с грамматической непоследовательностью. Чтобы обеспечить такую устойчивость, классификатор был дообучен на корпусе примерно $10^{5}$ анонимизированных размеченных примеров в стиле инструкций, отражающих зашумлённые лингвистические паттерны, типичные для банковских разговоров в Малайзии. Ниже перечислены примеры, включающие опечатки, разговорные формулировки и смешанные языковые конструкции, что позволяет модели справляться с высокой вариативностью языка в производственных развертываниях. В Ryt AI Intent Classifier служит центральным диспетчером в агентной платформе, ориентированной на ИИ, координируя работу со специализированными последующими агентами (например, Payment, FAQ), чтобы обеспечить сквозные банковские операции.

3.3 Действующие агенты

Агентные действия обозначают категорию агентов, использующих LLM, которые выполняют конкретные финансовые операции в соответствии с услугами, которые предоставляет цифровой банк.

Агент платежей отвечает за выполнение пользовательских намерений, связанных с переводом финансовых средств. Когда намерение PAYMENT обнаруживается Классификатором намерений, он запускает модульный конвейер транзакций, работающий на ILMU, который выполняет извлечение полей, валидацию, уточнение и безопасное выполнение на стороне backend. Процесс начинается с структурированного извлечения полей. От естественного языка до многомодального ввода агент извлекает пять ключевых полей: (i) имя получателя, (ii) название банка, (iii) номер счета, номер телефона, персональный идентификационный номер или идентификаторы бизнеса, (iv) сумму и (v) ссылку или назначение. Валидатор схемы проверяет эти поля на синтаксическую и семантическую согласованность на основе локальных банковских правил (например, ненулевая сумма перевода, корректное название банка). Если поля отсутствуют или неоднозначны, агент формирует запросы на уточнение, чтобы получить разъяснения в рамках той же сессии.

Платежный агент также поддерживает транзакции на основе изображений (например, снимки счетов, квитанции и скриншоты), используя встроенный OCR, который семантически извлекает поля, такие как сумма и реквизиты счета, из документов вроде счетов, платежных квитанций или инвойсов, выходя за рамки простого OCR. Например, достаточно скриншота чата с некоторыми деталями транзакции, чтобы вывести полную транзакцию и сгенерировать структурированный предварительный просмотр (см. рис. 4(c)).

После валидации данных запрос на транзакцию отправляется в шлюз backend, где выполняются проверки баланса, ограничения на транзакции и скрининг по противодействию отмыванию денег (AML). Окончательное подтверждение пользователя обеспечивается выделенным этапом проверки и одобрения в операционных защитных механизмах. Чтобы обеспечить конфиденциальность и соблюдение требований, Платежный агент придерживается политики памяти без состояния, привязанной к сессии (см. Разд. 4 для деталей).

Часто задаваемые вопросы Агент использует конвейер Retrieval-Augmented Generation (RAG) Lewis et al. (2021) для предоставления точных и контекстно релевантных ответов на запросы пользователей, даже когда входные данные расплывчаты или неполны. В отличие от жестких систем сопоставления ключевых слов, он выполняет многостадийное семантическое рассуждение по подобранному репозиторию знаний на основе векторов.

Пайплайн начинается с переформулировки запроса, при которой неформальный или неоднозначный ввод переписывается так, чтобы включать достаточную информацию и быть связанным с предшествующей историей беседы. Как показано на рис. 4(d), пользователь сначала спрашивает о добавлении любимых получателей переводов, а затем задает вопрос «Сколько я могу сохранить?». Чтобы сохранить контекстуальную согласованность, LLM использует историю беседы для переформулировки этого последующего вопроса в полностью заданный запрос: «Сколько любимых получателей переводов я могу сохранить?». Затем этот переформулированный запрос кодируется в плотный вектор с помощью предварительно обученной модели встраивания, что позволяет выполнять семантический поиск независимо от точной формулировки. Полученный вектор используется для выполнения поиска по сходству с векторным хранилищем, специфичным для предметной области, содержащим банковские FAQ, описания функций и рекомендации по поддержке пользователей. Извлеченные контексты перенабираются с помощью модели скоринга, учитывающей семантическое сходство и контекстуальную релевантность. Наконец, наиболее релевантные контексты и запросы пользователя передаются в LLM, который генерирует фактически обоснованный, учитывающий контекст ответ, чтобы ответить на вопрос пользователя.

3.4 Реализация и эксплуатация

Модель. Ryt AI работает на основе ILMU — закрытой исходной модели-основы, разработанной полностью внутри компании. Для развертывания в банковском секторе мы обучили меньший, предназначенный для конкретной предметной области вариант ILMU (менее 10B параметров), чтобы удовлетворить требования по соответствию нормативным требованиям, эффективности и задержкам. Этот вариант представляет собой авторегрессионную декодерную модель с контекстным окном на 8K токенов и снабжен поворотными позиционными встраиваниями (RoPE). Решение разрабатывать и специализировать LLM внутри компании является не предпочтением по дизайну, а нормативным требованием. В финансовых услугах нормативные рамки требуют поддающегося проверке контроля над тренировочными данными, процессами вывода и частотой обновлений, чтобы обеспечить соответствие, аудируемость и эффективное управление рисками. Хотя в принципе модели с открытым исходным кодом могли бы размещаться локально, нерешенные проблемы, такие как непрозрачное происхождение тренировочных данных, неоднозначная юридическая ответственность и циклы обновлений со стороны поставщика, не согласованные с нормативным соответствием в конкретной юрисдикции, ограничивают их пригодность в банковском контексте. Напротив, внутренне разработанный вариант ILMU обеспечивает полное управление, контролируемую донастройку и отслеживаемую цепочку происхождения данных.

Специализация LoRA. Каждый агент (то есть Ограждения, Назначение, Платеж, Часто задаваемые вопросы) загружает одну и ту же базовую модель ILMU, а также адаптер LoRA, специфичный для задачи, и адаптированный инструктивный запрос. Такая модульная конструкция позволяет обеспечивать соблюдение требований безопасности, классификацию назначения, извлечение платежной информации и обработку Часто задаваемых вопросов без необходимости переобучения всей модели.

Выполнение. Запросы обрабатываются последовательно: Guardrails → Intent → Action → Confirmation, при этом общий JSON-контекст передаётся между агентами для сохранения согласованности, обеспечения соответствия требованиям и поддержания прослеживаемости по всему конвейеру.

4 Смягчение операционных рисков

Операционный риск является одной из наиболее критических задач при внедрении ИИ в финансовых услугах Ogundimu (2025); Moharrak and Mogaji (2025), особенно когда автоматизированные системы участвуют в задачах высокой значимости, таких как платежи, интерпретация требований комплаенс и т. д. С Ryt AI мы рассматриваем операционный риск не как второстепенный вопрос, а как базовый принцип проектирования. Каждый уровень системы — от семантического разбора до выполнения — спроектирован так, чтобы обеспечивать прослеживаемость, возможность аудита и контроль со стороны человека. Эти меры защиты — не просто формальные требования регулятора; они являются основой для построения ИИ-систем, которым доверяют, которые можно развертывать, и за которые можно нести ответственность в условиях промышленного банкинга.

Человек в контуре.

В соответствии с малайзийскими финансовыми нормативными требованиями все переводы средств требуют явного действия пользователя. Для переводов «от человека человеку» (P2P) требуется двухфакторная аутентификация (2FA) (например, биометрические данные, пароль), когда сумма транзакции или совокупная сумма за день превышает RM250; ниже этого порога достаточно одного подтверждения. Для платежей «от человека мерчанту» (P2M) 2FA требуется только тогда, когда сумма транзакции превышает RM250; в противном случае принимается одно подтверждение. Эти пороги являются требованиями регулирования, а не дизайнерскими решениями.

Чтобы соблюдать эти правила, Ryt AI обеспечивает защиту с участием человека в контуре для критически важных процессов, таких как переводы средств и подтверждение платежей. То есть после того, как ввод пользователя преобразуется в структурированные операционные данные, система формирует сводку транзакции. Перед выполнением пользователь должен явно выбрать пункт «Одобрить», «Отклонить» или «Изменить» запрос (см. рис. 4(c), внизу). Этот механизм гарантирует, что пользователи сохраняют полный контроль над финансовыми решениями, а упорядоченный конвейер, описанный в разд. 3, обеспечивает прослеживаемость и проверяемый журнал аудита.

Архитектура статической памяти.

Дополняя эту контрольную рамочную структуру, применяется безсостояния, привязанная к сеансу конструкция памяти, которая гарантирует, что конфиденциальные пользовательские данные никогда не сохраняются постоянно. Как только сеанс завершается, вся контекстная информация, например пользовательские запросы, выводы модели, извлеченные поля и решения, удаляется. Это не только сокращает поверхность атаки для возможных нарушений, но и согласуется с принципами минимизации данных, встроенными в руководящие принципы National Bank Responsible AI, и другими глобальными нормативными рамками.

5 Эксперименты

Набор данных. Для оценки производительности фреймворка Ryt AI в реалистичных сценариях банковского дела мы создаём комплексный набор тестов, включающий 2,000 диалоговых случаев, включая диалоги с одним обращением и многократными обращениями. Многократные случаи моделируют естественные взаимодействия в цифровом банкинге, включая до 10 предшествующих реплик диалогового контекста. Набор данных создаётся по гибридному процессу, в котором исходные тестовые случаи генерируются с помощью LLM, а затем выполняются ручная проверка и доработка экспертами предметной области, чтобы обеспечить контекстуальную корректность, фактическую точность и соответствие нормативным требованиям. Примеры набора данных можно найти в Appx. A.2.

Модели. Мы сравниваем производительность пяти LLM, включая семейство моделей GPT OpenAI et al. (2024), а именно GPT-4o и GPT-4o mini, семейство Gemini Team et al. (2025) — Gemini 2.0 Flash и Gemini 2.0 Flash-Lite, а также наш собственный LLM — ILMU.

Показатели. Мы оцениваем производительность по пяти ключевым измерениям, отражающим техническое качество и практическую реализуемость в производственной банковской среде. (i) Точность: доля тестовых случаев, в которых система корректно определяет намерение пользователя и генерирует релевантный и точный ответ в пределах области ответственности каждого агента. Примеры тестовых случаев для однораундовых и многораундовых разговоров приведены в Приложении A.2. (ii) Скорость: отзывчивость системы, измеряемая как обратная величина средней сквозной задержки на взаимодействие. Меньшая задержка соответствует более высоким оценкам скорости. (iii) Экономическая эффективность: оцененная средняя вычислительная стоимость на взаимодействие, рассчитываемая на основе использования токенов и цен модели (для публичного LLM). Для ILMU используются оценки внутренней стоимости инференса. (iv) Допустимый уровень риска: безопасность, соответствие требованиям и согласованность модели с локальными правилами и нормативными актами, оцениваемые экспертами по рискам и соответствию требованиям. (v) Владение языком: оценка человеком беглости ответа, связности и многоязычных возможностей.

5.1 Результаты и обсуждение

Как показано на рис. 5, Ryt AI выделяется не только как высокопроизводительная модель, но и как производственно проверенная основа для диалогового банкинга в масштабе. Уже обслуживая более 50K пользователей и обрабатывая приблизительно 80K транзакций ежемесячно, она обеспечивает реальные взаимодействия, требующие беглости, точности и доверия. Ее языковая компетентность позволяет ей четко понимать намерения пользователя даже при многоязычных, неформальных или культурно нюансированных вводных данных, что критически важно для надежного выполнения повседневных банковских задач.

Метрика Риск-устойчивости на рис. 5, оцениваемая экспертами по соответствию требованиям, охватывает как эффективность ограждений, так и снижение галлюцинаций. В производственных журналах галлюцинации наблюдались менее чем в 1,5% случаев, главным образом в агенте FAQ, где недостаточный контекст иногда приводил к некорректным ответам. В транзакционных потоках такие случаи редки и не влияют на выполнение благодаря трем мерам защиты: (i) строгой валидации схемы, (ii) ограждениям на основе LLM и (iii) обязательному этапу подтверждения человеком в контуре. С точки зрения банка применяются явные пороговые значения: $\leq$ допустимая доля галлюцинаций 0,5% для потоков с высокой степенью риска (например, переводы средств, оплата счетов) и $\leq$ допустимая доля галлюцинаций 2% для доброкачественных галлюцинаций в нетранзакционных контекстах, таких как вопросы и ответы. Также оценивается устойчивость к атакам, включая попытки обхода ограничений и пробы на раскрытие подсказок.

Помимо точности и безопасности, Ryt AI демонстрирует эффективность и практичность. Его сильные показатели по скорости и экономической эффективности обеспечивают низкую задержку и устойчивое использование инфраструктуры, что необходимо для крупномасштабных развертываний при платежах, переводах и запросах. В совокупности эти качества отражают не только техническую производительность, но и надежность на уровне соответствия требованиям, закрепляя Ryt AI как развернутую систему, которая переопределяет пользовательский опыт в банковской сфере.

6 Вывод

Ryt AI переопределяет способ, которым пользователи взаимодействуют с финансовыми системами, превращая сложность в ясность благодаря учитывающим намерение ИИ-ориентированным решениям. Как первое в своем роде в финансах, оно сочетает модульные агенты с защитными механизмами уровня предприятия, чтобы обеспечить естественную, соответствующую требованиям и контролируемую автоматизацию. Созданное с глубоким пониманием институциональных рисков и пользовательского опыта, Ryt AI находит баланс между скоростью, безопасностью и прозрачностью за счет отслеживаемых рабочих процессов и дизайна с участием человека в контуре..

Ограничения

Разработка модели внутри компании. Требование к созданию ILMU, нашей собственной закрытой LLM, с нуля является нормативным требованием, а не предпочтением в отношении дизайна. В финансовых услугах нормативное соответствие требует полного контроля над происхождением обучающих данных, частотой обновлений и возможностью аудита. Эти гарантии нельзя обеспечить, развернув открытые LLM on-premise (например, DeepSeek), где происхождение данных и циклы обновлений со стороны поставщика остаются непрозрачными. Хотя такой подход обеспечивает верифицируемое управление, он также требует значительных инвестиций в инфраструктуру и снижает переносимость по сравнению с адаптацией существующих открытых моделей.

Региональные и лингвистические предвзятости. Хотя Ryt AI показывает хорошие результаты на многоязычных запросах, его обучение и дообучение в основном были ориентированы на Bahasa Melayu, English, Chinese и нормативно-правовую базу Банка Негара Малайзии (BNM)222BNM является Центральным банком Малайзии. В связи с этим его устойчивость в других юрисдикциях, особенно при наличии различных правовых или культурных требований, может быть ограниченной без дальнейшей локализации.

Частота обновления модели. В регулируемых отраслях своевременные обновления необходимы, чтобы отражать изменения политики, модели мошенничества или вариации финансовых продуктов. Однако крупномасштабное дообучение моделей и повторное развертывание остаются ресурсоемкими. Балансирование частоты обновлений с устойчивостью системы является постоянной операционной задачей.

Доверие и внедрение. Хотя диалоговый интерфейс показал эффективность среди ранних пользователей, некоторые сегменты пользователей по-прежнему могут предпочитать традиционные взаимодействия на основе форм. Управление доверием, адаптацией и доступностью, особенно для менее технически подкованных пользователей, остается социотехнической задачей.

Мы рассматриваем эти ограничения не как препятствия, а как возможности для итеративного улучшения в направлении более безопасной, более инклюзивной и доступной для глобального развертывания системы финансового ИИ.

Ссылки

Bhattacharyya et al. (2025) Ануешa Бхаттачарья, Е Ю, Хань Юэн Ян, Рахул Сингх, Тарун Джоши, Цзе Чен и Киран Яалаварти. 2025. Model risk management for generative ai in financial institutions. Препринт, arXiv:2503.15668.
Chowdhury et al. (2024) Ариджит Гхош Чоудхури, Мд Мофидул Ислам, Вайбхав Кумар, Файсал Хоссейн Шезан, Вайбхав Кумар, Виниджа Джейн и Аман Чадха. 2024. Breaking down the defenses: A comparative survey of attacks on large language models. Препринт, arXiv:2403.04786.
⟦Desai et al. (2024) Акшар Прабху Десаи, Теджасви Рави, Мохаммад Луќман, Ганеш Малья, Нитья Кота и Прањул Ядав. 2024. Opportunities and challenges of generative-ai in finance. На 2024 IEEE Международной конференции по Big Data (BigData), стр. 4913–4920. IEEE.
Ding et al. (2024) Хань Дин, Иньхэн Ли, Цзюньхао Ван и Хан Чэнь. 2024. Large language model agent in financial trading: A survey. Препринт, arXiv:2408.06361.
⟦Easin et al. (2024) Арафат Мд Иасин, Саха Саурав и Ороз Тамащ. 2024. An intelligent llm-powered personalized assistant for digital banking using langgraph and chain of thoughts. На 2024 году на 22-м юбилейном Международном симпозиуме IEEE по интеллектуальным системам и информатике (SISY), страницы 625–630.
⟦Fan (2024) Минхун Фань. 2024. Llms in banking: Applications, challenges, and approaches. В материалах Международной конференции по цифровой экономике, блокчейну и искусственному интеллекту, DEBAI ’24, стр. 314–321, Нью-Йорк, штат Нью-Йорк, США. Ассоциация вычислительной техники.
Feng et al. (2024) Дуань Юй Фэн, Юнфу Дай, Цзимин Хуан, Ифан Чжан, Цяньцянь Се, Вэйгуан Хань, Чжэнъюй Чэнь, Алехандро Лопес-Лира и Хао Ван. 2024. Empowering many, biasing a few: Generalist credit scoring through large language models. Препринт, arXiv:2310.00566.
⟦Gallegos et al. (2024) Изабел О. Галлегос, Райан А. Росси, Джо Барроу, Мд Мехраб Танжим, Сонгчул Ким, Франк Дернонкур, Тонг Юй, Жуйи Чжан и Несрин К. Ахмед. 2024. Bias and fairness in large language models: A survey. Препринт, arXiv:2309.00770.
Gopalakrishnan (2024) Картика Гопаласкришнан. 2024. Leveraging generative ai chatbots in the banking industry: A comprehensive analysis. International Journal of Artificial Intelligence & Machine Learning (IJAIML), 3(01):124–131.
⟦Taicheng Guo, Xiuying Chen, Yaqi Wang, Ruidi Chang, Shichao Pei, Nitesh V. Chawla, Olaf Wiest, и Xiangliang Zhang. 2024. Large language model based multi-agents: A survey of progress and challenges. Предварительная публикация, arXiv:2402.01680.
⟦Han et al. (2025) Шаньшань Хань, Цифань Чжан, Юхан Яо, Вэйчжао Цзинь и Чжаочжуо Сюй. 2025. Llm multi-agent systems: Challenges and open problems. Препринт, arXiv:2402.03578.
⟦Hong et al. (2024) Сируи Хонг, Минчен Чжугэ, Цзяци Чэнь, Сяу Чжэн, Юхэн Чэн, Сеяо Чжан, Цзинлин Ван, Цили Ван, Стивен Ка Шинг Яу, Цзиянь Лин, Лянъян Чжоу, Чэнъюй Жань, Линфэн Сяо, Чэнлин У, и Юрген Шмидхубер. 2024. Metagpt: Meta programming for a multi-agent collaborative framework. Препринт, arXiv:2308.00352.
Huang et al. (2025) Лэй Хуан, Вэйцзян Юй, Вэйтао Ма, Вэйхун Чжун, Чжанъин Фэн, Хаотян Ван, Цянлун Чэнь, Вэйхуа Пэн, Сяочэн Фэн, Бин Цин и Тин Лю. 2025. A survey on hallucination in large language models: Principles, taxonomy, challenges, and open questions. ACM Transactions on Information Systems, 43(2):1–55.
⟦Huang et al. (2024) Сю Хуан, Вэйвэнь Лю, Сяолун Чэнь, Синмэй Ван, Хао Ван, Дэфу Лян, Яшэн Ван, Руимин Тан и Энхун Чэнь. 2024. Understanding the planning of llm agents: A survey. Препринт, arXiv:2402.02716.
⟦Jin and Fan (2022) Сяофу Цзинь и Минмин Фан. 2022. “i used to carry a wallet, now i just need to carry my phone”: Understanding current banking practices and challenges among older adults in china. В материалах 24-й Международной конференции ACM SIGACCESS по компьютерам и доступности, ASSETS ’22, страница 1–16. ACM.
Korkanti (2024) Сукантх Корканти. 2024. Enhancing financial fraud detection using llms and advanced data analytics. В 2024 2-й Международной конференции по самоподдерживающимся системам искусственного интеллекта (ICSSAS), страницы 1328–1334.
Krol et al. (2015) Кат Крол, Элени Филиппу, Эмилиано Де Кристофаро и М. Анжела Сэссе. 2015. "‘they brought in the horrible key ring thing!" analysing the usability of two-factor authentication in uk online banking. Предварительная публикация, arXiv:1501.04434.
⟦Radhika V Kulkarni, Ameya Paldewar, Sanket Paliwal, Amol Palwe и Soham Panchal. 2024. Bankbot: Streamlined banking support through centralized faqs. На 2024 International Conference on Progressive Innovations in Intelligent Systems and Data Science (ICPIDS), страницы 138–143. IEEE.
⟦Landolsi et al. (2025) Хамза Ландолси, Каис Летаиф, Низар Тагхути и Инес Абдельжауед-Теж. 2025. Caprag: A large language model solution for customer service and automatic reporting using vector and graph retrieval-augmented generation. Препринт, arXiv:2501.13993.
⟦Lewis et al. (2021) Патрик Льюис, Итан Перес, Александра Пиктус, Фабио Петрони, Владимир Карпухин, Наман Гоял, Хайнрих Кюттлер, Майк Льюис, Вен тау Иих, Тим Роктэшель, Себастьян Ридел и Дове Кела. 2021. Retrieval-augmented generation for knowledge-intensive nlp tasks. Препринт, arXiv:2005.11401.
Li et al. (2024) Иньхэн Ли, Шаофэй Ван, Хань Дин и Хань Чэнь. 2024. Large language models in finance: A survey. Препринт, arXiv:2311.10723.
⟦Moharrak and Mogaji (2025) Моайад Мохаррак и Эммануэль Могаи. 2025. Generative ai in banking: empirical insights on integration, challenges and opportunities in a regulated industry. Международный журнал банковского маркетинга, 43(4):871–896.
⟦Ogundimu (2025) Олукунле Огундиму. 2025. Artificial intelligence in financial and operational risk management: A critical analysis. Cognizance Journal of Multidisciplinary Studies, 5:484–506.
OpenAI et al. (2024) OpenAI, Josh Achiam, Steven Adler, Sandhini Agarwal, Lama Ahmad, Ilge Akkaya, Florencia Leoni Aleman, Diogo Almeida, Janko Altenschmidt, Sam Altman, Shyamal Anadkat, Red Avila, Igor Babuschkin, Suchir Balaji, Valerie Balcom, Paul Baltescu, Haiming Bao, Mohammad Bavarian, Jeff Belgum, and 262 others. 2024. Gpt-4 technical report. Препринт, arXiv:2303.08774.
⟦Palen-Michel et al. (2024) Честер Палэн-Мишель, Жусян Ван, Ипэн Чжан, Давид Ю, Канран Сюй и Чжэ У. 2024. Investigating llm applications in e-commerce. Препринт, arXiv:2408.12779.
⟦Saha et al. (2025) Bikash Saha, Nanda Rani, and Sandeep Kumar Shukla. 2025. Generative ai in financial institution: A global survey of opportunities, threats, and regulation. Препринт, arXiv:2504.21574.
Shayegani et al. (2023) Эрфан Шайегани, Мд Абдулла Аль Мамун, Юй Фу, Педрам Зареи, Юэ Дун и Наэль Абу-Газалех. 2023. Survey of vulnerabilities in large language models revealed by adversarial attacks. Препринт, arXiv:2310.10844.
Shen et al. (2024) Синьюэ Шэнь, Зэюань Чэнь, Майкл Бэкес, Юнь Шэнь и Ян Чжан. 2024. "do anything now": Characterizing and evaluating in-the-wild jailbreak prompts on large language models. Препринт, arXiv:2308.03825.
Singh et al. (2025) Гурджот Сингх, Прабхджот Сингх и Маниндер Сингх. 2025. Advanced real-time fraud detection using rag-based llms. Предварительная публикация, arXiv:2501.15290.
⟦Srivastava (2025) Варада Шривастава. 2025. Eagle: A multi-agent generative ai system for personalized banking recommendation and risk-aware financial planning.
Staegemann et al. (2025) Даниэль Штегеманн, Кристиан Хертель, Кристиан Даазе, Маттиас Поль, Мохаммад Абдалла и Клаус Туоровски. 2025.⟧.
⟦Tavasoli et al. (2025) Ахмадреза Тавасоли, Махдех Шарбаф и Сейед Мохамад Мадани. 2025. Responsible innovation: A strategic framework for financial llm integration. Препринт, arXiv:2504.02165.
⟦Team et al. (2025) Команда Gemini, Rohan Anil, Sebastian Borgeaud, Jean-Baptiste Alayrac, Jiahui Yu, Radu Soricut, Johan Schalkwyk, Andrew M. Dai, Anja Hauth, Katie Millican, David Silver, Melvin Johnson, Ioannis Antonoglou, Julian Schrittwieser, Amelia Glaese, Jilin Chen, Emily Pitler, Timothy Lillicrap, Angeliki Lazaridou и еще 1332 автора. 2025. Gemini: A family of highly capable multimodal models. Предварительная публикация, arXiv:2312.11805.
⟦Thirunavukarasu et al. (2023) Арун Джеймс Тирунавукарасу, Даррен Шу Дженг Тинг, Кабилан Элангован, Лаура Гутьеррес, Тинг Фанг Тан и Дэниел Шу Вэй Тинг. 2023. Large language models in medicine. Nature medicine, 29(8):1930–1940.
⟦Lei Wang, Chen Ma, Xueyang Feng, Zeyu Zhang, Hao Yang, Jingsen Zhang, Zhiyuan Chen, Jiakai Tang, Xu Chen, Yankai Lin, Wayne Xin Zhao, Zhewei Wei, and Jirong Wen. 2024. A survey on large language model based autonomous agents. Frontiers of Computer Science, 18(6).
⟦Xi et al. (2023) Чжихэн Си, Вэньсян Чэнь, Синь Го, Вэй Хэ, Ивэнь Дин, Боян Хун, Мин Чжан, Цзюньчжэ Ван, Сенцзе Цзинь, Энью Чжоу, Жуй Чжэн, Сяоран Фань, Сяо Ван, Лимао Сюн, Юхао Чжоу, Вэйран Ван, Чанхао Цзян, Ичэн Цзоу, Сянъян Лю и ещё 10 человек. 2023. The rise and potential of large language model based agents: A survey. Препринт, arXiv:2309.07864.
Xiao et al. (2025) Yijia Xiao, Edward Sun, Di Luo, and Wei Wang. 2025. Tradingagents: Multi-agents llm financial trading framework. Препринт, arXiv:2412.20138.
⟦Xu et al. (2025) Цивэй Сюй, Санджай Джейн и Мохан Канканхалли. 2025. Hallucination is inevitable: An innate limitation of large language models. Препринт, arXiv:2401.11817.
Yi et al. (2024) Сибо Йи, Юйле Лю, Чжэнь Сун, Тяньшуо Конг, Синьлей Хэ, Цзясин Сун, Кэ Сюй и Ци Ли. 2024. Jailbreak attacks and defenses against large language models: A survey. Препринт, arXiv:2407.04295.
Zhao et al. (2024) Хуацин Чжао, Чжэнлиан Лю, Цзыхао У, Ивэй Ли, Тяньцзе Ян, Пэн Шу, Шаочэнь Сюй, Хайсин Дай, Линь Чжао, Ханьци Цзян, И Пан, Цзюньхао Чэнь, Ифань Чжоу, Гэнчэнь Май, Нинхао Лю и Тяньмин Лю. 2024. Revolutionizing finance with llms: An overview of applications and insights. Предварительная публикация, arXiv:2401.11641.
⟦Hao Zhou, Chengming Hu, Ye Yuan, Yufei Cui, Yili Jin, Can Chen, Haolun Wu, Dun Yuan, Li Jiang, Di Wu, Xue Liu, Jianzhong Zhang, Xianbin Wang, and Jiangchuan Liu. 2025. Large language model (llm) for telecommunications: A comprehensive survey on principles, key techniques, and opportunities. IEEE Communications Surveys & Tutorials, 27(3):1955–2005.

Appendix A Приложение

A.1 Запросы

Мы представляем шаблоны промптов, используемые для каждого основного компонента, включая Guardrails (Таблица 1), Intent Classifier (Таблица 2), Payment Agent (Таблица 3) и FAQ Agent (Таблица 4).

⟦Table 1: Шаблон промпта для ограждений

⟦Шаблон запроса для классификатора намерений⟦K0

⟦Table 3: Шаблон подсказки для платежного агента

⟦Table 4: Шаблон подсказки для агента вопросов и ответов

A.2 Оценочный набор данных

Мы приводим примеры диалоговых ситуаций, используемых для оценки производительности фреймворка Ryt AI в банковских сценариях, включая диалоги с одним ходом и с несколькими ходами. Пример тестового случая с одним ходом:

Пример многоходового тестового примера: