Интерпретируемые LLM для оценки кредитного риска: систематический обзор и таксономия

Аннотация

Large Language Models (LLM), получившие развитие в последние годы, позволяют проводить оценку кредитных рисков посредством анализа финансовых текстов, таких как отчеты аналитиков и корпоративные раскрытия информации. В данной статье представлен первый систематический обзор и таксономия, сфокусированные на подходах к оценке кредитных рисков на основе LLM. Мы определили базовые архитектуры моделей, отобрав 60 релевантных статей, опубликованных в период с 2020 по 2025 год, с использованием исследовательской стратегии PRISMA. Мы также изучили данные, используемые для таких сценариев, как прогнозирование кредитного дефолта и анализ рисков. Поскольку основной фокус статьи направлен на интерпретируемость, мы классифицируем такие концепции, как механизмы объяснимости, цепочки рассуждений (chain of thought prompts) и обоснования на естественном языке для кредитных моделей на базе LLM..

Данная таксономия систематизирует литературу по четырем основным направлениям: архитектуры моделей, типы данных, механизмы объяснимости и области применения. На основе этого анализа мы выделяем основные будущие тенденции и пробелы в исследованиях систем кредитного скоринга на базе LLM. Данная статья призвана стать справочным материалом для исследователей в области искусственного интеллекта и финансов..

Данная рукопись находится на стадии рецензирования.

1 Введение

Оценка кредитного риска является одним из важных компонентов при принятии финансовых решений, таких как принятие инвестиционных решений и определение целесообразности предоставления кредита физическому или юридическому лицу [1]. В то время как традиционные методы при оценке кредитного риска опираются на структурированные данные, такие как финансовые коэффициенты и информация о прошлых платежах, в действительности важная информация о кредите может быть недоступна в организованном виде [2]. Примером этого является то, что комментарии руководителей, экономические новости и отчеты аналитиков, как правило, представлены в виде свободного текста (неструктурированного).

Передовые LLM модели, такие как GPT и FinBERT, обладают огромным потенциалом в финансовых приложениях благодаря своей высокой эффективности в извлечении смысла из неструктурированного текста [3, 4]. Они способны создавать интерпретируемые результаты, осмысливая сложные финансовые данные, и тем самым облегчать процессы принятия решений [5]. Благодаря своему высокому потенциалу данная область исследований — оценка кредитного риска на основе LLM, где пересекаются NLP, финансовый анализ и XAI, — начала привлекать внимание исследователей. Однако применение LLM в сфере анализа кредитных рисков до сих пор не было систематически изучено. Большинство исследований в литературе поверхностно рассматривают применение искусственного интеллекта в финансовом секторе или не затрагивают подробно интерпретируемость LLM при оценке кредитного риска. Более того, эта конкретная область исследований требует комплексной таксономии типов моделей LLM, источников данных и методов XAI..

1.1 Цели и вклад

В данной статье представлен систематический обзор подходов на основе LLM в оценке кредитных рисков и приведено подробное исследование таксономии. Основной вклад данной статьи заключается в следующем:

• ⟦ Опубликованные исследования по применению LLM в оценке кредитных рисков систематически рассматриваются с использованием методологии PRISMA.
• ⟦ Представлена подробная таксономия путем изучения текущих исследований по четырем основным аспектам: архитектура модели, модальность данных, механизм объяснимости и область применения.
• ⟦ Анализируются тенденции, проблемы и перспективные направления исследований в области внедрения LLM.
• ⟦ Представлен первый систематический обзор и таксономия, сфокусированные на подходах на основе LLM в оценке кредитного риска, что служит ориентиром для исследователей и финансовых институтов в данной области.

1.2 Структура статьи

На рисунке 1 представлена структура статьи. В разделе 2 рассматриваются текущие обзорные исследования в области финансов и LLM, анализируется их направленность и ограничения. Затем проводится сравнительный анализ данной работы с существующей литературой. В разделе 3 разъясняются исследовательские вопросы и стратегия сбора статей. В разделе 4 представлена таксономия, классифицирующая системы оценки кредитного риска на основе LLM по четырем основным аспектам: архитектура модели, модальность данных, механизм интерпретируемости и область применения. В разделе 5 обобщаются основные акценты, полученные в ходе работы, и освещаются пробелы в литературе. В разделе 6 подводятся итоги статьи с обсуждением последствий для исследователей и финансовых специалистов в данной области..

⟦Figure 1: Структура статьи

2 Смежные обзоры

Несмотря на растущий интерес к исследованиям в области финансов на основе LLM и искусственного интеллекта (AI) в последние годы, до сих пор отсутствует комплексная классификация с точки зрения направленности, глубины и релевантности для кредитного риска, а также отсутствуют дискуссии об интерпретируемости, являющейся ключевым компонентом в сценариях оценки кредитоспособности..

Staegemann et al. [6] в своем обзоре литературы по применению генеративного AI в банковском деле подчеркивают потенциал LLM для снижения рисков и улучшения клиентского опыта. Однако в статье не рассматриваются методы моделирования кредитного риска или интерпретируемости, а также отсутствует таксономия типов моделей. В [7] обсуждаются такие модели, как FinGPT и BloombergGPT, LLM рассматриваются в контексте финансовой инклюзивности, политических последствий и этических проблем, но игнорируются приложения для кредитного риска. В исследовании Joshi et al. рассматриваются AI-фреймворки в кредитном риске и торговых приложениях, но не включены архитектуры LLM или наборы данных. [8]. Chen et al. [9] в своем исследовании LLM в финансах, праве и здравоохранении также подчеркивают риски использования LLM в секторах с высоким уровнем риска. Однако финансовая дискуссия носит поверхностный характер, а методы кредитного скоринга не рассматриваются. В [10] рассматриваются методы анализа тональности, используемые в банковском деле, с акцентом на изучение влияния на доверие инвесторов. Тем не менее, задачи кредитного риска рассматриваются лишь поверхностно. В исследовании Nie et al. работа по генеративному AI и LLM сосредоточена на моделировании рисков и архитектурах развертывания [11]. В статье обсуждаются такие области, как проектирование данных, модули кредитного скоринга и т. д., но отсутствует сравнительная таксономия и механизмы интерпретируемости для типов LLM. Zavitsanos et al. [12] исследуют ML-подходы в выявлении финансовых рисков, изучая признаки, метки данных, методы оценки и ML-методы. Хотя это полезная таксономия, она больше ориентирована на ML, чем на LLM. В [13] авторы в основном делают упор на традиционные ML и статистические методы финансового прогнозирования, но не затрагивают LLM или методы Explainable AI. В исследовании Joshi et al. рассматриваются AI-фреймворки в кредитном риске и торговых приложениях, но нет фокуса на специфической для LLM таксономии или бенчмаркинге производительности [14]. Kong et al. [15] представили исследование, в котором провели бенчмаркинг финансовых задач на базе LLM для трех разных языков (китайский, японский, английский). Однако типы моделей не классифицированы, а интерпретируемость для доменов кредитного риска не проанализирована. В исследовании Joshi et al. [16] представлен подробный архитектурный обзор приложений на базе LLM для кредитного скоринга и макроэкономического моделирования. Однако в статье отсутствует эмпирическое сравнение, а также классификация для интерпретируемости. Lee et al. [17] рассматривают предметно-ориентированные финансовые приложения на основе LLM, классифицируют потоковые задачи и наборы данных, но не фокусируются на поддоменах кредитного риска. В [18] исследуются методы на основе AI в финансовых сценариях, таких как обнаружение мошенничества и управление портфелем, но не представлен подробный обзор интерпретируемости моделей и LLM для кредитного скоринга. В исследовании Karami и Igbokwe рассматривается оценка рисков на основе AI и ограничения традиционных кредитных методов, но не приводится классификация LLM [19]. Alonso et al. [20] предоставляют обзор LLM в таких областях, как управление активами и отчетность по рискам, но этого недостаточно для кредитного риска. В [21] LLM изучаются для таких финансовых приложений, как кредитный анализ и обнаружение мошенничества. Однако они очень поверхностны в вопросах интерпретируемости и специфического кредитного моделирования. Lakkaraju et al. [22] оценивают производительность LLM через призму справедливости, фокусируются на стратегиях снижения предвзятости, таких как повышение доверия пользователей, но оценки кредитного риска и интерпретируемость представлены очень поверхностно. В [23] финансовый анализ тональности на базе LLM с использованием нескольких наборов данных не рассматривается как кредитный риск или XAI. Omoseebi et al. [24] исследуют сторону финансовой безопасности LLM, такую как обнаружение мошенничества, но не проводят детального моделирования кредитного риска и исследований таксономии. В [25] обсуждается демократизация финансовых наборов данных и открытых моделей данных LLM, но не включено эмпирическое сравнение для кредитной или риск-аналитики. Krause et al. [26] представляют обзор, обсуждающий устойчивость моделей LLM, таких как ChatGPT. Обзор в основном посвящен этическим вопросам и вопросам управления и является поверхностным с точки зрения кредитного скоринга, разбивки моделей и наборов данных. В [27] оценивается надежность LLM в финансовых задачах и проводятся бенчмарки по суммаризации и обнаружению событий. Однако исследование не включает задачи, связанные с кредитованием, а интерпретируемость слабая..

⟦Table 1: Сравнение смежных обзорных исследований с данной работой

Work	Main Aim	Credit Risk	LLM-Specific	XAI	Taxonomy
[6]	GenAI in Banking	✗	✓	✗	✗
[7]	LLMs for Financial Regulation	✗	✓	✗	✗
[8]	Agentic GenAI for Risk Mgmt	✓	✓	✗	✗
[9]	LLMs in Finance/Healthcare/Law	✗	✓	✗	✗
[10]	Sentiment in Banking Headlines	✗	✓	✗	✗
[11]	LLMs in Financial Applications	✗	✗	✗	✗
[12]	ML for Financial Risk Reports	✓	✗	✗	✓
[13]	AI in Modern Banking	✓	✓	✗	✗
[14]	GenAI Agents in Finance	✓	✓	✗	✗
[15]	LLMs in Investment Mgmt	✗	✓	✗	✗
[16]	GenAI for Financial Risk	✓	✓	✗	✗
[17]	Survey of FinLLMs	✓	✓	✗	✓
[18]	Explainable AI in Finance	✓	✗	✓	✗
[19]	Big Data in Credit Risk	✓	✗	✗	✓
[20]	LLMs for Financial Reasoning	✗	✓	✗	✗
[21]	LLMs in Financial AI	✗	✓	✗	✓
[22]	LLMs as Finance Advisors	✗	✓	✗	✗
[23]	LLMs for Sentiment Analysis	✗	✓	✗	✗
[24]	LLMs for Financial Security	✗	✓	✗	✗
[25]	Consistency of LLMs	✗	✓	✗	✗
[26]	LLMs in Finance (ChatGPT/Bard)	✗	✓	✓	✗
[27]	LLM Strategy in FIs	✗	✓	✗	✗
This Work	Interpretable LLMs for Credit Risk	✓	✓	✓	✓

Сравнение обзоров: Таблица 1 содержит сравнение обзоров, рассмотренных в данном разделе. Несмотря на то, что интерес к применению LLM в финансовой сфере растет с каждым днем, существующие исследования сосредоточены на широких темах, таких как генеративный ИИ [6], системы инклюзивности [7] и финансовый NLP [17, 21]. Лишь ограниченное число исследований непосредственно сфокусировано на задачах оценки кредитного риска, и ни одно из них не предлагает таксономию, основанную на анализе архитектур LLM, форматов данных, методов интерпретируемости и предметно-ориентированных приложений..

Более того, большинство исследований не обеспечивают интерпретируемость для решений с высоким уровнем риска, таких как кредитный скоринг, а те исследования, которые ее обеспечивают, носят весьма поверхностный характер [20, 25]. Некоторые обзоры включают такие исследования, как анализ тональности или обнаружение мошенничества [23, 10], но они не затрагивают концепцию моделирования кредитного риска. Некоторые из рассмотренных исследований фокусируются только на традиционном ML [12, 19] и предлагают лишь концептуальные основы без сравнения моделей [8, 16]⟧.

Хотя некоторые исследования рассматривают специализированные LLM (такие как FinBERT, FinGPT и InvestLM), они не моделируют архитектуру или риски систематически. Ни одно из существующих исследований не предоставляет классификацию приложений LLM, которая учитывала бы как требования к моделированию, так и регуляторные требования (например, объяснимость, происхождение данных или справедливость). Данное исследование является первым, которое заполняет этот пробел на основе четырех основных столпов: архитектура модели, модальность данных, механизм интерпретируемости и предметная область..

3 Методология

В этом разделе описывается методология, использованная в систематическом обзоре оценки кредитных рисков на основе LLM.

3.1 Протокол сбора и отбора статей

Для формирования коллекции статей были отобраны рецензируемые журналы, высокорейтинговые конференции и главы книг за 2020–2025 годы путем сканирования таких библиотек, как IEEE Xplore, Elsevier, ACM Digital Library, SpringerLink, Scopus и arXiv. При сканировании статей использовались следующие ключевые слова ⟦BROKEN_K0⟧:

1. ⟦ [(LLM) — (LargeLanguageModel)] & [(Кредитный скоринг) —— (Оценка кредитного риска))]—
2. ⟦ [(LLM) — (Transformer)] & [(Объяснимость) —— (XAI)] & [(Финансовая обработка естественного языка)]—
3. ⟦ [(CreditRisk)] & [(MultimodalData) — (НеструктурированныйТекст) —— (ПоведенческиеДанные)]—
4. ⟦ [(LLM)] & [(GPT4 — FinBERT)] & [(Оценка —— Бенчмарк)]—
5. ⟦ [(Fairness) — (Галлюцинации) —— (Воспроизводимость)] & [(LLM) —— (Оценка кредитного риска)]—

Рисунок 2 обобщает стратегию, использованную для сбора статей в данном обзоре. Следуя рекомендациям PRISMA, в качестве первоначального массива было отобрано 182 статьи по соответствующим ключевым словам. После удаления дубликатов и работ, не относящихся к области исследования, было получено 120 статей. Благодаря совместным усилиям обоих авторов данного обзора (в соответствии с критериями включения) для финального анализа было отобрано 51 статья, и это число было увеличено до 60 работ с помощью метода «снежного кома». Классификация всех этих статей представлена в Таблице 2⟧.

⟦Figure 2: Диаграмма потока PRISMA для отбора исследований по оценке кредитного риска на основе LLM.

⟦Table 2: Обзор 60 отобранных исследований

No	Paper	Venue/Platform	Year
1	Sanz-Guerrero et al., [28]	Inteligencia Artificial (IBERAMIA)	2025
2	Dogra et al., [29]	MDPI Systems	2022
3	Dolphin et al., [30]	arXiv / Polygon.io	2024
4	Cai, [31]	IEEE ICEDCS	2024
5	Govindaraj et al., [32]	World Journal of Advanced Research Reviews	2023
6	Xie et al., [33]	arXiv (Preprint under review)	2023
7	Babaei & Giudici, [34]	Machine Learning with Applications (Elsevier)	2024
8	Loukas et al., [35]	ACM ICAIF ’23 (International Conference on AI in Finance)	2023
9	Liu et al., [36]	ACM DEBAI 2024 (Digital Economy, Blockchain & AI)	2024
10	Mehedi Hasan et al., [37]	International Journal of Computer Science & Info Systems	2024
11	Charlie Luca, [38]	ResearchGate (Preprint)	2024
12	Pau Rodriguez Inserte et al., [39]	arXiv	2024
13	Linyi Yang et al., [40]	arXiv	2020
14	Jiarui Rao & Qian Zhang, [41]	International Journal of Multidisciplinary Research and Growth Evaluation	2025
15	Sungwook Yoon, [42]	International Journal of Advanced Smart Convergence	2023
16	Duanyu Feng et al., [43]	ACM (Conference acronym ’XX)	2024
17	Ayomide Joel et al., [44]	ResearchGate / Unpublished	2023
18	Jaskaran Singh Walia et al., [45]	arXiv (arXiv:2502.17011v1)	2025
19	Xue Wen Tan and Stanley Kok, [46]	ICIS (AIS Electronic Library)	2023
20	Khaoula Idbenjra et al., [47]	Elsevier – Decision Support Systems	2024
21	Zhang et al., [48]	arXiv	2023
22	Malaysha et al., [49]	arXiv	2024
23	Wu et al., [50]	CRC Working Papers	2024
24	Sideras et al., [51]	ACM (ICAIF ’24)	2024
25	Fatemi et al., [52]	arXiv	2024
26	Kalluri et al, [53]	IJNRD	2024
27	Lin et al, [54]	ACM ICAIF	2024
28	Lei et al, [55]	arXiv	2025
29	Lakkaraju et al, [56]	ACM ICAIF	2023
30	Liu et al, [57]	NeurIPS Workshop	2023
31	Lopez-Lira et al., [58]	arXiv	2025
32	Xie et al., [59]	NeurIPS (Datasets & Benchmarks Track)	2023
33	Huang et al., [60]	MDPI Applied Sciences	2025
34	Moraes et al., [61]	WebMedia (Brazilian Symposium on Multimedia and the Web)	2024
35	Huang et al., [62]	arXiv	2025
36	Busireddy et al., [63]	Int. Jr. of Hum Comp. & Int.	2025
37	Babaei & Giudici, [64]	Machine Learning with Applications	2024
38	Wang et al., [65]	IEEE Transactions on Engineering Management	2025
39	Lin et al., [66]	Journal of Data, Information and Management	2025
40	Hartomo et al., [67]	IEEE Access	2025
41	Yan et al., [68]	IEEE RAAI (Robotics, Automation, and AI Conference)	2024
42	Gupta et al., [69]	JPMorgan Chase (Internal ML Research)	2024
43	Suresh et al., [70]	Educational Administration: Theory and Practice (Kuey)	2024
44	Ni et al., [71]	IEEE DOCS (Data-driven Optimization of Complex Systems)	2024
45	Bond et al., [72]	Working Paper / Preprint (University of Queensland)	2024
46	Sun et al., [73]	IEEE Access	2024
47	Sabuncuoglu et al., [74]	IEEE Symposium on Computational Intelligence for Financial Engineering and Economics (CIFEr)	2025
48	Xie et al., [75]	NeurIPS (Track on Datasets and Benchmarks)	2024
49	Liu et al., [76]	IEEE 4th International Conference on Computer Communication and Artificial Intelligence (CCAI)	2024
50	Liu et al., [77]	Finance Research Letters (Elsevier)	2025
51	Chanda and Prabhu, [78]	IEEE ICICCS Conference Proceedings	2023
52	Papasotiriou et al., [79]	ACM ICAIF ’24 (AI in Finance Conference)	2024
53	Rizinski et al., [80]	IEEE Access	2024
54	Chafekar et al., [81]	Unspecified (likely arXiv or workshop preprint)	2024
55	Li et al., [82]	SSRN	2024
56	Kim et al., [83]	ACM ICAIF	2023
57	Sanz-Guerrero et al., [84]	SSRN	2024
58	Guo et al., [85]	arXiv	2023
59	Fallahgoul, [86]	SSRN (Preprint)	2025
60	Zhang et al., [87]	ACM ICAIF	2023

3.2 Вопросы исследования

В данной статье систематический обзор структурирован вокруг пяти исследовательских вопросов. Таблица 3 содержит исследовательские вопросы, обоснование и информацию о соответствующих разделах данной статьи..

⟦Table 3: Исследовательские вопросы обзора

Research Question	Motivation	Section
Which LLMs are applied for credit risk assessment and how are they categorized?	The purpose is to understand LLM architectures used for credit risk applications and identify performance bottlenecks and suitability for domain-specific tasks.	4.1
What types of data sources are used in LLM-based credit risk applications?	The purpose is to evaluate how comprehensive mapping of data sources provides model generalization and fairness.	4.2
How are explainability and interpretability addressed for credit modeling in LLM-based credit risk applications?	The purpose is to evaluate how model transparency and accountability are addressed in existing studies.	4.3
In which credit risk scenarios are LLMs most commonly applied and what are the assessment metrics?	The purpose is to identify common use cases of existing studies and thus provide insight into practical relevance, dataset diversity, and reproducibility.	4.4
What are the challenges and research gaps in applying LLMs for credit risk assessment?	The purpose is to guide future research by highlighting challenges and open questions.	5

4 Таксономия оценки кредитного риска на основе LLM

Статьи, собранные в этом разделе, классифицированы по четырем основным категориям: архитектуры моделей, форматы данных, механизмы интерпретируемости и области применения, при этом ищутся ответы на RQ1, RQ2, RQ3 и RQ4.

4.1 Архитектуры моделей (RQ1)

Недавние исследования в области оценки кредитных рисков на основе LLM охватили множество направлений: от архитектур на базе transformers до гибридных конвейеров, узкоспециализированной дообучения и эффективного обучения. В этом подразделе рассматриваются архитектуры моделей для прогнозирования кредитных рисков, представленные в литературе, чтобы ответить на RQ1. На рисунке 3 показана таксономия этих моделей..

⟦Figure 3: Таксономия архитектур моделей на основе transformers для оценки кредитного риска с использованием LLM.

• ⟦ Архитектуры только с энкодером: модели только с энкодером (RoBERTa, DistilBERT, FinBERT) широко используются в финансовой классификации на основе текстового анализа [28]. Модель BERT извлекает индикаторы кредитного риска и используется для их интеграции с древовидными алгоритмами обучения [28]. Сообщается, что FinBERT показывает хорошие результаты в прогнозировании финансовых настроений [63] и при SFT в бенчмаркинге на основе энкодеров [85]. Лука исследует модель BERT для использования кредитными союзами при проведении транзакций участников [38]. Также сообщается, что BERT выполняет надежное извлечение тональности в многоязычных сложных средах [83]⟧.
• ⟦ Архитектуры только с декодером: Модели декодирования (GPT-3.5, GPT-4 и ChatGPT) широко используются в генеративных задачах. Loukas et al. [35] продемонстрировали эффективность этих моделей (GPT-3.5 и GPT-4) в классификации финансовых намерений с использованием небольшого количества примеров (8-20). Аналогичным образом, Babaei и Giudici [34, 64] сообщают об успехе GPT в сценариях кредитного скоринга с малым объемом данных. ChatGPT был протестирован путем применения его к многомерным прогностическим моделям (финансовые коэффициенты, тональность социальных сетей) [66]. Его способность к извлечению психологических характеристик исследована и продемонстрирована в рамках GPT-LGBM [82]. Однако Gupta et al. [69] отмечают такие ограничения, как следование инструкциям в сложных документах для сред с длинным контекстом, в своем исследовании с использованием GPT-4-Turbo.
• ⟦ Гибридные и дополненные конвейеры: некоторые фреймворки объединяют языковое моделирование на основе transformers с традиционными моделями машинного обучения или механизмами поиска. В [28] BERT и GPT используются совместно с XGBoost. В другой работе представлен структурированный конвейер запросов для финансовых раскрытий [30]. Архитектуры RAG привлекли внимание для задач с финансовыми данными с низким контекстом (классификация тональности новостей) [35, 87]. Все эти подходы направлены на улучшение базы ответов путем интеграции внешних источников информации.
• ⟦ Специализированные финансовые LLM (FinLLM): такие модели, как FinGPT, FinMA, ZiGong и FinLLaMA, были созданы для учета предметных различий в финансовых текстах. FinGPT — это недорогой фреймворк, основанный на LoRA и обучении с подкреплением на основе цен на акции [57]. В другом исследовании был запущен Open FinLLM Leaderboard для сравнения финансовых LLM, что внесло вклад в данную область [54]. Фреймворк FinMA превосходит GPT-4 в задачах, связанных с кредитованием [59]. ZiGong [55] нацелен на снижение галлюцинаций с помощью TracSeq, используя методы настройки инструкций и временного прунинга. FinLMEval подчеркивает, что способность к дообучению (fine-tuning) моделей-энкодеров превосходит возможности моделей-декодеров в режиме zero-shot в условиях дефицита данных [85]. Пакет Open-FinLLMs поддерживает текстовые, табличные и визуальные финансовые входные данные, отражая достижения в мультимодальном кредитном моделировании [62]⟧.
• ⟦ Параметрически эффективные LLM и методы обучения: Для снижения вычислительных затрат больших моделей недавние исследования делают упор на параметрически эффективные методы. Kalluri [53] предложил исследование, которое повышает точность взаимодействия и показатели совместимости с помощью масштабируемого решения. В другом исследовании Ni et al. [71] предлагает настройку на основе QLoRA с компактными моделями LLaMA-3-8B-Instruct-4bit. Подчеркивается, что результаты лучше, чем у GPT-4 для данных о прибыли.
• ⟦ Инструменты сравнительного анализа и оценки: Многие недавние исследования также направлены на стандартизацию оценки LLM в финансовой сфере. Примеры включают FinLLM Leaderboard [54], который позволяет проводить воспроизводимое тестирование финансовых бенчмарков, и FinLMEval [85], который обеспечивает анализ производительности encoder и decoder для SFT и zero-shotting. В другом исследовании Лаккараджу и соавторы [56] подчеркивают концепцию справедливости для моделей смещения в результатах работы ChatGPT и Bard.

4.2 Типы данных ⟦K0⟧)

Недавние разработки также привели к значительным улучшениям в данных, обрабатываемых для оценки кредитного риска с помощью LLM. В то время как традиционное кредитное моделирование выполнялось с использованием структурированных табличных данных, в настоящее время появились различные модальности данных, такие как неструктурированный финансовый текст, поведение временных рядов, мультимодальные конвейеры данных и интеграция синтетических данных. На рисунке 4 показана таксономия модальностей данных..

• ⟦ Структурированные данные: структурированные данные, такие как уровень дохода и дефолты, часто используются в исследованиях кредитного скоринга. GPT-LGBM нацелен на улучшение эффективности классификации с использованием этих данных и ChatGPT [82]. Аналогичным образом, бенчмарк FLARE от PIXIU и корпус предварительного обучения Open-FinLLMs используют структурированные данные, такие как технические индикаторы и исторические цены [59, 62].
• ⟦ Неструктурированный финансовый текст: Недавние исследования показали, что неструктурированные данные, такие как кредитные раскрытия и нормативные документы, важны для выявления скрытых кредитных индикаторов. Sanz-Guerrero et al. [28], Dogra et al. [29] создали улучшенные модели с использованием текстовых раскрытий и тональности новостей. В других исследованиях Wu et al. [50] и Sideras et al. [51] изучили влияние комментариев менеджеров и аудиторов на точность прогнозирования дефолта. Хотя ChatGPT может использоваться для расчета показателей рыночных настроений с помощью длинных новостных текстов [72], было показано, что он эффективно применяется вместе с GPT/BERT при профилировании соответствия требованиям в документах, связанных с AML [68]. Было продемонстрировано, что модели с относительно низкими ресурсами (такие как GPT-3.5) превосходят традиционные модели при извлечении тональности из отчетов аналитиков [83]⟧
• ⟦ Временные ряды и поведенческие данные: еще один тип данных, который начинает интегрироваться в конвейеры LLM, — это временные ряды. Lei et al. [55] отфильтровывают низкокачественные последовательности в модели ZiGong с помощью стратегии прунинга и демонстрируют важность данных об активности пользователей (временные ряды). Еще одним примером использования этой структуры данных является FinGPT, где применяются временные ряды в режиме реального времени [57].
• ⟦ Мультимодальные и гибридные входные данные: текстовые и поведенческие признаки могут быть объединены для более комплексного моделирования кредитных рисков. Huang et al. [60] достигли высокой точности прогнозирования, используя LLM на основе заявок и записи 38 реальных SMEs. Другое исследование интегрирует психологические признаки, извлеченные из текстов, с финансовыми переменными в GPT-LGBM [82]. Еще одним примером гибридных входных данных является исследование Zhang et al. [87], где LLM используются для обогащения внешней информации путем объединения финансового текста с недостаточным контекстом.
• ⟦ Синтетические и дополненные данные: факторы, влияющие на производительность моделей, такие как неполнота данных и дисбаланс классов, могут быть устранены с использованием LLM моделей, генерирующих синтетические данные. FinGPT используется для симуляции кредитных историй [31], другим примером являются доменно-адаптивные LLM модели, обученные на документах SEC и заголовках Reuters [39]. Аналогичным образом, Feng et al. [43] предложили эталонные модели для наборов данных, связанных с мошенничеством и банкротством, и результаты демонстрируют успех в кросс-модальном обучении.

⟦Figure 4: Таксономия типов данных, используемых в системах оценки кредитного риска на основе LLM.

4.3 Механизмы интерпретируемости (RQ3)

Интерпретируемость является важной концепцией в оценке кредитных рисков на основе LLM ввиду ее справедливости и надежности. Недавние исследования направлены на повышение прозрачности с помощью таких методов, как post-hoc методы, внутренняя архитектура моделей, настройка инструкций и стратегии проверки моделей. На рисунке 5 представлена таксономия механизмов интерпретируемости..

• ⟦ Пост-хок объяснимость: Наиболее часто используемыми пост-хок методами в данном подходе являются SHAP и LIME. Govindaraj и др. [32] предложили исследование для визуализации вкладов локальных и глобальных признаков путем применения SHAP и карт внимания. Liu и др. [36] провели исследование, объединяющее результаты SHAP и LIME с ChatGPT для обеспечения их интерпретируемости человеком. В [50] исследуется эффективность LIME при оценке кредитоспособности, в то время как в [67] SHAP используется совместно с TabTransformer для компенсации перекоса классов и обеспечения интерпретируемости..
• ⟦ Цепочки рассуждений и объяснения на уровне промптов: недавние работы направлены на то, чтобы позволить моделям генерировать объяснения непосредственно в конвейере вывода. Dolphin и др. [30] используют промпты с цепочками рассуждений для обеспечения интерпретируемости в сценариях классификации тональности, в то время как в [35] они используют метод отката для улучшения фиксации прогнозов и их отслеживаемости. Fatemi и др. [52] показывают, что интерпретируемость может быть повышена за счет улучшения внутренних механизмов рассуждения модели посредством instruction tuning..
• ⟦ Внутренне интерпретируемые модели: некоторые исследования предлагают прозрачные архитектуры для снижения зависимости от внешних инструментов объяснимости. Одной из таких моделей является Logit Leaf, которая объединяет выходные данные LLM и деревья сегментации, как предложено Idbenjra et al. [47]. В другом исследовании представлена модель FinBERT-XRC, способная интерпретировать риски на уровне слов и предложений [46] . Li et al. [82] сообщили, что черты личности, извлеченные с помощью GPT-LGBM, являются непосредственно интерпретируемыми (без использования post-hoc XAI).
• ⟦ Устойчивость и снижение галлюцинаций: Одним из факторов, напрямую влияющих на интерпретируемость, является устойчивость модели. Для повышения устойчивости модели и устранения галлюцинаций в [55] авторы предлагают модель под названием TracSeq. В другом исследовании авторы стремятся улучшить интерпретируемость путем объединения дельт прироста и модели QLoRA.
• ⟦ Справедливость, аудит и воспроизводимость: другими концепциями, которые напрямую связаны с интерпретируемостью, являются справедливость и воспроизводимость. В [56] метрики ISIP и ISA используются для проверки справедливости модели. Gupta et al. [69] подчеркивают важность метрик F1 score и доверительных интервалов (CI) для проверок объяснимости. Кроме того, Lin et al. [54] выступают за проведение бенчмаркинга с использованием FinLLM Leaderboard для стандартизации оценки интерпретируемости..
• ⟦ Этические, регуляторные и теоретические аспекты: для обеспечения надежной интерпретируемости необходимо также учитывать этические нормы. Yan et al. [68] выделяют шесть базовых аспектов соответствия требованиям для оценки LLM в критически важных приложениях: корректность, справедливость, конфиденциальность, устойчивость, безопасность и этика. В другой работе [86] обсуждается, как расширить структуру Марковица для обеспечения интерпретируемости и оптимизации на основе механизмов внимания..

⟦Figure 5: Таксономия механизмов интерпретируемости для кредитных моделей на базе LLM.

4.4 Области применения ⟦RQ4⟧)

LLM в последнее время применяются в широком спектре областей, включая традиционный кредитный скоринг, обнаружение мошенничества, прогнозирование настроений, робо-консультирование и т. д. На рисунке 6 представлена таксономия областей применения LLM в оценке кредитного риска..

• ⟦ Кредитный скоринг для розничных клиентов и малого и среднего бизнеса: при изучении литературы видно, что LLM используются в различных областях финансовых приложений, таких как одноранговое (P2P) кредитование и принятие решений о финансировании малого и среднего бизнеса. В своих исследованиях Sanz-Guerrero et al. [28] и Babaei & Giudici [34] используют кредитные раскрытия информации для классификации кредитоспособности заемщиков. В [42] технологические кредиты для малого и среднего бизнеса оцениваются с помощью механизма кредитной оценки на базе GPT. В другом исследовании, [60], оценки на основе заявок применяются к нефинансовым данным для прогнозирования дефолта малого и среднего бизнеса. В [67] модель SHAP-TabTransformer применяется для классификации кредитов малого и среднего бизнеса. Li et al. [82] объединяют структурированные финансовые данные с извлеченными личностными характеристиками для оценки кредитоспособности в своей предложенной структуре GPT-LGBM..
• ⟦ Финансовые новости, настроения и рыночные сигналы: LLM показали хорошие результаты в извлечении рыночных настроений и триггеров событий даже на неструктурированных финансовых данных. Dolphin и др. [30] и Dogra и др. [29] использовали LLM для прогнозирования рисков на основе заголовков с триггерами событий. В [72] ежедневные показатели настроений S&P 500 генерировались с использованием GPT-3.5, в то время как в другом исследовании [83] измерялся тон аналитиков. Seshakagari и др. [63] использовали GPT-4 для классификации финансовых настроений в меняющейся макроэкономической среде.
• ⟦ Обслуживание клиентов и банковские операции: некоторые исследования в литературе сосредоточены на распознавании намерений и персонализации обслуживания с помощью LLM. Loukas et al. [35] выполнили классификацию запросов на обслуживание с использованием набора данных Banking77, в то время как в [70] анализ настроений клиентов использовался для поддержки персонализации банковского обслуживания и принятия кредитных решений.
• ⟦ Обнаружение мошенничества и борьба с отмыванием денег (AML): FinGPT и ZiGong — это две модели, используемые для обнаружения мошенничества в кредитных и банковских транзакциях [31, 55]. В [44] кредитные союзы прогнозируют мошенничество и дефолт, в то время как Yan et al. [68] исследуют эффективность моделей на базе GPT/BERT в задачах AML, санкционного скрининга и выявления подозрительной активности.
• ⟦ Инвестиции, трейдинг и управление активами: Walia et al. [45] применяют LLM для прогнозирования доходности облигаций и расширяют использование LLM в финансах. В [54] LLM используются для интерпретации документов SEC и трейдинга на основе анализа настроений, в то время как Liu et al. [57] оценивают эффективность FinGPT в робо-эдвайзинге и алгоритмических торговых ботах. Другие исследования проверяют возможности LLM с использованием Open-FinLLMs в мультимодальном инвестиционном обосновании [62]. Ni et al. [71] сообщают, что QLoRA превосходит GPT-4 в прогнозировании акций.
• ⟦ Построение таксономии и анализ транзакций: В [61] LLM используются для создания финансовой таксономии и интерпретации данных о транзакциях для проведения кредитного анализа, тем самым укрепляя банковские практики в сценариях кредитования и KYC (Know Your Customer)..
• ⟦ Оценка кредитоспособности в цепочках поставок и отраслевая оценка: В [65] LLM используют данные торгов и операционные описания для оценки кредитов малых и средних предприятий в секторе «зеленого» транспорта Китая, помогая непрофильным аналитикам определять целесообразные цели финансирования и повышая доступность LLM.
• ⟦ Системы раннего предупреждения и многомерные рейтинги рисков: ChatGPT использовался для сценариев оценки кредитного риска в условиях неполных данных, таких как стартапы [66]. Это обеспечивает возможности раннего предупреждения и адаптивного кредитного скоринга для различных областей и приложений..

⟦Figure 6: Таксономия областей применения LLM в оценке кредитного риска.

5 Пробелы в исследованиях и будущие направления (RQ5)

Несмотря на значительные достижения в финансовых приложениях на базе LLM (оценка кредитного риска и т. д.), все еще существуют пробелы в исследованиях и ограничения, которые требуют изучения. На рисунке 7 проиллюстрированы эти ограничения..

• ⟦ Пробелы в интерпретируемости: LLM, применяемые в финансах, в основном остаются «черными ящиками», поскольку для объяснимости они полагаются на post hoc методы (такие как SHAP и attention maps) [32, 36]. Причинно-следственные или контрфактические рассуждения почти отсутствуют в LLM, применяемых в финансах, и поэтому трудно понять реальный механизм принятия решений моделью. Хотя недавние исследования ([40]) предлагают контрфактические рассуждения, их внедрение остается минимальным. Кроме того, несмотря на то, что ведутся исследования по способности LLM выполнять автоматическую классификацию ([61]), они все еще не получили широкого распространения в исследованиях таксономии..
• ⟦ Ограничения воспроизводимости и устойчивости: Лишь немногие литературные источники проводили тестирование на устойчивость. Большинство экспериментов, по-видимому, используют небольшие или экономные наборы данных [33, 35]. Xie et al. [59] сообщили, что FinMA испытывает трудности с задачами на логический вывод, а модели, обученные с использованием инструкций, подобных человеческим, являются уязвимыми.
• ⟦ Предвзятость, справедливость и риски галлюцинаций: в литературе сообщается, что LLM склонны к предвзятости в отношении демографических характеристик, таких как раса, пол и возраст [36, 56]. Кроме того, LLM могут генерировать ложную информацию, галлюцинации, которые очень близки к истине, и это остается серьезной угрозой для оценки кредитного риска [37]. В литературе мало фреймворков, направленных на обеспечение справедливости и снижение галлюцинаций [68]⟧.
• ⟦ Эффективность и масштабирование моделей: очень немногие исследования учитывают такие метрики, как задержка, стоимость вывода и производительность оборудования [35, 39]. Хотя модели, подобные FinLLaMA, рассчитываются с учетом их малого размера, в этой области все еще существует пробел в исследованиях [62]⟧.
• ⟦ Недостатки эталонных оценок: из-за разнообразия наборов данных и сценариев сложно напрямую сравнивать производительность LLM, что является недостатком, отмеченным в некоторых литературных исследованиях (например, при оценке компромисса между интерпретируемостью и сложностью) [54, 86]⟧.
• ⟦ Интеграция поведенческих и внешних сигналов: Сигналы из неструктурированных данных (новости, контент социальных сетей и т. д.) могут быть включены в модели кредитного скоринга и использованы в целях прогнозирования. Несмотря на теоретический потенциал, поведенческие и внешние сигналы еще не получили широкого распространения..

⟦Figure 7: Таксономия исследовательских пробелов и будущих направлений в исследованиях кредитного риска на основе LLM.

Будущие направления: Основываясь на описанных выше пробелах в исследованиях, для будущих исследователей выделяются следующие области:

• ⟦ Бюджетные модели: компактные модели, такие как варианты LLaMA, дообученные с помощью QLoRA ([71]), могут быть исследованы для разработки моделей кредитного скоринга с учетом затрат..
• ⟦ Критерии оценки: могут быть разработаны критерии оценки, ориентированные на справедливость и специфичные для конкретных задач, такие как затухание длины контекста и устойчивость к галлюцинациям.
• ⟦ Протоколы справедливости и доверия: в будущих исследованиях могут быть созданы инструменты аудита и системы доверия для потребительского финансирования.
• ⟦ Кредитные сигналы, основанные на настроениях: новые исследования могут быть проведены путем включения таких концепций, как поведение инвесторов и текстовые настроения для ценообразования кредитов.
• ⟦ Поведенческая персонализация: новые исследования на основе LLM могут способствовать разработке приложений для цифрового банкинга с персонализацией, учитывающей намерения и эмоции пользователей.
• ⟦ Регуляторная согласованность и соответствие требованиям: могут быть проведены исследования по обеспечению соответствия моделей LLM этическим и правовым стандартам в приложениях AML и приложениях по борьбе с предвзятостью..

6 Заключение

В данной статье представлен первый систематический обзор и таксономия подходов к оценке кредитных рисков на основе LLM. 60 наиболее актуальных рецензируемых исследований, опубликованных в период с 2020 по 2025 год, проанализированы с использованием методологии PRISMA, а также представлена структурированная таксономия по четырем основным измерениям: архитектуры моделей, форматы данных, механизмы интерпретируемости и области применения. Полученные результаты подтверждают, что, хотя в этой области часто используются только модели для программирования и специализированные FinLLM, в кредитном скоринге также применяются недавние тенденции в гибридных конвейерах, параметрически эффективной настройке (например, QLoRA) и интеграции мультимодальных данных. Несмотря на то, что SHAP и LIMA (post-hoc) являются распространенными методами интерпретируемости, наблюдается растущий интерес к внутренним и основанным на запросах объяснениям. Помимо всех этих разработок, по-прежнему существует потребность в дальнейших исследованиях в областях воспроизводимости, контроля справедливости, устойчивости к галлюцинациям и стандартизированной оценки. Мы надеемся, что этот систематический обзор и исследование таксономии станут справочным материалом для исследователей в области прозрачного, надежного и применимого на практике финансового моделирования рисков на основе LLM..