Путь к саморазвивающимся клиническим системам: масштабирование медицинских агентов от помощи к автономности

Мы определяем медицинского агента как вычислительную систему $\mathcal{A}=(\mathcal{P},\mathcal{R},\mathcal{L},\mathcal{M},\mathcal{T},\mathcal{F})$, состоящую из шести функциональных модулей: восприятие $\mathcal{P}$, рассуждение $\mathcal{R}$, планирование $\mathcal{L}$, память $\mathcal{M}$, использование инструментов $\mathcal{T}$ и рефлексия действий $\mathcal{F}$ [246, 265, 206]. Определяющей чертой этой среды является частичная наблюдаемость: агент никогда не наблюдает состояние пациента напрямую, а получает лишь косвенные и неполные данные, такие как изображения, предыдущие отчеты и результаты работы инструментов, на основе которых он должен поддерживать и постепенно уточнять внутреннюю оценку истинного клинического состояния. Шесть модулей совместно реализуют этот процесс: восприятие и память формируют и сохраняют представление о скрытом состоянии, рассуждение и планирование превращают это представление в действия, такие как вызовы инструментов и операции с отчетами, использование инструментов выполняет их в клинической среде, а рефлексия действий корректирует представление на основе полученной обратной связи. Такая формулировка делает очевидным, что медицинская агентность по своей сути является проблемой действий в условиях неопределенности и неполных данных, а не однократного прогнозирования..

Эти шесть модулей не являются самоцелью, а представляют собой субстрат для каждого агента, по которому масштабируется ось возможностей spine, в то время как среда $\mathcal{E}$ становится явным рычагом ее третьей оси. Если рассматривать это через призму частичной наблюдаемости, три оси масштабирования spine соответствуют расширению отдельных компонентов процесса принятия решений: масштабирование фреймворка расширяет пространство доступных действий за счет добавления взаимодействующих агентов, масштабирование возможностей углубляет отображение оценки состояния агента в его действия посредством более богатой среды выполнения, а масштабирование среды обогащает как доказательства, которые агент может наблюдать, так и цели, по которым он оценивается, путем подключения большего количества инструментов, источников данных и интерфейсов, что именно поэтому является наиболее оперативно применимым рычагом для агентов, которые уже существуют в насыщенных инструментами клинических экосистемах.

Опираясь на уровни автономности, установленные в сфере беспилотного вождения [41] и хирургической робототехники [278, 82], а также основываясь на недавних таксономиях автономности AI агентов [64], мы предлагаем трехуровневую таксономию для медицинских агентов, представленную на рис. 1:

Уровень 1: Вспомогательная автономность. На этом уровне агент выступает в роли интеллектуального помощника, который повышает эффективность работы врача без принятия независимых решений. Агент отвечает на явные запросы, генерирует варианты заключений или предварительно заполняет шаблоны отчетов, однако все решения требуют подтверждения со стороны врача [38, 24]. Примеры включают интерактивные инструменты сегментации с уточнением на основе промптов [161, 152] и помощников по составлению отчетов [12]⟧.

Уровень 2: Кооперативная автономность. Агент проактивно декомпозирует задачи, вызывает специализированные инструменты и представляет синтезированные результаты, но функционирует в рамках системы с участием человека [273, 238]. Клиницист сохраняет право отмены и проверяет результаты работы агента перед совершением клинических действий. Мультиагентные диагностические конвейеры, которые выполняют дифференциальную диагностику и отмечают критические находки, являются примером этого уровня [115, 255, 205, 321].

Уровень 3: Полностью автономная работа. Агент независимо выполняет сквозные клинические рабочие процессы, от оценки качества получения изображений до постановки диагноза, формирования отчетов и планирования последующих визитов, при минимальном контроле со стороны человека, с учетом нормативных ограничений и эскалации на человека при возникновении исключительных ситуаций [127, 249]. Хотя ни одна из существующих систем еще не достигла Уровня 3 в полной мере, появляющиеся фреймворки, такие как автономные радиологические конвейеры с замкнутым циклом контроля качества [242, 204] и саморазвивающиеся агентные экосистемы [58, 218], представляют собой значительные шаги в этом направлении..

Литература по медицинским агентам легко поддается перечислению, но ее трудно систематизировать, поскольку в статьях по архитектуре, когнитивным модулям и обучению используется собственная терминология, и редко указывается, как они сочетаются. Поэтому мы заранее принимаем единую организующую ось — масштабируемый стержень — и рассматриваем весь обзор через него. Стержень утверждает, что готовность агента $\mathcal{A}$ к работе в реальных условиях усиливается по трем логически различным и в значительной степени независимым направлениям, которые мы записываем компактно как:

где $N_{\text{topo}}$ обозначает структурную насыщенность топологии агента (количество и специализацию взаимодействующих агентов, а также оркестрацию, которая их связывает), $D_{\text{loop}}$ обозначает глубину когнитивного цикла, развернутого вокруг фиксированной основы (среда выполнения и шесть модулей, по которым он циклически проходит), а $|\mathcal{E}|$ обозначает размер и качество доступной среды (инструменты, источники данных и интерфейсы взаимодействия). Эти три компонента являются скорее взаимодополняющими, чем взаимозаменяемыми, поскольку более богатая топология не может компенсировать поверхностный цикл, и ни то, ни другое не поможет агенту, который не имеет доступа к PACS, EHR или базам данных клинических рекомендаций, в которых он нуждается, что именно поэтому мы рассматриваем их как ортогональные оси одного стержня, а не как конкурирующие школы.

Данный каркас переводит пассивную модель однократного прохода к автономности вдоль трех ортогональных осей, которые мы суммируем на рис. 2, прежде чем подробно рассмотреть каждую из них. Первая ось, масштабирование фреймворка (раздел 4), наращивает возможности за счет обогащения связей между агентами, переходя от агента с одним расширенным инструментом к многоагентным командам, основанным на ролях, и, наконец, к явным топологиям оркестрации — уровню, на котором становится возможным разделение труда в стиле онкологического консилиума. Вторая ось, масштабирование возможностей (раздел 5), наращивает возможности за счет углубления когнитивного цикла вокруг основы фиксированного размера, и наше центральное утверждение здесь заключается в том, что компетентность в большей степени зависит от проектирования цикла восприятия, рассуждения, планирования, действия и рефлексии, чем от количества параметров. Третья ось, масштабирование среды (раздел 6), наращивает возможности за счет расширения самой $\mathcal{E}$, и это та ось, которую мы выдвигаем на первый план, поскольку медицинские агенты уже существуют в необычайно богатых инструментами клинических экосистемах, поэтому подключение новой специализированной модели, архива или FHIR эндпоинта зачастую дает больше готовности на единицу усилий, чем очередной раунд дообучения [62, 97, 93]. Важно отметить, что масштабирование среды реализуется постепенно с течением времени через лестницу адаптации из раздела 6, от промптинга через проверяемое вознаграждение к self play, конечной целью которого является саморазвивающийся агент, постоянно расширяющий свою собственную $\mathcal{E}$ на месте. Мы намеренно отличаем этот каркас от двух традиционных законов масштабирования, которые он дополняет, а именно масштабирования параметров и масштабирования вычислительных мощностей во время тестирования, каждый из которых воздействует на отдельного агента изолированно, и ни один из которых не учитывает структурные и средовые рычаги, определяющие агентную систему в реалистичных клинических условиях..

Полезная таксономия сценариев медицинских агентов организована по степени их интеграции в реальный клинический цикл, а не по анатомической специализации [211, 277, 105]. На одном полюсе находятся консультативные сценарии с однократным запросом, в которых агент отвечает на ограниченный вопрос по визуализации (визуальный вопрос, классификация находки, черновик предложения отчета), при этом врач полностью контролирует процесс [123, 87]. Средний сегмент включает интерактивные многоходовые сценарии, где агент должен запрашивать дополнительные проекции, обращаться к предыдущим исследованиям, устранять противоречивые данные и объяснять свои рассуждения в течение нескольких итераций, что отражает реальную работу радиолога или мультидисциплинарной команды [211, 5, 65]. На другом полюсе находятся потоковые сценарии рабочих процессов, в которых агент участвует в непрерывно функционирующем больничном процессе: сортировка в реальном времени и изменение приоритетности списков задач при выявлении критических находок, таких как тромбоэмболия легочной артерии или внутричерепное кровоизлияние [114], продольное наблюдение по временным точкам визуализации [293, 232], а также сквозные конвейеры от отчета до назначения в рамках FHIR [105, 222]. Определяющим свойством сценариев, расположенных справа, и причиной, по которой они недостаточно охвачены традиционными бенчмарками, является то, что среда меняется в ответ на действия самого агента, поэтому правильность является свойством траектории взаимодействия, а не отдельного результата. Эта структура с частичной наблюдаемостью и зависимостью от действий — именно то, что призвана отразить наша формулировка в разделе 2, и она определяет требования, которым должны соответствовать архитектуры (раздел 4), возможности (раздел 5) и режимы обучения (раздел 6).

Чтобы оценить, насколько медицинские агенты близки к внедрению, мы систематизируем существующие бенчмарки по шкале возрастающей автономности и клинического реализма, охватывающей три уровня: от изолированных отдельных возможностей через агентное поведение с использованием инструментов и диалоговое взаимодействие до полноценной клинической работы на системном уровне, как показано на рис. 3 и подробно описано в табл. 1. Эта иерархия важна, поскольку модель, демонстрирующая высокие результаты в статическом тесте на восприятие, может оказаться неработоспособной, как только ей потребуется вызывать инструменты, хранить длинные записи или завершать многоходовой клинический цикл, поэтому готовность следует оценивать уровень за уровнем, а не по какому-либо единому совокупному баллу, а быстрое появление бенчмарков 2026 года для верхних уровней показывает, что область активно переносит фокус измерений с изолированной компетентности на устойчивую клиническую работу..

На Уровне 1 основное внимание уделяется тому, осваивает ли модель изолированную компетентность при работе с чистыми входными данными. Визуальное понимание проверяется с помощью VQA-RAD [123], SLAKE [143], PathVQA [87] и OmniMedVQA [96], которые в совокупности охватывают радиологию, патологию и кросс-модальные ответы на вопросы. Рассуждения, основанные на знаниях, измеряются с помощью MedXpertQA [327], MedQA [107], MedReason [262] и ClinicalBench [26], варьирующихся от экзаменов лицензионного типа до цепочек рассуждений, основанных на графах знаний, и прямой проверки того, могут ли LLM конкурировать с классическими моделями клинического прогнозирования. Качество отчетов и визуальное обоснование оцениваются с помощью ReXVal [291], CheXbench [38], MS-CXR [18] и GEMeX [144], которые переводят оценку с поверхностного совпадения на оценку ошибок, проводимую рентгенологами, привязку рамок на уровне фраз, а также крупномасштабные обоснованные и объяснимые ответы на вопросы по рентгенографии грудной клетки, а недавний RADAR [234] продвигает это еще дальше, сопоставляя 3D-исследование с предварительным отчетом и предлагаемыми правками, чтобы модель оценивалась по тому, может ли она выявить подлинные расхождения в отчете, а не просто описать изображение. Важно отметить, что здесь подчеркивается надежность с помощью MedHallu [190], MedSafetyBench [84], сегмента безопасности HealthBench [8] и CARES [267], поскольку галлюцинируемая находка в клинической практике опаснее, чем пропущенная..

Уровень 2 повышает планку от простого знания к действию, задаваясь вопросом, может ли агент использовать внешние инструменты, искать доказательства, поддерживать длинный контекст и вести клинический диалог. Использование инструментов и количественная компетентность оцениваются с помощью MedAgentBench [105], MedCalc-Bench [113], MedAgentBoard [321] и бенчмарка общего назначения BFCL [191], которые показывают, может ли модель вызывать калькуляторы и структурированные API вместо того, чтобы угадывать, в то время как бенчмарк ABRA 2026 года [165] делает это конкретным для визуализации, управляя средством просмотра OHIF и сервером Orthanc DICOM с помощью двадцати одного инструмента вызова функций. Поиск доказательств и синтез на исследовательском уровне фиксируются в MedBrowseComp [33], DeepMed [253], MedResearchBench [237] и бенчмарке поиска на основе рассуждений R2MED [308], которые проверяют, может ли агент находить, фильтровать и синтезировать клинические доказательства в условиях реалистичного шума в сети и литературе, а также выполнять комплексные задачи медицинских исследований. Точность длинного контекста, необходимая для чтения всей истории болезни пациента, проверяется с помощью специализированных медицинских тестов MedOdyssey [59], LongHealth [2], EHRNoteQA [120] и EHRBench [272], которые выявляют резкое снижение качества, как только агенту приходится рассуждать на основе полных выписок и продольных записей, а не коротких фрагментов. Интерактивная клиническая компетентность затем измеряется с помощью AgentClinic [211], саморазвивающейся симуляции MedAgentSim [5], симулятора на основе персон PatientSim [121] и 3MDBench [236], а набор MedDialogRubrics 2026 года [75] уточняет эту оценку с помощью 5 200 случаев пациентов и более шестидесяти тысяч детализированных рубрик, благодаря чему многоходовой диагностический диалог оценивается по явным клиническим критериям, а не по единственному эталонному ответу..

Уровень 3 нацелен на реализм системного уровня, задаваясь вопросом, может ли агент работать автономно в хаотичной среде реальных клинических и экономических рабочих процессов. Экономически ценная, ориентированная на внедрение функциональность количественно оценивается с помощью HealthAdminBench [15], богатого долгосрочными стратегиями $\chi$-Bench [27], совместимого с FHIR MedAgentBench [105] и комплексного MedHELM [14], которые связывают базовые возможности с административной, экономической и подтвержденной клиницистами полезностью. Персональная и продольная агентность подчеркивается в AgentClinic [211], бенчмарке полного цикла визуализации исследований MedFlowBench [219], унифицированном агентном наборе для здравоохранения HealthAgentBench [150] и PhysicianBench [151], которые обосновывают долгосрочные задачи в реальных системах с помощью проверенных контрольных точек выполнения. Клиническое взаимодействие по замкнутому циклу с «живыми» записями и «песочницами» измеряется с помощью ClinEnv [158], AgentClinic [211], интерактивного бенчмарка баз данных EHR-Complex [197] и среды обучения на основе кода MedAgentGym [274], в которой агент должен консультироваться с субагентами, запрашивать большие клинические базы данных и выполнять SQL или Python на основе MIMIC-IV. Работа полного конвейера и аудит на протяжении всего приема пациента оцениваются с помощью MedAgentAudit [78], пятиэтапного последовательного рабочего процесса MedChain [147], ClinicalBench [26] и ориентированного на офтальмологические галлюцинации EH-Benchmark [189], которые исследуют прослеживаемое поведение и распространение ошибок при поэтапном принятии клинических решений. Постоянный и увеличивающийся разрыв между Уровнем 1 и Уровнем 3, ставший более заметным благодаря долгосрочным бенчмаркам 2026 года, указывает на то, что текущие системы остаются компетентными в восприятии, но незрелыми в управлении, что обосновывает многоосевую оценку, которую мы разрабатываем далее..

Постоянный разрыв между показателями в таблицах лидеров и доверием у постели больного заключается в том, что большинство бенчмарков для медицинских агентов по-прежнему сводят производительность к единой оценке точности или полного совпадения, тогда как реальные сбои при внедрении редко выглядят просто как неверный итоговый ответ. Поэтому мы организуем оценку по пяти взаимодополняющим осям, которые в совокупности характеризуют готовность агента к реальным условиям. Первая ось — это качество рассуждений, которое требует ответа не только на вопрос, верен ли вывод, но и на то, является ли промежуточная траектория достоверной, обоснованной и свободной от необоснованных скачков. Недавние работы, в которых пошагово проверяются цепочки рассуждений, показывают, что правильность итогового ответа регулярно соседствует с логически нарушенными или галлюцинированными промежуточными шагами, поэтому достоверная траектория должна оцениваться как первостепенная величина, а не предполагаться на основе результата [126]. В клинических условиях это имеет острое значение, поскольку отчет, который приходит к правдоподобному заключению через неподтвержденное наблюдение, опаснее, чем очевидно неверный, и такие метрики, как фактическое следование из извлеченных данных [183, 99] и экспертная оценка ошибок [291], были введены именно для выявления этого режима сбоев..

Вторая ось — это эффективность, которая отражает затраты на получение ответа в виде вызовов инструментов, токенов, времени ожидания и денежных расходов. Поскольку агентам разрешено дольше размышлять и вызывать больше инструментов, точность и стоимость перестают коррелировать: тщательное изучение того, как распределять вычислительные ресурсы во время выполнения агента, показывает, что наивное увеличение количества шагов дает убывающую, а иногда и отрицательную отдачу, как только избыточные вызовы инструментов и повторяющаяся самопроверка начинают преобладать [320]. Таким образом, метрика развертывания отражает точность при фиксированном бюджете и предельную точность на один вызов инструмента, а не неконтролируемый потолок. Третья ось — это надежность, означающая стабильность при изменении распределения, состязательных или зашумленных входных данных и отсутствии контекста, что делают измеримым межцентровые и стрессовые ориентированные бенчмарки [267, 96]. Четвертая ось — это пользовательский опыт, охватывающий способность агента задавать уточняющие вопросы, откладывать решение при неуверенности и сообщать о калиброванной степени уверенности — свойства, которые симуляционные и интерактивные бенчмарки выявляют гораздо лучше, чем статические QA [211, 236]. Пятая ось — это безопасность, которая охватывает отказ от выполнения небезопасных запросов, уровень галлюцинаций и предотвращение вреда, что количественно оценивается с помощью специализированных наборов тестов на безопасность и галлюцинации [84, 190, 8]. Совместное представление всех пяти осей, а не просто показателя точности, — это то, что превращает результат бенчмарка в доказательство клинической готовности.

Одной лишь оценки недостаточно для создания способных агентов, и траектория развития агентов общего назначения предполагает, что ограничивающим фактором является наличие насыщенных интерактивных сред обучения, а не сам по себе масштаб модели. В общей области переход от данных с однократным взаимодействием, полученных методом SFT, к крупномасштабному интерактивному обучению с подкреплением стал возможен благодаря фреймворкам, которые запускают множество одновременных, многоходовых и многозадачных сценариев и стабилизируют обучение в гетерогенных средах [301], что является именно тем рецептом, который позволяет агентам перейти от имитации демонстраций к самостоятельному поиску стратегий восстановления при совершении собственных ошибок. Эта общая тенденция мотивирует создание клинического аналога — среды обучения, в которой медицинский агент может действовать, наблюдать за последствиями и получать вознаграждение, вместо того чтобы оцениваться только по фиксированному тестовому набору..

Клинический аналог начинает обретать форму по трем направлениям. Первое направление перепрофилирует существующие инструменты и бенчмарки выполнения задач в качестве тренировочных сред, превращая их проверяемые сигналы успеха в плотные вознаграждения для оптимизации стратегии, как это наблюдается в медицинских комплексах для обучения агентов, которые предоставляют запросы к EHR, калькуляторы и поиск в качестве инструментов для выполнения действий [274, 222, 113]. Второе направление создает высокоточные симуляционные среды, в которых LLM играет роль пациента, коллеги или последующей системы, чтобы агент мог обучаться на полноценных диагностических диалогах и многоэтапных обследованиях без обращения к защищенным данным [211, 236, 277]. Третье направление подключает агентов к реалистичной клинической инфраструктуре, такой как стандартизированные интерфейсы записей и системы заказов, что одновременно повышает предел того, что может быть отработано на практике, и заставляет агента соблюдать ограничения реальных рабочих процессов [105, 124]. В совокупности эти усилия указывают на то, что область смещается от статического медицинского QA в сторону клинических сред с замкнутым циклом, и что агенты, которые докажут свою готовность к реальному миру, будут теми, кто прошел обучение в средах, имитирующих этот мир..

Самая простая и до сих пор доминирующая архитектура объединяет единую мультимодальную основу с набором специализированных инструментов, благодаря чему вся координация происходит внутри одного цикла рассуждений. Этот шаблон представляет собой чередование рассуждений и действий в ReAct [285], где модель переключается между мыслью, вызовом инструмента и наблюдением, дополненное цепочкой рассуждений [258], декомпозицией от простого к сложному [313] и вербальной самокоррекцией в Reflexion [224]. В визуальной области этот же цикл реализуется либо через маршрутизацию инструментов, как в HuggingGPT [220] и MM-ReAct [282], либо через синтез программ на основе визуальных примитивов, как в ViperGPT [235] и VisProg [81], которые уже предвосхищают использование кода в качестве интерфейса действий, описанного ниже. Медицинские реализации адаптируют этот шаблон для клинического восприятия и измерений. CheXagent [38] связывает vision language основу с анализом рентгенограмм грудной клетки, MedRAX [57] оснащает единый контроллер инструментами сегментации, детекции и привязки отчетов, MMedAgent [129] обучается выбирать среди гетерогенных медицинских инструментов, а CXR-Agent и связанные с ним контроллеры добавляют поиск и верификацию на уровне отчетов [156, 163, 62]. Такая архитектура остается конкурентоспособной, поскольку использование одного агента позволяет избежать накладных расходов на коммуникацию и распространения ошибок, характерных для многостороннего обсуждения, поэтому, когда набор инструментов уже охватывает клинические подзадачи, тесный цикл восприятия, измерения и составления отчетов является одновременно точным и проверяемым..

Интерфейс действий является наиболее значимым вариантом на данном этапе. Вместо выдачи вызова инструмента с фиксированной схемой, агент может писать и исполнять код, что позволяет ему создавать непредвиденные операции, манипулировать промежуточными тензорами и взаимодействовать с реальными программными средами. EHRAgent демонстрирует код как действие над структурированными клиническими записями [222], MedOpenCLAW управляет реальной средой 3D Slicer, чтобы агент работал с тем же программным обеспечением, что и радиолог [217], а усилия по масштабированию среды создают исполняемые клинические «песочницы», в которых такие агенты могут проходить обучение и стресс-тестирование [230, 48]. Мотивацией является выразительность при частичном покрытии инструментами, поскольку исполняемый код превращает закрытое меню инструментов в открытое пространство действий ценой необходимости использования «песочниц» и верификации. Этот сдвиг также обеспечивает улучшение самого агента в стиле обучения с подкреплением, как в случае с обучением на основе вознаграждения, ориентированным на разработку программного обеспечения [259], и радиологическим контроллером RadAgent [204], что указывает на измерение адаптивности, к которому мы вернемся позже..

Когда задача охватывает несколько специальностей или требует явной перекрестной проверки, одиночный цикл становится «узким местом», и координация переносится на команду агентов, специализирующихся на определенных ролях. Два прецедента обосновывают эту мотивацию. Программные команды, основанные на ролях, такие как MetaGPT, кодируют стандартные операционные процедуры, чтобы специализация снижала количество ошибок [90], в то время как исследования масштабируемости показывают, что добавление агентов помогает только тогда, когда их взаимодействие хорошо структурировано, а не просто многочисленно [80, 194]. Медицина принимает эту парадигму, поскольку она отражает работу онкологического консилиума или кабинета лучевой диагностики, где ординатор, аспирант и лечащий врач вносят свой вклад в соответствии с уровнем компетенции, а консенсус достигается путем переговоров. MDAgents адаптивно решает, требует ли запрос одиночного ответа или полноценной экспертной группы [115], MedAgents и MDTeamGPT структурируют многоролевое диагностическое обсуждение [238, 30], а M3Builder и MARCH расширяют ролевую декомпозицию до построения рабочих процессов визуализации и мультимодальных рассуждений [63, 142]. Обоснованием служит взвешенное обсуждение, поскольку распределение процесса постановки диагноза по ролям делает разногласия явными и подлежащими проверке, что с клинической точки зрения важнее, чем общая пропускная способность..

Две практические проблемы определяют этот этап. Первая — надежность, поскольку большее количество агентов порождает больше режимов отказа, а недавние бенчмарки предупреждают, что преимущества мультиагентных систем неравномерны и иногда иллюзорны, если учитывать стоимость и согласованность [321, 55, 67]. Вторая — постоянная память, поскольку клиническая команда накапливает общий контекст как в рамках одного случая, так и между разными случаями, что обосновывает необходимость структурированной меж-агентной памяти, такой как G-Memory [300] и продольные медицинские записи агентов [72, 116]. Память также является естественной точкой входа для адаптивности на уровне команды, поскольку пересмотр того, что сохраняется и извлекается, позволяет фиксированному набору ролей совершенствоваться без изменения их внутренней структуры, связывая этот этап с системами самокоррекции, описанными ниже..

Третий этап делает саму структуру взаимодействия первостепенной проектной переменной. Вместо априорной фиксации цепочки, звезды или дебатов, коммуникационный граф между агентами и инструментами ищется, изучается и непрерывно перестраивается во время выполнения, что включает в себя предыдущие этапы как частные случаи единой, более общей формулировки. Линия топологии рассуждений от цепочек [258] к деревьям [286] и графам мыслей [16] уже показала в рамках одного агента, что форма обдумывания, а не только его содержание, определяет производительность, а оркестровка обобщает это понимание с одного рассуждающего на целые популяции агентов. GPTSwarm представляет мультиагентную систему как оптимизируемый граф, ребра которого настраиваются под задачу [323], DyLAN активирует и отсекает агентов в соответствии с их вкладом [155], а агентная суперсеть MaAS распределяет топологию и вычислительные ресурсы в зависимости от сложности запроса, чтобы простые случаи оставались дешевыми, а сложные привлекали больше структуры [299]. Помимо выбора из фиксированного пространства, недавние работы генерируют топологии «на лету» посредством диффузии графов по структурам-кандидатам [104], а обзоры определяют эту область как решительный переход от статических шаблонов к динамическим графам времени выполнения [294, 119]. Мотивацией служит адаптивное распределение сложности, поскольку клиническое внедрение сталкивается с «длинным хвостом» случаев, требуемая глубина рассуждений для которых варьируется на порядки, и единая фиксированная топология должна либо избыточно тратить ресурсы на простое большинство, либо недостаточно обслуживать сложное меньшинство..

На этом этапе адаптивность также становится структурной, а не параметрической. Система, которая перестраивает свой собственный граф, привлекает новые роли или выводит из эксплуатации неэффективные, фактически редактирует собственную архитектуру — это наиболее сильная форма саморазвивающегося поведения, предварительно рассмотренная ранее через самосовершенствование на уровне кода и пересмотр на уровне памяти. Работа над эволюционирующими популяциями агентов и самоорганизующимися коллективами делает это явным [58, 132], и мы рассматриваем это как естественную конечную точку оси координации, поскольку, как только вопрос о том, где принимается решение о координации, делегируется самой системе, граница между использованием агента и его проектированием стирается. Для медицинской визуализации это палка о двух концах, поскольку динамическая структура обещает эффективность и надежность при гетерогенных рабочих нагрузках, но усложняет проверяемость и воспроизводимость, которые требуются для безопасного развертывания, — напряженность, к которой мы вернемся в разделах оценки и управления..

Восприятие является точкой входа, где необработанные сигналы визуализации кодируются в семантические представления, которые может использовать логический вывод, и в медицине оно должно объединять глубоко гетерогенные модальности, поскольку один случай может сочетать рентгенограмму грудной клетки, полнокадровое патоморфологическое изображение и текстовые заключения в рамках одного решения. Энкодеры, настроенные на медицинскую область, а не заимствованные целиком из естественных изображений, являются здесь практической основой, будь то посредством контрастного предварительного обучения «изображение-текст» на биомедицинских корпусах [305], самообучающихся радиографических архитектур, которые изучают анатомию без разметок [192], специфических для патологии представлений, дистиллированных из гистопатологии в больших масштабах [157], или радиологических vision-language models, которые выравнивают изображения со структурированными отчетами [44]. Мультимодальные клинические бенчмарки показывают, насколько хрупкими становятся агенты, когда восприятие не может обосновать эти сигналы в общем представлении [211], поэтому вопрос проектирования заключается не только в том, насколько точно находка обнаруживается один раз, но и в том, насколько стабильно сохраняется ее представление по мере того, как агент собирает больше данных, чтобы последующие рассуждения и рефлексия опирались на согласованный семантический якорь для одного и того же поражения, а не на представление, которое смещается в процессе итераций.

Рассуждение преобразует обоснованные восприятия в логику принятия клинических решений, и его качество зависит от структуры, наложенной на вывод, а не от изолированных цепочек мыслей. Самостоятельно формируемые структуры рассуждений позволяют агенту собирать каркас вывода, наиболее подходящий для конкретного случая [314], и в медицине эта структура часто распределена между взаимодействующими ролями, где адаптивный ансамбль специализированных агентов проводит обсуждение перед тем, как прийти к дифференциальному диагнозу [115]. Важно отметить, что клинический вывод никогда не является окончательным, поскольку каждая диагностическая гипотеза — это предварительное обязательство, которое действие и рефлексия могут позже опровергнуть, как только поступит новая последовательность или противоречивые лабораторные данные, поэтому мы рассматриваем рассуждение как повторяющийся шаг, а не как однократный прямой проход..

Планирование декомпозирует клиническую цель на упорядоченную последовательность допустимых действий, таких как выбор предыдущего исследования для извлечения, выбор измерения для вычисления и выбор руководства для консультации, и его эффективность неотделима от каркаса, который управляет исполнением. Структурированные по ролям фреймворки экстернализируют план как явный артефакт, который взаимодействующие агенты могут изучать и уточнять [90], в то время как переиспользуемая память рабочих процессов позволяет агенту абстрагировать повторяющиеся процедуры визуализации в шаблоны планов, которые ускоряют будущие эпизоды [256]. Поскольку планирование предшествует использованию инструментов, план хорош лишь настолько, насколько хороша способность обнаруживать момент, когда выполненный шаг отклоняется от своего намерения, поэтому планирование и рефлексия остаются связанными через один и тот же поток управления, а не действуют как независимые этапы..

Память является каналом обратной записи агента, местом, где сохраняется и извлекается как кратковременный контекст текущего взаимодействия, так и накопленный опыт прошлых клинических случаев. Краткосрочный контекст должен активно управляться, чтобы длительное обследование с помощью визуализации не переполняло окно модели, что обосновывает использование подкачки контекста в активный буфер и обратно в стиле операционных систем [184]. Долгосрочная память накапливается на протяжении эпизодов, будь то в виде примеров траекторий, которые подготавливают будущее управление при схожих исследованиях [311], или в виде дистиллированных абстракций рабочих процессов, которые сжимают прошлые решения в пригодную для повторного использования форму [256]. Определяющим свойством здесь является направленность, поскольку рефлексия откладывает то, на что впоследствии будут опираться восприятие и рассуждение, замыкая цикл во времени и между пациентами, а не только в рамках одного обращения..

Использование инструментов является исполнительным механизмом, точкой, в которой агент выходит за пределы своих параметров для вызова утилит визуализации, служб поиска и баз клинических знаний, а его надежность в первую очередь зависит от интерфейса, поскольку стандартизированные протоколы, такие как Model Context Protocol, отделяют агента от особенностей каждой внешней службы [93]. Выражение действий в виде исполняемого кода, а не жестких вызовов функций, дополнительно расширяет пространство действий и естественным образом сочетается с потоком управления, который требует многоэтапное обследование [250]. Помимо использования фиксированного набора инструментов, способные агенты создают и курируют свои собственные, формируя проверяемые наборы инструментов на основе опыта [252] и синтезируя новые инструменты по требованию для отделения абстрактного мышления от конкретного [195], благодаря чему сам исполнительный механизм развивается вместе с клинической компетентностью агента.

Действие и рефлексия оценивают каждый выполненный шаг и возвращают вердикт в восприятие, память и каркас, и именно эта обратная запись отличает саморазвивающегося медицинского агента от статического диагностического конвейера. Эмпирические обучающиеся системы дистиллируют успехи и неудачи в переносимые инсайты, которые смещают последующие эпизоды [309], а более широкая парадигма саморазвития определяет этот внешний цикл как мост между замороженными базовыми моделями и пожизненными агентными системами [61]. В клинике визуализации последствия ощутимы, поскольку агенты, которые пересматривают свои структуры рассуждений [314] и накапливают проверенные процедуры на основе клинических случаев, превращают субстрат, а не просто веса, в локус роста возможностей, что является свойством, необходимым развернутой системе для постоянного улучшения по мере наблюдения за большим количеством пациентов.

Шесть модулей, описанных выше, обеспечивают необходимые функциональные возможности, но ни один из них не работает самостоятельно. Перцептивный энкодер не решает, когда нужно повторно проанализировать данные; планировщик не знает, когда следует отказаться от неэффективного плана обследования. То, что превращает эти пассивные компоненты в автономного клинического агента, — это среда выполнения, которая управляет ими как единым замкнутым циклом, и мы используем термин «проектирование циклов» для обозначения систематической разработки этой среды. Лучше всего понимать это как специализацию проектирования обвязки — более широкой и совсем недавней практики, отраженной в рабочем определении, согласно которому агент равен модели плюс обвязке, которая ее окружает, где надежность в производственных условиях все больше зависит от обвязки, а не от базовой модели [7, 172]. В недавней формализации обвязка рассматривается как объект из шести компонентов, охватывающий цикл выполнения, реестр инструментов, менеджер контекста, хранилище состояний, хуки жизненного цикла и интерфейс оценки [172], в то время как в дополняющем подходе она декомпозируется на управление, агентность и среду выполнения [86]. Проектирование циклов изолирует цикл выполнения и ставит вопрос о том, как на каждом шаге принимаются новые наблюдения, совершается допустимое действие и результат включается в следующий шаг; в клинических условиях это именно то различие, которое существует между моделью one shot, выдающей единственный ответ, и агентом, который назначает дополнительное исследование, повторно изучает предыдущие данные и пересматривает свое заключение. Ставки конкретны в агентном программировании, где тщательно сформированный интерфейс взаимодействия агента с компьютером определяет успех задачи в большей степени, чем «сырая» мощность модели [279, 106], где представление действия само по себе является проектной переменной, поскольку исполняемые программные действия превосходят текстовые действия в свободной форме [250, 196], и где политика обвязки может быть даже вынесена вовне в виде редактируемого артефакта на естественном языке, а не скрыта в коде контроллера [188], — все эти наблюдения напрямую применимы к тому, как должен быть построен медицинский агент..

Сложность проектирования циклов сводится к трем проектным плоскостям, и клиническая среда доводит каждую из них до предела, с которым редко сталкиваются агенты общего назначения. Первая — это каркас, который фиксирует поток управления, условия остановки и пространство действий; в медицине именно здесь разделение труда в стиле консилиума по опухолям [90] или среда выполнения диалога между несколькими агентами [264] кодируют, кто принимает решение о том, когда обследование может быть завершено. Вторая — это проектирование контекста, которое испытывает нагрузку при единичном визуализационном исследовании в тот момент, когда оно охватывает множество окон с предыдущими данными, лабораторными анализами и руководствами, что обосновывает подкачку в стиле виртуальной памяти [184], развивающиеся контекстные сценарии [304] и более широкую практику, описанную в Mei et al. [171]. Третья — это управление во время выполнения, которое здесь имеет гораздо большее значение, чем в программировании, поскольку неавторизованный вызов инструмента влечет за собой реальные издержки для пациента, и оно реализуется посредством уровней защиты [270] и шлюзования на основе верификации [174]. Среды оркестрации и агентные операционные системы связывают эти плоскости в единую планируемую подложку [170, 251], а Model Context Protocol стандартизирует то, как цикл обращается к инструментам визуализации, службам поиска и записям [93], что является конкретным смыслом того, как возможности масштабируются вместе с обвязкой, а не с каким-либо отдельным модулем [265]⟧.

Описанный выше цикл обеспечивает автономное выполнение в рамках одного эпизода, но его совокупная клиническая ценность проявляется только тогда, когда рефлексия консолидирует повторяющееся поведение в устойчивые, извлекаемые процедуры, которые сохраняются дольше, чем любой отдельный случай. Навык в этом смысле — это верифицированная процедура, извлеченная из одного успешного эпизода и упакованная таким образом, чтобы ее можно было выбирать и компоновать в последующих случаях, а не открывать заново каждый раз [297]. Воплощенные агенты с открытым концом демонстрируют этот принцип, создавая расширяющуюся библиотеку повторно используемых навыков на основе взаимодействия [244], а индукция набора инструментов показывает ту же динамику для программных клинических задач, где агент дистиллирует свои собственные рутины в курируемый, вызываемый инвентарь [252]. Этот уровень переносит возможности из лаборатории в палату, поскольку эволюционирующие медицинские агенты, практикующиеся на симулированных случаях, накапливают компетенцию без обновления весов [132], а реалистичные клинические среды все чаще оценивают именно этот вид накопленной компетенции процедурного уровня, а не статичную точность при однократном выполнении, что отражает долгосрочный характер приобретения клинического опыта и непрерывной адаптации рабочего процесса [105]⟧.

При работе со множеством пациентов эти процедуры перестают быть изолированными вспомогательными методами и начинают формировать общий институциональный репертуар, в котором протокол измерений, уточненный на одном консилиуме, или процедура поиска, валидированная на одной когорте, становятся доступными для каждого последующего случая, с которым сталкивается система. Система больше не просто выполняет действия, она эволюционирует: обновляет собственные контекстные сценарии, расширяет инвентарь инструментов, уточняет политики структурирования и сжимает успешные стратегии в повторно используемые абстракции, которые смещают цикл в сторону лучших результатов для ранее не встречавшихся случаев. Именно эта медленная консолидация автономной практики в совокупную компетентность, не ограниченная библиотекой навыков, а охватывающая всю среду выполнения, превращает статический диагностический конвейер в саморазвивающуюся клиническую систему, которая продолжает совершенствоваться по мере наблюдения за большим количеством пациентов, адаптируется к новым сценариям и со временем становится все более надежной..

Наиболее доступная стратегия, не требующая модификации модели, опирается на тщательно составленные промпты и примеры в контексте для вызова агентного поведения у предобученных LLM [258, 238, 238]. MedAgent-Zero [238] демонстрирует, что хорошо спроектированные промпты в сочетании с доступом к инструментам позволяют достичь конкурентоспособных результатов на множестве бенчмарков по медицинской визуализации без какого-либо fine tuning. Агностические конвейеры нейрорадиологии [56] дополнительно подтверждают эффективность агентных подходов, не требующих обучения, достигая высоких показателей интерпретации МРТ головного мозга за счет чистого промптинга передовых моделей, таких как GPT-5.1 и Gemini 3 Pro.

SFT адаптирует предобученные LLM к области медицинской визуализации путем обучения на курируемых наборах пар (входные данные, желаемый результат) [130, 38, 44]. LLaVA-Med [130] демонстрирует эффективность двухэтапного подхода SFT. CheXagent [38] расширяет это за счет комплексного конвейера обучения, который включает этапы согласования клинических знаний, извлечения данных и генерации отчетов. RadVLM [44] внедряет многозадачную разговорную SFT для радиологических vision-language models, достигая улучшенной производительности в различных радиологических задачах за счет совместного обучения по нескольким клиническим целям.

Direct Preference Optimization (DPO) [202] и его варианты предлагают подход, свободный от обучения с подкреплением, для приведения выходов агентов в соответствие с клиническими предпочтениями [280, 284]. OPA-DPO [284] представляет оптимизированное выравнивание предпочтений специально для медицинских vision language models, демонстрируя, что предметно-ориентированная оптимизация предпочтений значительно превосходит DPO общего назначения. Подходы Med-RLHF [280] показывают, что оптимизация предпочтений значительно улучшает клиническое качество генерируемых радиологических отчетов по сравнению с одним лишь SFT, особенно в части сокращения галлюцинируемых находок и улучшения структуры отчетов [164].

Для задач, где правильность может быть программно верифицирована, обучение с подкреплением с верифицируемыми наградами (RLVR) обеспечивает масштабируемый обучающий сигнал без необходимости ручной аннотации [261, 21, 79]. Теоретические основы RLVR устанавливают принципы проектирования наград и границы сложности выборки, определяющие практические реализации.

Групповая относительная оптимизация и верификация рассуждений в медицинских VLM. Group Relative Policy Optimization (GRPO) [215, 79] расширяет этот подход путем выборки нескольких вариантов ответов, их оценки по верифицируемым критериям и оптимизации политики на основе относительного качества внутри каждой группы. MedGRPO [231, 122] применяет GRPO специально к медицинским мультимодальным моделям, демонстрируя улучшение диагностических рассуждений за счет групповой относительной оптимизации, в то время как MedVLM-R1 [187] дополнительно подтверждает эффективность обучения с подкреплением для стимулирования способности к рассуждению в медицинских VLM. Patho-R1 [307] применяет трехэтапный конвейер (предварительное обучение, SFT, GRPO+DCPO) специально для патологии, достигая передовых показателей в VQA, zero-shot классификации и кросс-модальном поиске, а Med-R1 [122] демонстрирует, что обучение на основе GRPO для Qwen2-VL-2B по восьми модальностям визуализации дает повышение точности на 29,94% по сравнению с базовой моделью, превосходя модели, которые в 36 раз больше. Опираясь на эти рецепты групповой относительной оптимизации, ряд работ поощряет процесс рассуждения, а не только итоговый ответ: ChestX-Reasoner [60] продвигает радиологические рассуждения посредством пошаговой верификации с моделями вознаграждения процесса, представляя RadRBench-CXR для оценки цепочек рассуждений, а Jing et al. [109] предлагают «Рассуждай как радиолог», объединяя промптинг цепочки мыслей с обучением с подкреплением для генерации верифицируемых отчетов. VLM-R1 [216] предоставляет обобщаемую структуру обучения в стиле R1 для мультимодальных моделей, обнаруживая феномены взлома вознаграждения в задачах обнаружения объектов, в то время как Clinical-R1 [77] внедряет обучение с подкреплением с ограничениями и оптимизацией предпочтений для принятия клинических решений, объединяя RLVR с требованиями клинической безопасности..

Специализированное и причинно-следственное формирование вознаграждения. Помимо классификации и генерации отчетов, RLVR была адаптирована для решения специфических медицинских задач и использования более богатой семантики вознаграждения. MedSAM-Agent [152] применяет RLVR к интерактивной сегментации медицинских изображений, представляя сегментацию как последовательное принятие решений, а MedResearcher-R1 [290, 290] демонстрирует обучение RLVR для агента по поиску медицинской литературы с итеративным уточнением гипотез. Совсем недавно MedEyes[317] и MedCausalX [139] дополнительно расширили RLVR до прогрессивного диагностического рассуждения и адаптивного причинно-следственного рассуждения соответственно, где вознаграждения извлекаются из проверяемых диагностических результатов, причинно-следственной согласованности и контрфактической валидности для стимулирования экспертного визуального внимания и самокорректирующегося мышления. MedSynapse-V [318] продвигает это направление дальше с помощью причинно-следственного контрфактического уточнения (CCR), которое использует обучение с подкреплением с контрфактическими вознаграждениями, полученными на основе маскирования признаков на уровне регионов, для количественной оценки причинного вклада каждой латентной диагностической памяти, устраняя избыточность и выравнивая латентные представления с диагностической логикой посредством привилегированно-автономной двухветвевой парадигмы интернализации. Систематический обзор применения RL в анализе медицинских изображений, охватывающий алгоритмы, инженерные проблемы и клиническое внедрение, см. в работе Sampa et al. [208].

Проектирование вознаграждения на основе рубрик и на уровне сущностей. Важным проектным решением в RLVR для медицинских агентов является структура функции вознаграждения. HealthBench [8] устанавливает критерии рубрик, написанные врачами, в качестве золотого стандарта оценки, включающего 48 562 структурированных критерия в 5 000 клинических диалогах. Health-SCORE [283] демонстрирует, что масштабируемая генерация рубрик может служить двойным целям: как система оценки и как структурированные сигналы вознаграждения для обучения RL, преодолевая разрыв между оценкой и оптимизацией. Chen et al. [35] далее показывают, что автоматизированное построение рубрик позволяет надежно оценивать медицинские диалоговые системы в масштабе, в то время как Mallinar et al. [166] предоставляют масштабируемую систему оценки, валидированную для нескольких семейств медицинских языковых моделей, а расхождения между LLM-судьями и клиницистами, задокументированные в недавних работах [42], подчеркивают важность обоснования сигналов вознаграждения проверяемыми клиническими критериями, а не полагания исключительно на суждения, основанные на моделях. Помимо целостных рубрик, сопоставление на уровне сущностей стало многообещающим мелкозернистым сигналом вознаграждения для генерации медицинских текстов. MRG-R1 [248] внедряет обучение с подкреплением для клинически согласованной генерации медицинских отчетов, используя извлечение клинических данных на уровне сущностей в качестве вознаграждения, чтобы гарантировать, что сгенерированные отчеты содержат фактически верные медицинские сущности, а ESC-RL [315] расширяет это с помощью самокритичного обучения с подкреплением с учетом доказательств для генерации радиологических отчетов, где функция вознаграждения явно проверяет, что упомянутые анатомические структуры, патологии и измерения соответствуют фактическим доказательствам. Jhaveri et al. [102] предлагают вознаграждения на основе утверждений для оптимизации генерации длинных клинических текстов, декомпозируя выходные данные на атомарные утверждения и поощряя фактическую точность на уровне утверждений. Эти подходы к вознаграждению на уровне сущностей и утверждений предлагают превосходную гранулярность по сравнению с целостными вознаграждениями на уровне последовательностей, обеспечивая целенаправленную оптимизацию фактической согласованности в выходных данных медицинских агентов..

От одноходовой верификации к агентному RL. Помимо приведенной выше формулировки GRPO, быстро растущее семейство алгоритмов оптимизации стратегий повышает свою стабильность и расширяет область применения от одноходовой верификации до многоходовых агентных сред (Таблица 2). В рамках одноходового режима DAPO [292] разделяет границы отсечения и добавляет динамическую выборку, Dr. GRPO [154] устраняет смещения нормализации длины и стандартного отклонения стандартного GRPO, GSPO [310] заменяет коэффициенты важности на уровне токенов на коэффициенты на уровне последовательностей для стабилизации обучения Mixture-of-Experts, а CISPO [25] ограничивает веса importance-sampling, а не обновления токенов, чтобы редкие, но решающие токены по-прежнему вносили вклад в градиенты. Многоходовое расширение, часто называемое агентным RL, переосмысливает обучение как последовательное принятие решений на основе вызовов инструментов и наблюдений в условиях частичной наблюдаемости [298], что напрямую соответствует формулировке Раздела 2.1 и переносит основную сложность на распределение кредита на уровне ходов: MT-GRPO [296] и Turn-PPO [131] оценивают преимущества с гранулярностью отдельных ходов принятия решений, ARPO [47] использует энтропию для фокусировки оптимизации на шагах вызова инструментов с высокой неопределенностью, а AT2PO [324] связывает распределение кредита по ходам с древовидным поиском. Для медицинских агентов, чьи консультации и обследования приносят вознаграждение только в конце длинной многоходовой траектории, эта агентная формулировка является естественным аналогом обучения для представления о частичной наблюдаемости, принятого в Разделе 2.1. Близко связанным и быстро развивающимся направлением является on-policy distillation (OPD), которое формально эквивалентно обучению с подкреплением с ограничением KL по траекториям, выбранным студентом [229], и лежит в основе рецепта усеченной on-policy distillation на уровне ходов, который Healthcare AI GYM [100] использует для стабилизации многоходового обучения медицинских агентов в реалистичных условиях клинического взаимодействия..

Наиболее передовая парадигма обучения позволяет агентам совершенствоваться посредством автономной практики в симулированных клинических средах [132, 51, 218, 241, 65]. Agent Hospital [132] реализует среду симуляции, в которой агенты практикуются на синтетически сгенерированных случаях пациентов, накапливая диагностический опыт в ходе тысяч симулированных консультаций. EvoPatient [51] внедряет совместно эволюционирующих синтетических пациентов, которые усложняются по мере совершенствования агента в ходе многоходовых диагностических диалогов, одновременно собирая опыт для повышения качества как вопросов, так и ответов. AMIE [241] стала пионером в области симулированного обучения через самоигру для диагностических бесед, продемонстрировав, что агенты на базе LLM, обученные посредством автономных ролевых игр «врач-пациент», могут превосходить врачей первичного звена по точности диагностики..

Симулированные среды и обучение стратегий. DoctorAgent-RL [65] обучает явную модель стратегии посредством многоагентного совместного обучения с подкреплением, где агент-врач оптимизирует свою стратегию опроса через обучение на основе RL в противостоянии с высокоточной моделью LLM-пациента и оценщиком консультаций, предоставляющим многомерные вознаграждения. ATPO [22] развивает обучение стратегий посредством адаптивной древовидной оптимизации стратегий, формулируя многоходовой медицинский диалог как иерархический Марковский процесс принятия решений и адаптивно распределяя бюджеты развертывания для состояний с высокой неопределенностью, что позволяет модели Qwen3-8B превзойти GPT-4o на диагностических бенчмарках. Healthcare AI GYM [100] предоставляет совместимую с Gymnasium среду обучения, охватывающую 10 клинических областей с 3.6K+ задачами и 135 специализированными инструментами, а также предлагает пошаговую усеченную дистилляцию на основе стратегии (TT-OPD) для стабилизации многоходового агентного RL-обучения. MedAgentSim [5] представляет собой симуляцию с открытым исходным кодом с участием агентов врача, пациента и измерительных приборов, обеспечивающую саморазвивающиеся диагностические возможности посредством воспроизведения опыта и рассуждений по цепочке мыслей. MedAgentGym [274] предоставляет масштабируемый тренировочный гимнастический зал для медицинских рассуждений на основе кода, демонстрируя существенное улучшение за счет онлайн-обучения с подкреплением на 72K биомедицинских задачах..

Преодоление разрыва в точности симуляции и непрерывное совершенствование. Критической проблемой обучения через самоигру является обеспечение переноса навыков, полученных в симуляции, в реальные клинические условия. SynthAgent [3] решает эту задачу с помощью обогащенных личностными характеристиками синтетических агентов-пациентов, которые включают профили коморбидности и психосоциальные характеристики, сокращая разрыв в распределении между симулированными и реальными взаимодействиями с пациентами. MeWM [281] представляет первую обоснованную медицинскую модель мира, которая объединяет политику VLM с изученными моделями динамики опухоли и обратной динамики, позволяя агентам планирования лечения обучаться на траекториях прогрессирования заболевания. Evo-MedAgent [218] предлагает саморазвивающийся модуль памяти, состоящий из ретроспективных клинических эпизодов, адаптивных процедурных эвристик и контроллера надежности инструментов, что позволяет агентам накапливать межслучайный опыт во время тестирования без дополнительного обучения. MedChain-Agent [147] интегрирует механизм обратной связи с генерацией на основе поиска по прецедентам для последовательной адаптации клинических решений, позволяя агентам учиться на предыдущих случаях на пяти этапах клинического рабочего процесса. MMedAgent-RL [269] сочетает обучение по учебной программе с многоагентным reinforcement learning, обучая агентов триажа и лечащих врачей посредством поэтапного RL на Qwen2.5-VL для достижения улучшения на 23,6% в бенчмарках медицинских рассуждений. SWE-RL [259] демонстрирует, что reinforcement learning на открытых данных эволюции программной инженерии может улучшить общие способности к рассуждению, что имеет значение для агентов, генерирующих медицинский код..

Самообучение и непрерывное совершенствование являются частными случаями более широкого и быстро развивающегося рубежа, а именно саморазвивающихся агентов, которые в ответ на полученный опыт изменяют не только свои параметры, но и память, промпты, инструменты и даже собственный управляющий код [68, 289, 95, 302, 328]. В данной общей области сформировался конкретный набор механизмов эволюции, классифицируемых по тому, что именно изменяет агент. На уровне весов SEAL [328] позволяет модели генерировать собственные данные для SFT и директивы обновления через цикл подкрепления, усваивая новые знания без внешней аннотации — это рецепт, необходимый радиологическому агенту для адаптации к статистике изображений недавно установленного сканера. На уровне архитектуры и кода Darwin Godel Machine [302] поддерживает эволюционный архив агентов, которые эмпирически переписывают собственный код, ADAS [95] запускает мета-агента, который программирует все более сильных агентов на основе растущего архива проектов, а Gödel Agent [289] считывает и редактирует собственную логику во время выполнения для рекурсивного самосовершенствования, что указывает на возможность создания медицинских агентов, автономно перестраивающих маршрутизацию своих инструментов и циклы рефлексии. На уровне памяти и процедур обзор саморазвивающихся агентов [68] структурирует пространство проектирования по принципам «что», «когда», «как» и «где» развиваться, в то время как в медицине повторение опыта на клинических случаях [132, 5], совместно развивающиеся симуляторы [51] и саморазвивающиеся контроллеры памяти [218] уже позволяют агентам совершенствоваться на этапе тестирования без переобучения..

Решающим фактором, лежащим в основе всех трех уровней, является верифицируемая среда исполнения: условия, в которых каждое действие агента может быть выполнено и автоматически оценено, превращая саморазвитие в замкнутый цикл, управляемый проверяемыми наградами, а не человеческой разметкой. Agent-RLVR [259, 100] иллюстрирует этот паттерн в программной инженерии, где агент выполняет задачу, его траектория проверяется с помощью модульных тестов, а политика обновляется посредством reinforcement learning на основе верифицируемых наград, в то время как reasoning gyms [274] объединяют обширные библиотеки программно проверяемых сред для тех же целей. Медицина необычайно хорошо подходит для этой парадигмы, поскольку верифицируемые сигналы являются неотъемлемой частью рабочего процесса, включая согласованность измерений, валидность структурированных отчетов, соответствие клиническим рекомендациям и последующие результаты наблюдения. Недавние gyms реализуют именно это: MedAgentGym [274] предоставляет 72 тысячи биомедицинских задач в виде исполняемого кода с online reinforcement learning, Healthcare AI GYM [100] охватывает десять клинических областей со 135 инструментами и стабилизирует многоходовое агентное обучение посредством turn level truncated on policy distillation, а MedAgentSim [5] замыкает цикл с помощью агентов врача, пациента и измерений, которые саморазвиваются через experience replay. Создание верифицируемых, аудируемых сред исполнения, где эволюция на уровне весов, кода и памяти управляется заслуживающими доверия сигналами вознаграждения, является ключевой возможностью для следующего поколения медицинских агентов..

Критически важным выводом для развития медицинских агентов является то, что возможности могут масштабироваться по трем взаимодополняющим осям, а не только за счет увеличения параметров модели [62, 228, 97].

Масштабирование параметров. Традиционные законы масштабирования предсказывают, что производительность модели улучшается с увеличением количества параметров и объема обучающих данных [1, 76, 209]. Медицинские фундаментальные модели следовали этой траектории: от ранних специализированных CNN до мультимодальных моделей с миллиардами параметров, таких как Med-Gemini [207, 226] и InternVL [37]⟧.

Масштабирование вычислений на этапе вывода. Недавние исследования показывают, что выделение дополнительных вычислительных ресурсов во время вывода посредством более длинных цепочек рассуждений, многократной выборки или верификации на основе поиска может быть более экономически эффективным, чем масштабирование параметров для определенных задач [228, 137, 79, 176]. Snell et al. [228] показывают, что оптимальное распределение вычислительных ресурсов на этапе тестирования может превзойти модели, которые в 14$\times$ раз больше, в то время как s1 [176] демонстрирует, что дообучение на тысяче примеров в сочетании с простым ограничением бюджета позволяет добиться конкурентоспособных рассуждений, а DeepSeek-R1 [79] показывает, что чистое обучение с подкреплением может стимулировать эмерджентные развернутые рассуждения. Для медицинских агентов эти общие подходы проявляются в более глубоких цепочках диагностических рассуждений [187, 50], диагностическом поиске на основе MCTS [72] и циклах итеративного уточнения [224, 162], и они привлекательны именно тем, что позволяют повысить точность без переобучения, что является важным свойством в условиях ограничений на управление данными в клинической среде..

Масштабирование среды. Недавно сформулированная парадигма масштабирования среды [62, 97] предполагает, что возможности агента могут быть существенно расширены за счет обогащения среды, то есть разнообразия и качества инструментов, источников данных и интерфейсов взаимодействия, доступных агенту. Это понимание особенно актуально для медицинских агентов, которые работают в клинических средах, по своей сути насыщенных инструментами, включающими PACS, EHR системы, модели анализа специалистов, базы данных руководств и интерфейсы оборудования для визуализации [114, 93]. Agent-World [48] демонстрирует масштабируемый синтез реальных сред для обучения агентов, в то время как EnvScaler [230] предоставляет систематические методы для расширения сред взаимодействия с инструментами. ARE [67] представляет крупномасштабные системы оценки для анализа производительности агентов по мере увеличения сложности среды. Исследования по масштабированию мультиагентных систем [194, 116] дополнительно предполагают, что количество и специализация самих агентов представляют собой измерение масштабирования среды. Для медицинских агентов в частности масштабирование среды означает три конкретных направления: расширение инструментария (добавление новых специализированных моделей, инструментов измерения, баз данных для поиска) [198, 58], обогащение информационной среды (подключение к более полным записям пациентов, архивам визуализации и репозиториям руководств) [177, 268] и улучшение интерфейсов взаимодействия (стандартизация через MCP и FHIR) [93, 52]⟧.

Радиология является наиболее насыщенной агентами специальностью, что неудивительно, поскольку ее рабочий процесс полностью оцифрован с помощью PACS и структурированной отчетности, что дает агенту как чистое пространство для наблюдений, так и функциональный интерфейс, в котором каждое считывание, извлечение и черновик являются четко определенной операцией. На уровне восприятия и отчетности MedRAX [57] координирует набор инструментов для рентгенографии грудной клетки без какой-либо переподготовки под конкретные задачи, устанавливая значимый результат, согласно которому контроллер рассуждений, размещенный поверх замороженных экспертов, уже конкурентоспособен по сравнению со специализированными моделями, в то время как RadAgents [303] формализует эту интуицию в этапы восприятия, извлечения и составления черновиков, подобные действиям радиолога, чтобы каждый шаг стал проверяемым, а не представлял собой единый непрозрачный прямой проход. Та же поэтапная философия направляет CXR-Agent [156] и MRGAgents [247] к автоматизированной интерпретации и генерации отчетов, при этом общая логика проектирования заключается в том, что декомпозиция обеспечивает возможность аудита, что является именно тем, что должен предоставлять клинический отчет, прежде чем он попадет в медицинскую карту. RadFabric [34] еще больше заостряет разделение труда, связывая специализированные агенты восприятия с центральным агентом рассуждений, исходя из наблюдения, что одна модель не может одновременно локализовать находки и обосновывать их в рамках одного бюджета вывода, не жертвуя одним ради другого. На уровне рассуждений и принятия решений MedAgent-Pro [255] обосновывает мультимодальную диагностику извлеченными доказательствами, чтобы выводы были подкреплены, а не просто утверждены, CXReasonAgent [125] делает диагностическую цепочку явной и прослеживаемой до области изображения или извлеченного факта, чтобы бороться с центральным режимом сбоев в виде галлюцинируемых находок, а мультиагентная формулировка визуальных ответов на вопросы по радиологии [288] восстанавливает композиционную точность, которую монолитная модель теряет при запросах, требующих нескольких шагов рассуждения. Усилия, специфичные для модальностей, расширяют тот же рецепт, а не изобретают его заново: CT-Agent [168] и RadAgent [204] нацелены на ответы на вопросы по 3D КТ и автономное управление рабочим процессом, MARCH [142] воспроизводит иерархию ординатора, стажера и лечащего врача, чтобы черновики передавались на рассмотрение и исправлялись точно так же, как в учебной больнице, а DentVLM [173] переносит эту парадигму на стоматологическую визуализацию, где применяется тот же конвейер от восприятия до отчета. На уровне сотрудничества и саморазвития RadCouncil [295], Meissa [36] и конвейеры в стиле консенсуса для генерации и оценки отчетов [55] позволяют нескольким агентам составлять черновики, критиковать и приходить к согласию, превращая генерацию с одной попытки в итеративный процесс согласования, результатом которого является снижение вариативности, а не единый уверенный, но непроверенный вывод. Уровень рабочего процесса окончательно закрывается RadOnc-GPT [89], который автономно маркирует исходы пациентов в масштабе, что является доказательством того, что дивидендом от агентов является не только диагностика, но и облегчение бремени документации, которое занимает большую часть времени клинициста и которое не измеряет напрямую ни один бенчмарк..

Изображения целых предметных стекол создают проблему масштаба, которая делает парадигму агентов практически обязательной, поскольку гигапиксельный слайд невозможно обработать за один проход, что требует участия агента, который решает, куда смотреть дальше, когда приближать изображение и когда накоплено достаточно данных для принятия решения. На уровне восприятия PathAgent [29] реализует интерпретируемый цикл навигатора, перцептора и исполнителя, в котором сам путь навигации становится объяснением, а CPathAgent [233] аналогичным образом имитирует логику патологоанатома от общего к частному, автономно решая, когда масштабировать изображение высокого разрешения для создания интерпретируемого отчета, в то время как PathFinder [74] добавляет интерактивный многоагентный поиск по слайду, чтобы патологоанатом мог направлять исследование, а многоагентные помощники для патологической анатомии указывают точные области, подтверждающие каждое заключение [260], что является аналогом обоснования доказательств на уровне слайда, который мы наблюдали в радиологии. WSI-Agents [160] и GMAT [200] координируют работу специализированных агентов по всему слайду, чтобы классификация тканей и анализ областей распределялись между экспертами, а не выполнялись принудительно одной нейронной сетью. Уровень рассуждений совершенствуется с помощью моделей рассуждения, обученных с использованием reinforcement learning, таких как Patho-R1 [307], чья функция вознаграждения формирует экспертную цепочку рассуждений патологоанатома, а не только итоговую метку, и с помощью Patho-AgenticRAG [306], который выполняет поиск по базе знаний патологий во время инференса, чтобы редкие сущности распознавались за счет извлечения информации, а не запоминания, — различие, которое имеет критическое значение в области с длинным хвостом редких диагнозов. На уровне сотрудничества и самоэволюции TeamPath [153] объединяет специализированных по ролям помощников, чьи разногласия сами по себе являются полезным сигналом неопределенности, а TissueLab [135] замыкает цикл с помощью совместно эволюционирующей среды, в которой агент и его инструменты совершенствуются вместе с течением времени, что является наиболее ярким примером самоэволюции в патологии, выдвинутым на первый план в данном обзоре..

Офтальмология богата данными, но все еще находится на ранней ступени развития возможностей: большинство систем ограничиваются восприятием, и лишь самые последние разработки достигают уровня полноценной поддержки принятия решений с использованием различных модальностей. EyecareGPT [134] предоставляет комплексную мультимодальную основу, на которую могут опираться последующие агенты, а EyeAgent [221] является первой агентной системой, координирующей десятки офтальмологических инструментов в рамках множества методов визуализации для поддержки клинических решений. Ее ключевым вкладом является политика маршрутизации инструментов, определяющая, какой метод следует применить при конкретной жалобе — решение, которое статичная модель просто не способна принять, поскольку у нее отсутствует понимание того, когда ее собственных входных данных недостаточно. Автоматизированные конвейеры построения, такие как OAAgent [4], снижают инженерные затраты на создание подобных систем, что само по себе является необходимым условием для их внедрения. Прогресс в этой области ограничен скорее вопросами надежности, чем чистой точностью, поэтому EH-Benchmark [189] объединяет офтальмологический бенчмарк для оценки галлюцинаций с рабочим процессом логического вывода, допускающим прослеживаемость «сверху вниз», обосновывая тезис о том, что узким местом в данной специальности является верифицируемость, в то время как крупномасштабная курация визуальных инструкций, такая как OphIn-500K [49], обеспечивает информационную базу, необходимую этим агентам для перехода от простого восприятия к надежной поддержке принятия решений..

Онкология предоставляет наиболее убедительные доказательства того, что агенты могут действовать, а не просто давать советы, поскольку проспективно валидированный автономный агент для принятия клинических решений в онкологии достиг уровня экспертного согласия на реальных случаях [66], что является самым четким сигналом в данной области о том, что эта парадигма клинически жизнеспособна, а не является артефактом бенчмарка, и это подкрепляется ассистентами на основе руководящих принципов, такими как MAGDA [11], которые кодируют онкологические протоколы непосредственно в цикл рассуждений. RadGPT [13] создает наборы данных 3D-изображений и текстов опухолей, от которых зависят такие агенты, устраняя нехватку данных, которая в противном случае ограничивает рассуждения об опухолях, а RadOnc-GPT [89] замыкает цикл маркировки исходов, благодаря чему доказательная база растет под наблюдением агента. В неврологии ADAgent [91], AD-CARE [92] и CARE-AD [133] координируют модально-независимые доказательства для оценки болезни Альцгеймера с анализом справедливости и исследованиями читателей, причем включение справедливости является осознанным ответом на демографический перекос, который поражает наборы данных по нейродегенеративным заболеваниям, в то время как NeuroAgent [312] нацелен на мультимодальный нейровизуализационный анализ и исследования в более широком смысле. Примечательно, что нейрорадиологический анализ без обучения, управляемый исключительно агентной LLM [56], показывает, что одна лишь оркестрация, без какой-либо специфической для задачи SFT, уже может обеспечить пригодную для использования производительность в реальных клинических рабочих процессах, результат, который пересматривает часть уравнения затрат на развертывание, поскольку устраняет барьер переобучения, который обычно отделяет прототип от клинического пилотного проекта.

Параллельное направление отказывается от предположения о специализации и нацелено на универсальность, исходя из того, что сложная часть клинического мышления заключается в координации, а не в какой-либо одной модальности. MDAgents[115] адаптирует топологию сотрудничества к сложности случая, чтобы простые случаи обрабатывались с низкими затратами, а для сложных случаев собиралась экспертная группа, MEDDxAgent[205] объединяет дифференциальную диагностику в единую итеративную структуру, а MMedAgent-RL[269] оптимизирует политику сотрудничества между гетерогенными агентами с помощью обучения с подкреплением, чтобы система обучалась тому, когда следует переключаться между специалистом широкого профиля и узким специалистом, вместо ручного кодирования маршрутизации. Надежность рассматривается напрямую в MedMMV[146], который добавляет контролируемый уровень верификации, чтобы мультимодальные выводы были проверяемыми, в MAM[316], который факторизует диагностику на специализированные по ролям агенты для обеспечения аудируемости каждой роли, и в CARE[50], который делает агентную структуру основанной на доказательствах и подотчетной, что в результате приводит к существенному повышению точности визуальных ответов на вопросы. Структуры в стиле консультаций, такие как MDTeamGPT[30], MedChat[149] и ColaCare[254], имитируют междисциплинарную команду, исходя из того, что сложные случаи решаются в реальных клиниках путем дискуссий между специалистами, — структуру, которую эти агенты явно воспроизводят, чтобы мнения меньшинства выявлялись, а не усреднялись. Использование инструментов и механизмы памяти развивают это направление дальше: ReflecTool[138] добавляет использование инструментов с расширенной рефлексией, EHRAgent[222] делает рассуждения на основе EHR подкрепленными кодом, чтобы агент вычислял, а не угадывал, MedEyes[317] внедряет динамический визуальный фокус для прогрессивной диагностики, MedCausalX[139] добавляет причинно-следственные рассуждения с саморефлексией, а ClinicalAgents[72] объединяет древовидный поиск с двойной памятью для планирования на более длительные горизонты. На переднем крае Meissa[36], ClinSeekAgent[263] и саморазвивающийся MACRO [58] продвигаются к автономному поиску доказательств и обнаружению инструментов на основе опыта, где агент решает, какую дополнительную информацию собрать и даже какой новый инструмент создать, прежде чем дать ответ, что является операционным определением саморазвития на уровне приложений..

Зрелость наконец измеряется не только точностью, но и тем, может ли само построение этих систем быть автоматизировано и может ли медицинский агент корректно передавать управление в более широкий клинический стек. AutoML на основе агентов замыкает цикл построения: M3Builder [63] автоматизирует создание медицинских моделей, а Evo-MedAgent [218] добавляет эволюционное самосовершенствование, благодаря чему конвейер, создающий модели, оптимизируется сам по себе, что является аналогом самоэволюции на этапе вывода, происходящим во время построения. Цикл визуализации не заканчивается на отчете, поскольку результат, полученный на основе изображения, обычно инициирует терапевтическое решение, поэтому мы попутно отмечаем, что терапевтические и защитные агенты, такие как TxAgent [70] и MALADE [39], анализируют лекарственные взаимодействия и нежелательные явления; мы включаем их не как системы визуализации, а как непосредственное последующее звено передачи управления от медицинского агента и как доказательство того, что та же агентная подложка, цикл «восприятие-рассуждение-действие» с опорой на инструменты, разработанный в ходе этого обзора, переносится с пикселей на фармакологию в различных реальных клинических рабочих процессах, так что архитектурные уроки медицинских агентов распространяются на назначения, которые запускает результат визуализации. Мы намеренно ограничиваем упоминание терапевтических агентов одним абзацем именно для того, чтобы сохранить целостность линии визуализации, поэтому данные системы входят в сферу нашего рассмотрения только как назначения, запускаемые результатом визуализации, а не как самостоятельные объекты обзора..

Коммерческий импульс сосредоточен на фоновой документации и медицинской сортировке, где ценность является немедленной, а ответственность — ограниченной, поскольку экономия минут на каждом приеме измерима и обратима, в то время как автономная диагностика не является ни тем, ни другим. Фундаментальные разработки, такие как Med-Gemini [207], устанавливают границы возможностей, на которых строятся продукты, в то время как готовые ассистенты интегрируют диктовку и составление черновиков непосредственно в рабочий процесс врача, поскольку сэкономленное время на каждом приеме — это метрика, за которую больницы действительно платят и которая проходит проверку при закупках..

Внедрение зависит от функциональной совместимости, которую мы разделяем на два уровня, часто смешиваемых между собой. Уровень данных опирается на устоявшиеся стандарты: DICOM регулирует визуализацию, а HL7 FHIR — клинические записи, благодаря чему агент считывает и записывает именно те представления, которым больница уже доверяет и которые проверяет, и никакая интеграция без них не является надежной. Более новый уровень взаимодействия агентов — это область, на которой сосредоточены текущие исследования, поскольку Model Context Protocol предоставляет агентам доступ к инструментам и данным через унифицированный интерфейс [93], а семейства протоколов взаимодействия агентов, такие как A2A, ANP и ACP, стандартизируют то, как независимые агенты договариваются и делегируют работу друг другу [52]. Важно отметить, что эти протоколы теперь привязываются к клиническим данным, а не демонстрируются изолированно: Model Context Protocol напрямую подключен к FHIR для поддержки принятия решений [53] и оценивается в задачах реального поиска клинической информации в EHR [169], в то время как сквозные агентные конвейеры для медицинского логического вывода [223] демонстрируют работу полного стека без участия человека в каждом цикле. Основная мотивация здесь — взаимозаменяемость, поскольку протокольный уровень позволяет больнице заменить одного агента другим без перестройки интеграции, что является необходимым условием для конкурентной экосистемы поставщиков, а не привязки к единственному вендору..

Регулирование является тем столпом, который чаще всего определяет сроки, и оно меняется достаточно быстро, чтобы стать самостоятельной темой для исследований. В Соединенных Штатах решающим инструментом для адаптивных систем является План контроля заранее определенных изменений, руководящие принципы которого позволяют производителю заранее указать, как модель может обновляться после получения разрешения [23], что напрямую устраняет давнее несоответствие между статическим одобрением и моделью, разработанной для непрерывного обучения. В Европе Закон об искусственном интеллекте, Регламент (ЕС) 2024/1689 [227], классифицирует большинство медицинских AI как системы высокого риска и дополняет существующие режимы устройств MDR и IVDR, поэтому медицинский агент должен соответствовать как требованиям к устройствам, так и специфическим обязательствам в отношении AI, а недавний правовой анализ того, как автономные агенты вписываются в эту структуру [180], подчеркивает нерешенные вопросы ответственности, возникающие, когда агент действует без участия человека. Общая проблема для обоих режимов заключается в том, что процедура одобрения была разработана для неизменного артефакта, тогда как саморазвивающийся агент меняется после развертывания, что является именно той причиной, по которой механизм Плана контроля заранее определенных изменений служит регуляторным стержнем для всей лестницы адаптации от SFT через self-play к самоэволюции (Раздел 6), и почему управление и самоэволюцию лучше всего понимать как два взгляда на одну и ту же проблему..

Конвейер начинается с восприятия, и здесь ограничивающим фактором является то, что большинство агентов оптимизированы для двумерной интерпретации, в то время как клинические данные по своей сути являются объемными и временными, поэтому агент, который преобразует объем компьютерной томографии в независимые срезы, отбрасывает именно ту пространственную непрерывность, от которой зависит радиолог [83, 168, 56]. Более глубокая причина, по которой это является «узким местом» уровня восприятия, а не просто неудобством данных, заключается в токенизации, поскольку наивное расширение двумерных токенизаторов до трех измерений увеличивает длину последовательности сверх любого допустимого бюджета вывода, что является именно той проблемой, на которую нацелен BTB3D [83] для медицинских VLM. CT-Agent [168] и конвейер Agentic Neuro-Radiology, не требующий обучения [56], показывают, что оркестрация может частично компенсировать это за счет рассуждения над объемом посредством последовательных вызовов инструментов, а не единовременного поглощения, а 3MDBench [236] предоставляет структуру оценки, необходимую для того, чтобы отличить подлинную объемную компетентность от двумерных эвристик, замаскированных под трехмерное рассуждение. Устойчивость восприятия при сдвиге распределения усугубляет разрыв, поскольку агент, который хорошо воспринимает данные на одном сканере, может незаметно деградировать на другом — хрупкость, количественно оцененная RobustMedCLIP [98] и состязательным анализом медицинских vision-language models [20], которые в совокупности определяют искажения и атаки как первостепенные риски восприятия, а не как граничные случаи..

Как только агент осуществляет восприятие, он должен рассуждать, и основной сбой на этом уровне — галлюцинации, то есть генерация правдоподобного, но фактически неверного контента, который агентный цикл превращает из сиюминутной ошибки в совершенное действие [103, 145, 190, 326]. Опасность заключается не в случайной ошибке, а в уверенной и проверяемой ошибке в формате, неотличимом от корректного отчета, поэтому исследовательский вопрос состоит не столько в том, как устранить галлюцинации, сколько в том, как сделать каждое утверждение прослеживаемым до проверяемых доказательств. Визуальные галлюцинации, при которых агент сообщает о находках, отсутствующих на изображении, находятся на границе восприятия и рассуждения, и их лучше всего минимизировать путем привязки каждого утверждения к пространственному референту, чтобы неподтвержденному заявлению негде было спрятаться [19, 181, 145]; VALOR [19] реализует это путем привязки выходных данных к конкретным областям изображения, в то время как MedHallu [190] и MedHallBench [326] предоставляют бенчмарки, без которых невозможно измерить любое сокращение [ошибок]. Контринтуитивный результат Kim et al. [117] заключается в том, что модели общего назначения превосходят специализированные медицинские модели в генерации без галлюцинаций, $76.6\%$ против $51.3\%$, что предполагает, что широта предварительного обучения обеспечивает фактическую базу, которую узкая настройка может разрушить. Галлюцинации рассуждения, более тонкое построение логически связной, но фактически необоснованной цепочки, опаснее, поскольку их беглость подавляет подозрения [50, 187]; Med-VCD [164] борется с ними на этапе декодирования посредством визуального контрастивного декодирования, а более широкий портфель включает явное обоснование [71, 163], генерацию с дополнением поиском, которая заменяет запоминание проверяемым извлечением данных [268, 177, 112], и мультиагентную верификацию, при которой независимые агенты должны прийти к согласию, прежде чем будет вынесено заключение [115, 78, 55].

Когда рассуждение распределено между агентами, сотрудничество, обеспечивающее проверяемость, порождает режим сбоя, отсутствующий в монолитных моделях, — каскад, при котором ошибка одного агента становится доверенным входным данным для другого и накапливается вдоль конвейера до тех пор, пока конечный результат не перестает соответствовать компетенции любого отдельного агента [80, 225, 116]. Структурный урок заключается в том, что устойчивость является функцией топологии, а не индивидуальной точности, поэтому обнаружение ошибок, шаблоны автоматических выключателей и избыточные пути стали объектами первого класса [78, 138]. MedSentry [31] делает это наглядным, показывая, что топологии с общим пулом наиболее уязвимы для каскадов, тогда как децентрализованные архитектуры поглощают локальные ошибки до того, как они распространятся, а Ghafoor et al. [73] демонстрируют, что структурированная экспертная оценка между агентами приводит к $89\%$ сокращению этических нарушений, что является доказательством того, что средством от мультиагентной патологии часто является большая, а не меньшая мультиагентная структура. Надежность при сдвиге распределения количественно оценивается с помощью бенчмарка CARES [266], который выявляет парадоксальный режим, в котором модели одновременно чрезмерно отклоняют доброкачественные запросы и пропускают тонкие состязательные джейлбрейки, а состязательная поверхность отображается Ekram [54], чья таксономия красных команд из восьми категорий обнаруживает, что формулировка «Образовательный авторитет» обходит защитные барьеры в $83.3\%$ случаев, — цифра, которая аргументирует в пользу безопасности, основанной на контексте, а не на ключевых словах, убедительнее любого абстрактного утверждения.

Даже проницательный, надежный и хорошо скоординированный агент сталкивается с уровнем развертывания, где основной валютой являются задержка и стоимость, и здесь агентное рассуждение по своей сути является дорогостоящим, поскольку каждый дополнительный вызов инструмента, этап верификации и раунд поиска приумножают и то, и другое, что в экстренном рабочем процессе является не вопросом удобства, а барьером для развертывания [243, 228, 101]. Поэтому передовой край объединяет дистилляцию моделей и эффективный инференс [243] с небольшими моделями, специализированными на вызове инструментов [101], и с адаптивными вычислениями, которые тратят больше ресурсов на рассуждения только в тех случаях, когда это оправдано [228, 209]; объединяющий принцип заключается в том, что вычислительные затраты должны соответствовать сложности случая, а не распределяться равномерно, что является аналогом аргумента о масштабировании, разработанного ранее, применительно к времени инференса. Развертывание также обнажает пробел в оценке, поскольку точность финального ответа ничего не говорит о том, был ли процесс рассуждения, приведший к нему, обоснованным, и недавние агентные бенчмарки, такие как MedAgentBench [105] и AgentClinic [211], переосмысливают оценку вокруг использования инструментов и последовательного принятия решений в реалистичных клинических условиях, а не изолированного QA, делая оценку на уровне процесса необходимым условием для доверия, а не второстепенной задачей..

Последний уровень — это управление, где вопрос заключается уже не в том, работает ли агент, а в том, может ли общество привлечь его к ответственности, причем три проблемы здесь тесно связаны, а не разделимы. Справедливость находится под угрозой, поскольку агент наследует и может усиливать предвзятость, скрытую в данных для обучения, поэтому система, точная в среднем, может быть систематически хуже для недостаточно представленных групп — неравенство, которое совокупные метрики скрывают по своей сути [214, 182, 28, 271]. Конфиденциальность находится под напряжением, поскольку агентная парадигма расширяет поверхность атаки, так как каждая граница инструмента и сообщение между агентами являются местом, где могут произойти утечки конфиденциальных данных [111, 179, 201]; аудиты безопасности MCP [201] каталогизируют конкретные риски при взаимодействиях через инструменты, FRAME [179] использует федеративное обучение, чтобы данные никогда не покидали пределы учреждения, а Rempe et al. [203] обеспечивают готовую к промышленному использованию деидентификацию метаданных DICOM и содержимого пикселей. Ответственность остается нерешенной, поскольку автономность нарушает привычную цепочку подотчетности, и когда агент действует без участия человека, остается неясным, на ком лежит ответственность — вопрос, на который текущие правовые базы не были рассчитаны [167, 186, 193], и который напрямую связывает этот уровень с парадигмой саморазвивающегося обучения из раздела 6.6 и регуляторными путями, обсуждаемыми в разделе 8.3⟧.

Пять уровней, описанных выше, не являются тупиковыми, а представляют собой программу исследований, которую мы структурируем по временному горизонту в Таблице 4 и на Рис. 9, чтобы краткосрочные, среднесрочные и долгосрочные усилия воспринимались как единая траектория, а не как список пожеланий. В краткосрочной перспективе приоритетом является обеспечение измеримости и безопасности прогресса посредством стандартизированной оценки процессов рассуждения [105], обнаружения галлюцинаций в режиме реального времени [190], принципиального масштабирования среды экосистемы инструментов [62] и интерфейсов агентов для клиницистов, которые делают сотрудничество эффективным, а не обременительным [273]. В среднесрочной перспективе акцент смещается с устранения ограничений на развитие нативных возможностей: создание волюметрических агентов на основе эффективной 3D и 4D токенизации [83], лонгитюдное моделирование на длительных временных шкалах пациентов [293], федеративные агенты, обучающиеся на разных площадках без централизации данных [179], и регуляторная зрелость, необходимая для сертификации многошаговых рассуждений [167]. Долгосрочная перспектива предполагает создание агентов, действующих в реальном мире, включая воплощенную и управляемую изображениями роботизированную интеграцию [82], автономный скрининг на уровне популяции [127], мультиомическую прецизионную медицину [175] и саморазвивающиеся экосистемы, которые непрерывно совершенствуются после развертывания [58], замыкая цикл обратно к саморазвитию, которое в данном обзоре рассматривалось как центральная возможность и центральная проблема управления..

Стандартизированные протоколы оценки. Текущие бенчмарки в основном оценивают возможности отдельных моделей, а не сквозные агентные рабочие процессы, включая оркестрацию инструментов, многошаговое рассуждение и восстановление после ошибок. Разработка консенсусных протоколов оценки, которые учитывают эти специфические для агентов аспекты, является насущной потребностью. Ранние попытки, такие как MedAgentBench [105], предоставляют первоначальные структуры, но стандартизация в масштабах сообщества остается открытой задачей..

Надежное обнаружение галлюцинаций. Внедрение практических методов обнаружения галлюцинаций в качестве уровня безопасности внутри конвейеров агентов имеет решающее значение перед их клиническим применением. Это может включать проверку визуального обоснования, которая подтверждает, подкреплены ли сгенерированные выводы конкретными областями изображения, а также проверку согласованности рассуждений на промежуточных этапах работы агента..

Масштабирование среды для медицинских агентов. Систематическое расширение сред клинических инструментов, доступных агентам, посредством стандартизированных профилей MCP и комплексных реестров инструментов представляет собой перспективную стратегию ближайшего будущего для улучшения возможностей без переобучения. Первоначальные работы по проектированию среды инструментов [230] показывают, что это направление технически осуществимо в рамках существующей инфраструктуры..

Дизайн взаимодействия человека и агента. То, как агенты должны представлять диагностическую неопределенность, запрашивать уточнения и учитывать обратную связь от клинициста, остается недостаточно изученным. Исследования парадигм взаимодействия, которые балансируют автономность агента с надзором со стороны клинициста, вероятно, определят практическое внедрение кооперативных (уровень 2) систем..

Нативные 3D и 4D агентные архитектуры. Большинство современных агентов обрабатывают объемные данные послойно или через 2D-проекции, теряя пространственный и временной контекст. Разработка агентов с нативным объемным и временным восприятием, способных рассуждать непосредственно над 3D CT/MRI объемами и продольными 4D последовательностями, лучше соответствовала бы тому, как радиологи интерпретируют сложные исследования..

Продольное моделирование пациентов. Клиническая диагностика часто зависит от сравнения с предыдущими исследованиями. Агенты, способные поддерживать комплексные модели пациентов, охватывающие несколько временных точек визуализации, интегрирующие изменения в результатах, реакциях на лечение и траекториях заболеваний, могут существенно повысить точность диагностики прогрессирующих и хронических состояний..

Мультиинституциональные федеративные агенты. Обучение агентов в нескольких учреждениях при сохранении конфиденциальности пациентов остается фундаментальной проблемой. Подходы федеративного обучения, адаптированные для обучения агентов, при которых опыт и конфигурации инструментов могут быть разделены без централизации данных пациентов, могут обеспечить более широкую генерализацию..

Созревание нормативно-правовой базы. Существующие правила для медицинских изделий были разработаны для статического программного обеспечения. Нормативные базы, учитывающие динамическую, многоэтапную природу агентных систем и их способность вызывать инструменты, включая проверку цепочек рассуждений и безопасность последовательностей инструментов, будут иметь решающее значение для клинического внедрения в широких масштабах..

Комплексное масштабирование среды. По мере того как институциональные экосистемы инструментов расширяются, охватывая сотни или тысячи специализированных моделей и источников данных, механизмы автоматизированного обеспечения качества инструментов, динамического обнаружения инструментов и корректного снижения функциональности при сбоях инструментов будут становиться все более важными..

Воплощенные медицинские агенты. Интеграция медицинских агентов с роботизированными системами может обеспечить вмешательства под визуальным контролем с обратной связью, при которых агент непрерывно интерпретирует интраоперационные изображения и корректирует траектории хирургических инструментов в режиме реального времени. Это требует достижений как в области вывода в реальном времени, так и в области критически важного для безопасности управления..

Автономные системы скрининга. Полностью автономные (уровень 3) агенты для скрининга на популяционном уровне, где система независимо проводит сортировку, диагностику и маршрутизацию пациентов при минимальном контроле со стороны человека, могут стать осуществимыми по мере совершенствования надежности и нормативно-правовой базы. Такие системы могут существенно расширить доступ к интерпретации изображений экспертного уровня в условиях ограниченных ресурсов..

Интеграция прецизионной медицины. Глубокая интеграция медицинских агентов с геномными, протеомными и лонгитюдными клиническими данными может обеспечить по-настоящему персонализированные рекомендации по диагностике и лечению, которые учитывают индивидуальную биологию пациента, а не статистику на уровне популяции..

саморазвивающиеся агентные экосистемы. В долгосрочной перспективе мы ожидаем появления агентных экосистем, которые непрерывно совершенствуются за счет накопленного клинического опыта, формируя институциональные базы знаний и адаптируясь к меняющимся паттернам заболеваний, новым методам визуализации и обновленным клиническим рекомендациям без необходимости явного дообучения.