Распределённое познание для удалённых операций с поддержкой ИИ: проблемы и направления исследований

Аннотация.

Данная работа исследует влияние интеграции искусственного интеллекта на удалённые операции, уделяя особое внимание его воздействию на распределённое и командное познание. Поскольку удалённые операции всё больше зависят от цифровых интерфейсов, сенсоров и сетевой коммуникации, системы на основе ИИ трансформируют процессы принятия решений в таких областях, как управление воздушным движением, промышленная автоматизация и интеллектуальные порты. Однако интеграция ИИ создаёт значительные проблемы, включая перестройку командного познания в системах "человек–ИИ", необходимость адаптивной памяти ИИ, согласованной с человеческим распределённым познанием, и проектирование операторов резервного переключения ИИ для обеспечения непрерывности работы при нарушениях связи. Опираясь на теории распределённого и командного познания, мы анализируем, как когнитивная перегрузка, потеря осведомлённости о ситуации и ухудшение координации в команде могут возникать в средах с поддержкой ИИ. На основе реальных сценариев интеллектуальных портов предлагаются направления исследований, направленные на защиту человеческого мышления и улучшение совместного принятия решений в удалённых операциях, усиленных ИИ..

1. Введение

Внедрение искусственного интеллекта (ИИ) в дистанционные операции окажет значительное влияние на когнитивные процессы операторов. (Zhang et al., 2019; Veitch and Andreas Alsos, 2022). Удалённое управление означает процесс мониторинга, контроля или наблюдения за системами, механизмами или средами на расстоянии с использованием удалённых пользовательских интерфейсов. (Gafert et al., 2022; Tener and Lanir, 2022), датчики, сенсоры и технологии сетевой коммуникации (Sanders, 2006). Эти операции зависят от визуализации информации в реальном времени для поддержки операторов в сложных сценариях принятия решений. Удалённые операции широко применяются в областях, где непосредственное физическое присутствие нецелесообразно, затратно или опасно. (Cra, 2011). Примерами являются управление воздушным движением (Gawade and Zhang, 2016), промышленная автоматизация (De Alwis and Nam, 2024), и управление критической инфраструктурой. Хотя решения на основе ИИ могут повысить эффективность в этих областях, они также способны привести к непредвиденным последствиям. В данном случае усиленная зависимость от ИИ может оказать глубокое влияние на когнитивные функции операторов, например, на то, как операторы распределяют когнитивные ресурсы для себя. (Hollan et al., 2000; Hutchins, 1995a) и как это влияет на когнитивные процессы операторов в командной работе (MacMillan et al., 2004).

Современные сценарии удаленной работы и телеуправления часто демонстрируют распределенное познание, при котором когнитивные процессы распределены между операторами-людьми и инструментами в окружающей среде. (Hollan et al., 2000), и теперь также системы ИИ. В то же время командное познание, определяемое как общее знание, ментальные модели и обработка информации для координации команды, становится критическим фактором. Иными словами, коллективное когнитивное состояние команды — это не просто сумма индивидов, а продукт коммуникации и координации, который формирует общее понимание задач и ситуаций. (Canonico et al., 2019; Wester et al., 2024). Однако внедрение ИИ в такие команды при удаленной работе также создает проблемы. Предыдущие исследования, например, выявили риски когнитивной перегрузки, поскольку люди вынуждены управлять сложной информацией и оповещениями, генерируемыми ИИ, а также потери осведомленности о ситуации, когда автоматизация выполняет задачи вне поля зрения. (Rebensky et al., 2022). В свою очередь, динамика команды может ухудшиться, когда ИИ-агенты действуют без (эффективной) коммуникации своих намерений, что может затруднить поддержание общего понимания среди человеческих членов команды и привести к ухудшению координации. (Liang et al., 2019). Эти проблемы требуют переосмысления когнитивных систем поддержки с решениями, которые не только интегрируют ИИ в расширенные рабочие процессы, но и активно защищают ситуационную осведомленность человека и сплоченность команды, преобразуя удаленные операции в среды, где технологии и человеческая экспертиза работают в унисон..

В данной статье мы рассматриваем влияние интеграции искусственного интеллекта (ИИ) в удаленные операции и связанные с этим вызовы для распределенного познания среди операторов и командного познания в условиях коллаборации человека и ИИ. Опираясь на теории распределенного и командного познания, мы выделяем три ключевые проблемные области, возникающие в удаленных операциях с поддержкой ИИ: (1) реконфигурация командного познания в командах "человек–ИИ", (2) адаптация памяти ИИ для согласования с распределенным познанием человека и (3) использование ИИ в качестве резервного оператора при нарушениях связи. Для каждой проблемной области мы описываем соответствующие вызовы. Чтобы проиллюстрировать эти вызовы в реальных условиях, мы фокусируемся на интеллектуальных портах, демонстрируя, как принятие решений на основе ИИ может влиять на координацию, структуры памяти и устойчивость в удаленных средах. На основе этих наблюдений мы предлагаем конкретные направления исследований, направленные на поддержку и защиту человеческого мышления в рабочих процессах, дополненных ИИ, гарантируя, что ИИ усиливает, а не нарушает когнитивные процессы в удаленных операциях..

2. Связанные работы

Распределённое познание — это теоретическая концепция, расширяющая традиционное представление о познании за пределы индивидуального сознания, включая взаимодействия между людьми, артефактами и окружающей средой. Hutchins (Hutchins, 1995a, b) этот концепт был введен в ходе исследований судовождения и работы кабины экипажа, где утверждается, что когнитивные процессы распределены между множеством модулей памяти и обработки, включая как человеческие, так и нечеловеческие компоненты. В таких условиях знания хранятся не только внутри индивидов, но и экстернализированы в артефактах, таких как карты, судовые журналы и приборы, что обеспечивает координацию и принятие решений. (Rogers, 2005). Данная перспектива смещает акцент с изолированных когнитивных процессов на более широкую систему взаимозависимых элементов, работающих совместно для достижения целей, таких как управление судном или пилотирование самолета. (Hutchins, 1995b). DC выделяет три ключевых аспекта распределённой обработки информации: как знания представлены и разделяются, как происходит коммуникация в процессе развёртывания деятельности и как достигается координация между распределёнными единицами. (Perry, 2003). Например, в Hutchins’ (Hutchins, 1995a) анализ судовождения, он описывает, как один работник фиксирует позиционную информацию в судовом журнале, которая затем интерпретируется членом команды, перенастраивающим навигационные инструменты. Координация этих индивидуальных вкладов позволяет системе в целом функционировать эффективно. Рассматривая познание как социально-технический процесс, встроенный в динамические взаимодействия, DC предоставляет инструмент для анализа того, как индивиды, команды и артефакты совместно решают сложные задачи..

В совместных средах часто используется термин коллективное познание. (McNeese, 2020), который исследует, как группы людей совместно управляют и обрабатывают информацию для достижения общих целей (MacMillan et al., 2004). Команды, работающие в динамичных условиях с высокими рисками, таких как экстренное реагирование, авиация или удалённые операции, зависят от эффективного обмена информацией, координации и разделяемых ментальных моделей для успешного функционирования. (MacMillan et al., 2004; Entin and Serfaty, 1999). Ключевым понятием в коллективном познании является неявная координация, при которой участники команды предвосхищают потребности и действия друг друга без необходимости явной коммуникации. (MacMillan et al., 2004; Serfaty et al., 1993). Такое предвосхищение снижает накладные расходы на коммуникацию, позволяя членам команды сосредоточиться на выполнении задач, а не на постоянном согласовании ролей и обязанностей. (MacMillan et al., 2004). Неявная координация особенно полезна в условиях ограниченного времени, когда избыточная коммуникация увеличивает когнитивную нагрузку и замедляет принятие решений. (MacMillan et al., 2004). Разделяемые ментальные модели играют ключевую роль в этом процессе, позволяя членам команды выработать общее понимание своих задач, ролей и ожидаемого поведения. (Entin and Serfaty, 1999), а также задачи других членов команды. Эти модели помогают индивидуумам предсказывать действия своих коллег и корректировать собственное поведение соответствующим образом, улучшая синхронизацию и снижая количество недопониманий. (Endsley, 1995). Ситуационная осведомленность дополнительно поддерживает командное познание, обеспечивая информированность участников об изменяющемся контексте их работы, что позволяет им адекватно реагировать на неожиданные изменения. (Endsley, 1995; Entin and Serfaty, 1999). В распределенных командах, особенно в удаленных или виртуальных операциях, поддержание этих когнитивных механизмов становится более сложным из-за зависимости от опосредованной коммуникации и асинхронного сотрудничества. Тем не менее, применение подхода распределенного познания к командной работе позволяет рассматривать, как когнитивные процессы выходят за рамки отдельных участников и охватывают коллективные, технологически опосредованные рабочие процессы..

3. Области проблем в удалённых операциях с поддержкой ИИ

Искусственный интеллект (ИИ) все чаще выступает в качестве инструмента принятия решений или поддержки решений, формируя рабочие процессы, адаптируясь к изменениям и функционируя с минимальным вмешательством человека в удаленных операциях. Этот сдвиг ставит под сомнение традиционные модели командного познания, поднимая важные вопросы о том, как операторы могут взаимодействовать с ИИ в удаленных операциях. Как для распределенного познания, так и для командного познания, ИИ (с различными уровнями автономности) повлияет на то, как индивиды и команды принимают решения, как память, распределенная между несколькими сущностями, может влиять на операции, а также как решения, принятые в условиях сбоев коммуникации, могут воздействовать на распределенное познание. Используя интеллектуальные порты в качестве кейс-стади, следующие разделы исследуют ключевые проблемы человеко-компьютерного взаимодействия (HCI) и направления исследований для проектирования ИИ, интегрируемого как в индивидуальное, так и в командное принятие решений..

3.1. Реконфигурация когнитивного взаимодействия в командах "человек–ИИ"

Удаленные операции основываются на распределенном познании, при котором человеческие команды координируют действия на расстоянии с использованием цифровых средств коммуникации. (Xisong et al., 2013; Wu et al., 2013), автоматизированные системы (Yao et al., 2021), и принятие решений с поддержкой ИИ (Lam and Dai, 2012). Традиционно искусственный интеллект рассматривался как инструмент, помогающий в принятии решений человеком и оптимизирующий процессы под его контролем. Однако по мере усложнения удалённых операций ИИ начинает действовать как более автономный агент, принимая решения в средах, где непосредственный контроль человека не всегда возможен. Это ставит под сомнение традиционные модели командного познания, предполагающие, что люди являются основными агентами, ответственными за координацию и принятие решений. Когда системы ИИ функционируют независимо в удалённых средах, возникают новые проблемы взаимодействия..

Интеллектуальные порты служат примером этих проблем, поскольку они зависят от систем планирования и расписания на основе ИИ для управления судоходством, логистикой грузов и прогнозирующим обслуживанием. (Tang, 2019). В отличие от традиционных портов, где человеческие операторы непосредственно контролируют операции, интеллектуальные порты функционируют при сочетании человеческого надзора и полуавтономного принятия решений на основе ИИ. (De Alwis and Nam, 2024). При возникновении перегрузки (напр.., При одновременном прибытии нескольких судов из-за задержек, связанных с погодой, различные подсистемы должны согласованно корректировать графики швартовки, перенаправлять суда и распределять ресурсы. Однако если эти агенты функционируют как изолированные системы принятия решений без общей структуры взаимодействия, операторы-люди могут испытывать трудности с отслеживанием решений, принимаемых ИИ, или эффективным вмешательством при необходимости корректировок. (Jacobsen et al., 2020). Без четких механизмов коммуникации между ИИ и человеческими операторами последние могут быть вынуждены отменять решения ИИ на основе неполного понимания. Для решения этой проблемы исследования в области HCI должны переосмыслить, как команды "человек-ИИ" устанавливают и поддерживают когнитивное согласование..

Во-первых, исследования должны изучить, как искусственный интеллект может развивать коммуникативное присутствие — не только через обновления статуса, но и посредством активного взаимодействия, запросов обратной связи и решения задач в режиме реального времени. Это может включать использование ИИ разговорных интерфейсов, фоновых уведомлений или даже пространственных звуковых сигналов (как предполагается в домах (Jacobsen et al., 2024)) обеспечивать рассуждения ненавязчивым, но эффективным образом.

Во-вторых, современные исследования объяснимости ИИ часто сосредоточены на постфактумных обоснованиях, где ИИ объясняет, почему он принял решение после его выполнения. Однако в дистанционных операциях операторы-люди должны не только интерпретировать прошлые решения ИИ, но и осознавать и потенциально согласовывать его будущие действия. Мы предполагаем, что вместо простого назначения расписания стыковки в умном порту ИИ мог бы участвовать в облегченных переговорах с операторами на основе ограничений — адаптируя свой план с учетом экспертизы операторов и их осведомленности о текущей ситуации в реальном времени..

3.2. Адаптация памяти ИИ

Удаленные операции генерируют огромные объемы данных, требуя от команд фильтрации, приоритизации и адаптации информации к изменяющимся условиям. (Wimber et al., 2015; de Jong et al., 2024) (напр.., адаптивное забывание). В отличие от людей, которые естественным образом забывают нерелевантные детали и корректируют фокус внимания в зависимости от контекста, системы ИИ обычно сохраняют данные, потенциально рассматривая фрагменты информации как значимые. (Kaushik et al., 2021) (напр.., катастрофическое запоминание). Хотя всеобъемлющая память может казаться преимуществом, она способна привести к когнитивной перегрузке операторов-людей, устаревшему принятию решений и неэффективности, когда ИИ извлекает или действует на основе устаревшей информации. В динамичных средах, где удалённые операторы должны быстро реагировать на изменяющиеся условия, неспособность ИИ «забывать» может стать скорее недостатком, чем преимуществом. Таким образом, задача заключается не только в хранении памяти, но и в том, как ИИ динамически адаптирует то, что запоминает, забывает и приоритезирует для поддержания эффективного взаимодействия в удалённых командах..

Интеллектуальные порты служат примером этой проблемы, поскольку они зависят от мониторинга и координации на основе ИИ для оптимизации логистики, использования оборудования и перемещения судов. Со временем эти системы ИИ накапливают обширные записи о графиках швартовки судов, распределении кранов и перемещении грузов. (Valero et al., 2021). Хотя исторические данные ценны для анализа тенденций и прогнозирующего обслуживания, такой тип жесткого сохранения информации также может создавать неэффективность в принятии решений в реальном времени. Например, если ИИ умного порта продолжает приоритезировать кран на основе его прошлой надежности, не учитывая последние данные об износе или записи о техническом обслуживании, это может привести к неоптимальному распределению ресурсов, вызывая задержки и снижение эффективности. Без механизма адаптивного забывания (Wimber et al., 2015; Kaushik et al., 2021), Системы искусственного интеллекта рискуют перегрузить удалённых операторов чрезмерными оповещениями, необоснованными рекомендациями или ограничениями, которые больше не отражают текущую реальность в удалённых операциях. Для решения этой проблемы исследования в области человеко-компьютерного взаимодействия (HCI) должны рассматривать память ИИ как интерактивную, адаптивную и объяснимую..

Во-первых, человеческим операторам может быть сложно понять, почему ИИ извлекает определенную информацию или как прошлые решения влияют на будущие рекомендации. Перспективные инструменты совместной работы могут предоставить интерактивные интерфейсы для памяти ИИ, где пользователи смогут просматривать, запрашивать, редактировать или даже оспаривать воспоминания ИИ. (van Berkel et al., 2024).

Во-вторых, в отличие от людей, которые естественным образом фильтруют и забывают информацию на основе её релевантности, ИИ требует явных механизмов для определения приоритетов того, что следует сохранить, а что — отбросить. Исследования в области HCI должны изучить адаптивные механизмы, в которых ИИ динамически понижает приоритет, откладывает или удаляет информацию на основе операционного контекста и обратной связи от человека. Например, могут ли удалённые операторы получать “забывание предложений” от ИИ, побуждая их решить, должны ли определенные прошлые правила или шаблоны по-прежнему влиять на будущие действия?

В-третьих, память — это не только проблема ИИ, но и общий когнитивный ресурс. Исследования должны изучать совместные пространства памяти человека и ИИ, где как операторы-люди, так и ИИ могут совместно формировать, уточнять и адаптировать общую операционную историю. Например, в умных портах ИИ может поддерживать динамическую графовую базу знаний о прошлых сбоях, вмешательствах и корректировках операторов, позволяя людям аннотировать, исправлять или маркировать информацию для будущего использования ИИ..

3.3. ИИ как оператор резервного копирования

Удаленные операции в значительной степени зависят от стабильной цифровой инфраструктуры для поддержания координации между человеческими командами и системами на основе искусственного интеллекта. (Lind et al., 2015). Однако сбои в сети, кибератаки, экстремальные погодные условия или непредвиденные технические неисправности могут нарушить коммуникацию в реальном времени, оставляя удалённых операторов без возможности вмешательства в критических ситуациях. (Hou et al., 2023; Gao et al., 2023). Многие системы искусственного интеллекта обладают вспомогательным характером, то есть либо прекращают работу, ожидают повторного подключения человека, либо жестко следуют предварительно запрограммированным протоколам при возникновении сбоев. Это создает значительный операционный риск, поскольку при потере связи — кто или что обеспечивает непрерывность? В критически важных удаленных средах отсутствие адаптивного агентства ИИ может привести к каскадным сбоям, поскольку ИИ остается пассивным в моменты, когда требуется быстрое автономное принятие решений. Таким образом, актуальной задачей является проектирование ИИ, способного временно брать на себя ответственность, обеспечивая операционную непрерывность во время перерывов связи и способствуя плавному переходу обратно под человеческий контроль после восстановления соединения..

Интеллектуальные порты подчеркивают эту проблему, поскольку они полагаются на управляемые ИИ системы логистики для координации швартовки судов, обработки грузов и синхронизации цепочек поставок. Эти порты зависят от сложной сети взаимосвязанных интеллектуальных систем и удаленного человеческого контроля, что делает их уязвимыми к сбоям в сетевой координации. Представьте сценарий, когда несколько контейнеровозов направляются в интеллектуальный порт, а отказ связи изолирует ИИ порта от удаленных операторов. Если ИИ не обладает резервной автономией, он может либо приостановить швартовку судов, вызывая заторы и перерасход топлива, либо жестко следовать заранее заданному расписанию, не учитывая новые переменные, такие как ухудшение погоды или необходимость приоритетной швартовки для аварийного судна. Напротив, ИИ-система, способная временно взять управление на себя, могла бы перенастроить приоритеты швартовки, перенаправить суда или скоординировать работу локальных автономных систем, одновременно сигнализируя о степени неопределенности и ожидая повторного подключения операторов..

Во-первых, переход от операций под управлением человека к операциям под управлением ИИ не следует рассматривать как бинарный переключатель, а как постепенный интерактивный процесс. Исследования должны изучать не только то, как ИИ может сигнализировать об эскалации автономности, (напр.., когда он обнаруживает нарушение и берет управление на себя), но и то, как он подготавливает людей к повторному включению при восстановлении соединения.

Во-вторых, если ИИ должен принимать решения в отсутствие человеческого ввода, он также должен сообщать, насколько уверен или неуверен в этих решениях после восстановления связи. Исследования могут изучить, как ИИ выражает собственные уровни уверенности, отмечая моменты, когда его резервная автономия работает с неполными или неоднозначными данными. Например, в интеллектуальном порту ИИ может автономно перенаправить судно, но сигнализировать о неопределенности из-за отсутствия данных о погоде, побуждая оператора-человека проверить решение после восстановления связи..

В-третьих, продолжая в том же ключе, после возвращения контроля к человеку-оператору критически важно понимать, какие действия система выполняла в его отсутствие, чтобы восстановить осознание ситуации. Исследования должны изучить, как ИИ может генерировать интерпретируемые интерактивные журналы автономной работы, позволяющие операторам анализировать, корректировать или отменять решения, принятые на основе ИИ..

4. Заключение

В заключение, интеграция искусственного интеллекта в удаленные операции представляет собой не просто технологическое усовершенствование, а фундаментальный сдвиг, переопределяющий распределение когнитивных процессов между операторами-людьми, системами ИИ и совместными командами. В нашем обсуждении выделены три ключевые области, требующие внимания: необходимость переконфигурации когниции в командах "человек–ИИ", сложности адаптации памяти ИИ к динамическим операционным контекстам и важность проектирования ИИ как надежного резервного оператора при нарушениях связи. На примере интеллектуальных портов мы продемонстрировали, как эти проблемы проявляются в реальных условиях, где потенциальные преимущества принятия решений на основе ИИ необходимо балансировать с рисками для осведомленности о ситуации и координации команд. В дальнейшем исследования должны сосредоточиться на создании систем и интерфейсов, способствующих прозрачному, адаптивному и устойчивому взаимодействию человека и ИИ. Это позволит использовать эффективность и возможности принятия решений ИИ, сохраняя при этом когнитивные преимущества и координацию человеческих команд. В конечном итоге цель заключается в том, чтобы по мере интеграции ИИ в удаленные операции он усиливал, а не ослаблял распределенный и коллективный интеллект, лежащий в основе эффективных, безопасных и сложных операционных практик..