헬스케어에서의 Agentic AI: 응용 및 모범 사례

Source: Dev.to

Introduction

Agentic AI는 인간을 대신해 목표‑지향적인 행동을 독립적으로 수행할 수 있는 인공지능 시스템을 말합니다. 의료 분야에서 Agentic AI는 워크플로를 사전에 시작하고, 치료를 조정하며, 인간의 감독 하에 일상적인 작업을 자동으로 실행함으로써 결과를 개선하고 효율성을 높이며 임상 의사결정을 보조할 것으로 기대됩니다.

본 기사에서는 현재 의료 분야에서 Agentic AI가 의미하는 바를 살펴보고, 잠재적 적용 사례를 탐색하며, 이점과 위험을 비교하고, 임상의, 관리자, 정책 입안자를 위한 실질적인 구현 가이드와 모범 사례를 제시합니다.

What is Agentic AI?

Definition: Agentic AI는 환경을 인식하고, 목표와 제약 조건에 기반해 결정을 내리며, 다양한 수준의 자율성을 가지고 목표를 달성하기 위해 행동하는 시스템입니다.

Contrast with assistive AI: 전통적인 보조형 AI는 권고(예: 위험 점수, 이미지 분류)에 초점을 맞춥니다. Agentic AI는 여기에 더해 행동을 시작하고 수행합니다(예: 검사 일정 잡기, 워크플로 조정, 환자 트리아지) – 이는 완전 자율이거나 최소한의 인간 감독 하에서 이루어집니다.

Degrees of agency: 낮은 수준(일상 업무의 자동화)부터 높은 수준(학습 및 자체 계획을 포함한 복합 의사결정)까지 다양합니다. 의료에서는 대부분 안전한 배포를 위해 제한적이고 감사 가능한 자율성을 선호합니다.

Potential Applications in Healthcare

• Care coordination: 에이전트가 EHR 모듈, 병원, 외래 서비스 간에 소통하면서 추적, 의뢰, 퇴원 계획을 자동으로 조정합니다.
• Clinical workflow automation: 표준 경로에 따른 실험실 패널 주문, 사전 승인, 문서 템플릿 작성 등을 자동화하여 임상의 행정 부담을 줄입니다.
• Patient triage and routing: 증상, 위험 요인, 활력징후를 수집해 환자를 적절한 진료 수준(원격진료, 응급실, 응급진료)으로 안내하고, 필요 시 에스컬레이션 알림을 트리거합니다.
• Medication management: 약물 목록을 조정하고, 상호작용을 감지하며, 임상의 승인을 전제로 약물 조정 제안 또는 일정을 잡습니다.
• Remote monitoring and interventions: 웨어러블 및 가정 모니터링 데이터를 해석해 만성질환 관리에 필요한 개입(알림, 원격 상담, 약물 변경)을 자동으로 트리거합니다.
• Clinical trial matching & recruitment: 환자 기록을 지속적으로 스캔해 적합한 환자를 식별·연락하고, 허용되는 경우 동의 절차를 처리합니다.
• Operational optimization: 병상 수요 예측, 인력 배치 최적화, 공급망 보충 관리 등을 수행하는 자원 할당 에이전트.

Benefits

• Improved efficiency: 반복 작업에 소요되는 임상의 시간을 감소시키고 행정 워크플로를 가속화합니다.
• Faster response times: 실시간 모니터링 및 자동 트리아지를 통해 급성 사건에 대한 개입 시간을 단축합니다.
• Consistency and scalability: 에이전트는 표준화된 프로토콜을 일관되게 적용하며 부서·기관 전반에 걸쳐 확장할 수 있습니다.
• Augmented decision‑making: 다중 모달 데이터를 신속히 종합·활용함으로써 근거 기반 치료 경로 준수를 향상시킵니다.

Risks and Ethical Considerations

• Safety risks: 치료 개시와 같은 자율 행동은 에이전트 오류나 상황 인지 부족 시 환자 안전 위험을 초래할 수 있습니다.
• Transparency and explainability: 임상의와 환자는 에이전트가 왜 특정 행동을 했는지 이해해야 하며, 불투명한 행동은 신뢰를 저해하고 책임성을 복잡하게 만듭니다.
• Data privacy and security: 민감한 건강 데이터에 접근·활용하는 에이전트는 공격 표면을 확대하므로 강력한 보호 조치가 필요합니다.
• Bias and fairness: 과거 데이터를 기반으로 학습한 에이전트는 기존 불균형을 지속시킬 수 있으므로, 하위 그룹별 평가가 필수적입니다.
• Liability and accountability: 에이전트가 수행한 행동에 대한 책임(벤더, 의료기관, 임상의) 소재를 규정하는 것은 법적·윤리적으로 복잡합니다.
• Patient autonomy: 에이전트가 공유 의사결정을 저해하지 않도록 해야 하며, 환자는 자신에게 적용되는 개입에 대해 충분히 정보를 얻고 선택할 권리를 유지해야 합니다.

Regulatory and Governance Landscape

• Regulatory classification: 많은 에이전트 기능이 자율성 정도와 관할 구역에 따라 의료기기 또는 임상 의사결정 지원 도구로 분류될 수 있습니다. 규제 기관과 조기에 협의하십시오.
• Clinical governance: 임상의, 기술 전문가, 윤리학자, 환자 대표가 포함된 감독 위원회를 구성해 에이전트 행동, 지표, 에스컬레이션 절차를 평가합니다.
• Auditability: 에이전트의 결정 및 행동에 대한 불변 로그를 유지해 검토, 사고 조사, 지속적 개선에 활용합니다.
• Human‑in‑the‑loop vs. human‑on‑the‑loop: 인간 승인(하드 스톱)이 필요한 경우와 인간 모니터링(소프트 오버사이트)만으로 충분한 경우를 명확히 구분합니다. 대부분의 배포는 인간‑인‑루프(Human‑in‑the‑loop)부터 시작해야 합니다.

Implementation Considerations

• Scope and constraints: 초기 배포는 위험도가 낮고 가치가 높은 작업(예: 일정 관리, 문서 자동화)으로 제한하고, 안전성 근거가 축적됨에 따라 점진적으로 확대합니다.
• Interoperability: 에이전트는 EHR, 일정 시스템, 메신저, 디바이스 데이터 스트림과 보안적으로 연동되어야 하며, 표준(FHIR, HL7, DICOM 등)을 활용합니다.
• Testing and validation: 과거 데이터 시뮬레이션, 실시간 섀도우 모드 평가, 제한된 파일럿을 거쳐 전체 자동화에 앞서 검증합니다.
• Monitoring and metrics: 안전(근접 실패, 부작용), 임상 효과(결과, 가이드라인 준수), 운영 지표(시간 절감, 업무량 변화)를 추적합니다.
• Fallbacks and human overrides: 신뢰할 수 있는 대체 동작을 설계하고, 임상의가 에이전트 행동을 쉽게 중단·제어할 수 있도록 합니다.
• User experience: 명확하고 상황에 맞는 알림을 제공하고, 수행된 행동에 대한 근거를 손쉽게 확인할 수 있게 합니다.

Case Studies & Example Scenarios

• Automated discharge planning agent (pilot): 에이전트가 퇴원 체크리스트를 작성하고, 추적 진료 일정을 잡으며, 약국에 알림을 보냅니다. 섀도우 모드에서 시작해 임상의 서명 후 운영되었으며, 재입원 관련 행정 지연을 감소시켰습니다.
• Remote heart failure monitoring agent: 가정 체중 및 증상 데이터를 처리해 간호사 연락 및 약물 조정 제안을 트리거합니다. 초기 시험에서는 적절히 조정된 알림이 응급실 방문을 감소시키는 것으로 나타났습니다.
• Operational staffing agent: 급증 기간을 예측하고 임시 재배치를 제안합니다. 임상의 감독과 결합했을 때 초과근무가 감소하고 인력 배치 균형이 개선되었습니다.

Best Practices

• Start small and measurable: 명확한 성공 기준과 안전 임계값을 설정한 파일럿을 진행합니다.
• Design for explainability: 모든 행동에 대해 의사결정 논리, 신뢰도 수준, 근거 데이터를 표시합니다.
• Maintain human agency: 임상의가 임상 판단을 내릴 수 있도록 통제권을 유지하고, 환자는 자율 행동에 대해 옵트아웃할 수 있어야 합니다.
• Continuous evaluation: 인구 집단별·시간 경과에 따른 성능, 공정성, 안전성을 지속적으로 모니터링하고, 주기적으로 에이전트를 재학습·재조정합니다.
• Multidisciplinary oversight: 윤리, 법률, 사이버보안, 환자 옹호자를 포함한 다학제 팀이 거버넌스에 참여하도록 합니다.
• Robust consent models: 에이전트가 환자와 직접 상호작용할 경우, 에이전트의 역할과 한계를 설명하는 충분한 사전 동의를 확보합니다.