의료 분야에서 AI의 활용은 꾸준히 발전해왔다. 초기 AI는 주로 전문가 시스템의 형태였으나, 데이터 기반의 머신러닝(Machine Learning, ML)이 등장하면서 패러다임이 전환되었다. 전통적인 ML은 연구자가 직접 데이터에서 의미 있는 특징(feature)을 추출하여 모델을 학습시키는 방식인 반면 딥러닝(Deep learning, DL)은 인간의 신경망을 모방한 다층의 인공신경망을 사용하여, 컴퓨터가 방대한 양의 원시 데이터(raw data)로부터 직접 특징을 학습하고 패턴을 인식하게 한다.5) 특히 이미지 인식에 탁월한 성능을 보이는 합성곱 신경망(Convolutional Neural Networks, CNNs)의 발전은 의료 영상 분석 분야에 큰 변화를 이끌었다.6)

AI 기술은 최근 두경부암 임상 현장의 다양한 영역에서 적용이 시도되고 있다.

딥러닝 기반 AI모델은 CT, MRI, PET과 같은 의료 영상을 분석하여 종양을 탐지하고, 그 경계를 정밀하게 분할(segmentation)하며, 조직학적 특성을 예측하는 데 활용된다.7) 라디오믹스는 영상에서 인간의 눈으로는 식별할 수 없는 미세한 질감이나 패턴 특징을 정량적으로 추출하여 종양의 생물학적 특성을 예측하는 기술이다. 최근 연구에서 AI 모델은 HPV 관련 구인두암의 림프절 전이나 피막 외 침범(extranodal extension) 여부를 예측하는 과제에서 숙련된 영상의학과 전문의의 성능을 능가하는 결과를 보여주기도 했다.8)

머신러닝 모델은 환자의 임상 정보, 영상 데이터, 유전체 데이터 등 다중 모드(multi-modal) 데이터를 통합하여 생존율이나 재발 위험과 같은 예후를 예측한다.9) 이러한 모델은 고위험군 환자를 조기에 식별하여 보다 적극적인 치료나 추적 관찰 계획을 수립하는 데 도움을 줄 수 있다.10)

두경부암의 방사선치료는 복잡한 해부학적 구조 때문에 계획 수립 과정이 매우 노동 집약적이다.11) AI 알고리즘은 방사선으로부터 보호해야 할 정상 장기(Organs-at-Risk, OARs)의 윤곽을 자동으로 그려주는 자동 분할(auto-contouring) 기술에 활발히 적용되고 있다. 이는 수작업으로 1시간 이상 소요될 수 있는 두경부암 증례의 OAR 윤곽 설정 시간을 74-93분까지 단축시키고, 의료진 간의 편차를 줄여 치료 계획의 일관성과 효율성을 크게 향상시켰다.12)

이러한 종양학 분야에서 AI 기술의 발전은 특정 과제를 수행하는 도구를 넘어, 복잡한 의사결정 과정을 지원하는 방향으로 진화하고 있다. IBM Watson for Oncology (WfO)와 같은 초기 임상 의사결정 지원 시스템 (Clinical Decision Support System, CDSS)는 환자 데이터를 분석하여 NCCN과 같은 확립된 임상 지침과 발표된 문헌에 기반한 치료 옵션을 제시하는 것을 목표로 했다.13,14) 그러나, 이러한 시스템은 표준적인 증례에서는 유용할 수 있으나, 임상 지침에서 다루지 않는 복잡하거나 희귀한 증례에 대해서는 명확한 해답을 제공하기 어렵다. 실제 임상 현장에서의 인간 전문가 결정과의 일치도(concordance rate)는 약 60-70% 수준으로, 지침 기반 접근법만으로는 복잡한 임상적 뉘앙스를 모두 반영하기 어려울 수 있다.13)

이러한 한계는 단순히 정보를 검색하고 패턴을 인식하는 수준을 넘어, 종합적인 정보를 바탕으로 추론하고 논리적인 설명을 생성할 수 있는 차세대 AI, 즉 거대 언어 모델(LLM)의 필요성을 부각시켰다. LLM의 등장은 AI의 역할이 인지(cognition)와 추론(reasoning) 의 영역으로 확장되는 패러다임의 전환을 의미한다. 이는 AI가 단순히 데이터를 분석하는 도구를 넘어, MDT의 의사결정 과정 자체에 참여하는 도구가 될 수 있는 가능성을 보여주었다.

Pamuk 등은 후두암 환자를 대상으로 ChatGPT-4의 치료 제안과 실제 MDT의 결정을 비교한 최초의 연구를 보고하였다.15) 이 연구는 25명의 치료 전(untreated) 후두암 환자를 대상으로 진행되었으며, 각 환자의 의무기록을 기반으로 ChatGPT-4가 제시한 치료 방안을 MDT의 실제 결정과 비교하였다. ChatGPT-4가 제시한 치료 권고는 72%의 증례에서 MDT 결정과 완전히 일치(Grade 1)하였으며, 나머지 28%에서는 부분적 일치(Grade 2-3)를 보였다. 완전히 불일치한 사례(Grade 4)는 없었다. 비록 이 연구에 쓰인 모델의 한계로 치료 가이드라인의 최신성 검증, 근거 출처의 불명확성, 그리고 복잡한 임상 상황에서의 변별력 부족 등이 지적되었으나ChatGPT-4가 두경부암, 특히 후두암의 치료 방침 결정 과정에서 다학제적 의사결정을 보조할 수 있는 가능성을 보여준 중요한 초기 근거 연구라 할 수 있다. 최근 두경부암 증례를 대상으로 한 다른 연구에서는ChatGPT-4o와 Llama 3을 통한 의사 결정 과정과 실제 MDT 결과를 비교하였다.16) 두경부암의 치료 목적(완치 또는 고식)에 따른 치료 전략 결정에서는 각각 84%, 92%의 높은 일치도를 보였다. 그러나 구체적인 1차 치료 방법을 모두 정확히 식별한 비율은 60~64%에 그쳐, LLM이 치료의 전반적 방향성은 이해하더라도 세부 치료 계획 수립에는 여전히 한계가 있음을 보여주었다. 그러나, 기관 내 서버에서 독립적으로 구동 가능한 로컬 모델인 Llama 3가 웹 기반 ChatGPT-4o와 유사한 성능을 보였다는 점은, 환자 데이터 프라이버시를 보장하면서도 임상 의사결정 지원에 활용될 수 있는 가능성을 보여주었다. Lammert 등이 보고한Gemini Pro 모델을 기반으로, PubMed, 임상시험 데이터베이스, 치료 가이드라인 등 검증된 의료 데이터를 검색 증강 생성(Retrieval-Augmented Generation, RAG) 기술로 연동한 MEREDITH 시스템은 매우 높은 성능을 보였다.17) MEREDITH는 인간 전문가보다 더 많은 치료 옵션을 제시했으며, 전문가 의견과의 일치도는 94.7%에 달했다. 이는 LLM의 성능을 극대화하기 위해 도메인 특화 데이터와 전문가의 피드백이 결정적으로 중요하다는 것을 보여주었다. 최근, Ferber 등은GPT-4를 중심으로 병리⋅영상⋅유전체 정보를 통합 분석하는 특화 도구(MedSAM 영상 분할, Vision Transformer 기반 MSI⋅KRAS⋅BRAF 변이 예측, OncoKB⋅PubMed 연동 검색 등)를 결합하여, 복잡한 다중 모달 데이터를 해석하고 근거 기반의 치료 전략을 제시하였다.18) 20건의 실제 환자 시나리오 평가에서 기존 GPT-4 단독보다 정확도가 30.3%에서87.2%로 향상되었고, 임상 결론의 정확도는 91%, 근거 인용의 정확도는 75.5%에 달했다. 이러한 결과는 언어모델에 정밀의료 도구와 검색 기반 지식을 통합함으로써 실제 다학제적 의사결정을 모사할 수 있음을 보여주었다.

한편, 단일 에이전트 LLM은 환자 정보를 요약하고 가이드라인 기반의 치료법을 제안할 수는 있었지만, 실제 임상에서 만나게 되는 복잡한 증례에 대한 깊이 있는 분석이 부족하고, 때로는 전문가의 합의와 크게 벗어나는 제안을 하거나 일관성이 떨어지는 모습을 보였다.19) Schmidl등은 두경부암 MDT에서 ChatGPT-3.5와 4.0을 활용한 AI의 역할을 평가하였다.20) 원발성 두경부암 환자 20례를 대상으로, 환자 임상정보를 동일한 형식의 프롬프트로 두 버전의 ChatGPT에 입력하여 실제 MDT 권고안과 비교⋅평가하였다. ChatGPT-3.5는 주로 수술⋅방사선⋅항암치료 등 일반적 치료를 제시하였고, 4.0은 더 많은 치료 옵션을 제시하며 요약⋅설명⋅임상권고 항목에서 더 높은 점수를 받았다. 그러나 3.5는 근거 출처를 제시하지 못했고, 양 버전 모두 가이드라인에 없는 면역치료를 조기 병기에 권고하는 등 부정확한 제안을 포함하였다. 실제 MDT 결과와의 일치율은 수술치료 부분에서는90%로 높았으나, 개별 환자 상황을 반영한 맞춤 치료 결정 능력은 부족하였다.

이처럼 단일 LLM 접근법은 마치 모든 지식을 가진 단 한 명의 전문가가 의견을 제시하는 것과 같아, 여러 전문가가 각자의 관점에서 문제를 다각적으로 분석하고 토론하는 MDT 의사결정의 본질을 제대로 반영하지 못하는 한계가 있었다. 따라서 저자는 MDT의 본질에 더 가까운 다중 에이전트 기반의 LLM 모델을 이용한 AI 모델을 제안했다.21) 이 연구는 기존LLM이 MedQA와 같은 정형화된 질의응답(QA) 벤치마크에서는 높은 성능을 보이지만, 정답이 정해져 있지 않고 여러 타당한 치료 옵션이 가능한 실제 MDT의 개방적이고 복잡한 의사결정 환경에서 한계가 있다는 가정하에 시작되었다. 저자들은 단일 LLM을 사용하는 대신, 각각 두경부외과의사, 방사선종양학 전문의, 종양내과 전문의 등 특정 임상 역할을 부여받은 여러 ‘LLM 에이전트’로 구성된 팀을 설계했다. 이 에이전트들은 실제MDT의 토론 과정을 모방하여, 정해진 구조에 따라 서로의 의견을 교환하고 토론하며 최종 합의에 이르도록 프로그래밍되었다(Fig. 1). 이는 역할 전문화된 에이전트의 효과를 입증한 MDAgents와 같은 선행 연구를 실제 임상 의사결정 문제로 적용한 것이다.22) 이 연구에서 다중 에이전트, 대화 기반 시스템은 단일 에이전트 LLM 접근법에 비해 실제 인간 MDT의 합의 기반 결정과 훨씬 더 높은 일치도를 보였다. 이러한 결과의 메커니즘은 우선 추론 경로의 다양성 (Diversity of Reasoning Paths)을 들 수 있다. 각 에이전트에게 고유한 역할을 부여함으로써, 하나의 문제를 수술적 관점, 방사선치료 관점, 전신 치료 관점 등 다양한 전문적 시각에서 탐색하도록 유도했다. 이는 단일 사고방식에 조기에 수렴하는 것을 방지하고, 두경부암 실제 환자 케이스에 대한 다각적이고 깊이 있는 분석을 가능하게 했다. 둘째로 대화형 구조는 에이전트 간의 역동적인 의견 교환을 촉진했다. 한 에이전트가 다른 에이전트의 초기 추론에 이의를 제기하고, 이를 통해 논리가 더욱 정교하고 견고해지는 과정을 거쳤다.

이러한 다중 에이전트 모델의 성능은 다른 연구에서도 입증되었다. 임상의의 실제 진단 과정을 모사하기 위해 Sequential Diagnosis Benchmark (SDBench)를 제안한 연구에서, 304건의 New England Journal of Medicine (NEJM) 임상병리학 회의(CPC) 증례를 단계별로 재구성하여, AI나 의사가 질문을 던지고 검사 결과를 요청하며 점진적으로 진단에 도달하는 과정을 평가하였다.22) 이를 통해 단순 정답 맞추기식 평가의 한계를 극복하고, 진단 정확도와 검사 비용의 균형을 함께 분석할 수 있도록 했다. 저자들은 여기에 ‘MAI Diagnostic Orchestrator (MAI-DxO)’라는 다중 에이전트 기반 진단 시스템을 도입해, 가상의 의사 패널이 역할을 분담(가설 설정⋅검사 선택⋅비용 절감⋅검증 등)하여 논의하며 최적의 진단 과정을 수행하도록 설계했다. 그 결과, MAI-DxO는 일반 의사(정확도 20%)보다 4배 높은 80%의 진단 정확도를 보였고, 검사 비용은 절반 이하로 줄였다.

그러나, AI를 실제 임상 현장에서 다학제 의사결정에 적용하기 위해서는 여러가지 제한이 있는 것이 사실이다. 우선 AI, 특히 LLM의 임상 도입에 있어 가장 큰 기술적 장벽은 ‘환각’ 현상이다. 환각이란, AI모델이 유창하고 확신에 찬 어조로 답변하지만 그 내용이 사실과 다르거나, 의학적으로 타당하지 않거나, 제공된 데이터에 근거하지 않은 정보를 생성하는 현상을 의미한다.23) 의료 환경에서 이러한 오류는 오진이나 부적절한 치료 권고와 같은 치명적인 결과로 이어질 수 있다. 의료 분야의 환각은 크게 세 가지로 분류할 수 있다. (1) 시각적 오해석(visual misinterpretation): 의료 영상을 잘못 판독하는 경우, (2) 지식 결핍(knowledge deficiency): 부정확한 의학 지식을 적용하는 경우, (3) 문맥 불일치(context misalignment): 의학적으로는 사실이지만 특정 환자의 임상적 맥락에는 부적합한 답변을 생성하는 경우이다.24) 이러한 위험을 줄이기 위해, 검증된 외부 문서를 참조하여 답변의 근거를 제시하는 검색 증강 생성(RAG) 기술, 전문가 피드백을 통한 모델 개선 등 다양한 전략이 연구되고 있다. 그러나 현재 기술 수준에서는 이러한 방법들 역시 완벽하지 않다. 둘째로, 의료진이 AI의 제안을 신뢰하고 그에 대한 책임을 지기 위해서는 AI가 왜 그런 결론에 도달했는지 이해할 수 있어야 한다. 그러나 많은 딥러닝 모델 및 LLM은 내부 작동 원리를 파악하기 어려운 ‘블랙박스’와 같아, 결론 도출 과정을 추적하기 어렵다.5) 따라서 임상적 수용성을 높이기 위해서는 AI의 판단 근거를 인간이 이해할 수 있는 형태로 제시하는 ‘설명가능 AI (Explainable AI, xAI)’ 기술의 발전이 필수적이다. 일부 LLM에서 사용되는 ‘사고의 연쇄(chain of thought)’ 추론 방식은 이러한 방향으로 나아가는 초기 단계라 할 수 있다.17) 셋째, 환자의 민감한 의료 데이터를 LLM 학습과 운영에 사용하는 것은 중대한 개인정보 보호 문제를 야기한다. Llama 3와 같이 기관 내 서버에서 독립적으로 구동되는 로컬 LLM은 데이터를 외부로 전송하지 않아 이러한 우려를 해소할 수 있는 유망한 대안이다.16) Giannitto 등은 두경부암 진료에 참여하는 139명의 다국적 전문가들을 대상으로 AI 활용에 대한 인식과 실제 사용 현황을 조사하였다.25) 그 결과, AI를 실제로 활용한 경험이 있는 응답자는 전체의 49.7%에 불과했지만, AI의 잠재력에 대해서는 매우 긍정적인 인식을 보였다. 응답자들은 AI가 특히 진단 정확도 향상(72%), 수술 계획 수립(64.7%), 치료 선택(57.6%) 분야에서 큰 도움을 줄 것으로 기대하였다. 반면, 진단 오류 가능성(57%) 과 임상의의 통제력 상실(27.6%) 에 대한 우려 또한 적지 않았다. 이 연구는 두경부암 다학제 진료 환경에서 AI의 실제 활용은 아직 제한적이지만, 임상적 잠재력은 높게 평가되고 있음을 보여주었다. 아울러 투명하고 설명 가능한 AI 시스템 구축과 의료진을 위한 체계적인 교육 프로그램이 신뢰 확보와 책임 있는 AI 도입을 위해 필수적임을 알 수 있다.