최근 의료 인공지능(AI)은 괄목할 만한 기술 발전을 이루며, 다양한 분야에서 전문가 수준의 진단 능력을 보이거나 이를 능가하는 정확도를 기록하고 있다. 특히 의료 영상 분석, 병리 진단, 예후 예측 등에서 AI는 점점 더 중요한 도구로 자리 잡고, 의료서비스의 질적 향상에 기여하고 있다. 그러나 이러한 기술력을 실제 의료 현장에서 널리 활용하려면 여전히 넘어야 할 여러 장벽이 존재한다. 어떤 조건이 충족되어야 하는지 알아보자.


AI의 판단에 대한 신뢰

한 설문조사에 따르면, 의료진의 경력이 길수록 AI 도입에 소극적인 경향을 보인다고 한다. 이는 단순한 기술 거부감이라기보다, 복잡한 시스템을 학습하고 적응할 시간과 여유가 부족하다는 현실적인 이유에 기반한다. 특히 바쁜 병원 환경에서는 익숙한 기존 방식을 고수하는 것이 더 효율적으로 느껴질 수 있다.

또 다른 중요한 이유는 AI에 대한 신뢰 부족이다. 한 연구에서는 훈련된 비둘기가 유방암 병리 이미지를 단 5일간의 교육만으로 90% 이상의 정확도로 분류했으며, 마약 탐지견이 소변 냄새만으로 전립선암 여부를 식별한 사례도 보고된 바 있다. 놀라운 성과지만, 의료진이 이들의 결과를 실제 진료에 곧바로 활용하지 않는 이유는 명확하다. 이들은 자신이 어떻게 그런 판단을 내렸는지 설명할 수 없기 때문이다.

의료 AI도 이런 ‘블랙박스 문제’를 안고 있다. AI의 판단 과정은 복잡한 알고리즘과 수많은 연산으로 구성되어 있어, 의료진 입장에서는 그 결과가 어떻게 도출됐는지 파악하기 어려운 경우가 많다. 예컨대, AI가 “이 환자는 암일 가능성이 높습니다”라고 판단했다면, 의료진은 그 판단 근거를 이해하고 환자에게 납득할 만한 설명을 제공해야 한다. 만약 판단 과정이 불투명하면 의료진조차 결과를 신뢰하기 어렵고, 환자와 소통하는 과정에 장애가 발생할 수 있다. 그렇다면 의료 현장에서 신뢰받고 널리 활용될 수 있는 ‘좋은 의료 AI’는 어떤 조건을 갖추어야 할까?


정확도와 임상적 유용성

무엇보다 높은 정확도가 필수이다. 질병 진단이나 예측에서 오류가 적어야 환자에게 안전하고 효과적인 치료를 제공할 수 있기 때문이다. 예를 들어, 암 진단 AI의 정확도가 낮을 경우, 암을 놓치거나 암이 아닌 환자에게 불필요한 치료를 권할 수 있다. 최근 딥러닝 기반 기술은 방대한 의료 데이터를 학습해 매우 높은 수준의 정확도를 달성했으며, 특히 방사선 사진, CT, MRI 등 의료 영상 분석 분야에서는 심장질환, 폐질환, 암 등을 정밀하게 탐지하는 데 탁월한 성과를 보이고 있다.

그러나 높은 정확도만으로는 충분하지 않다. AI가 실제 임상 환경에서 효과적으로 사용되기 위해서는 임상적 유용성도 중요하다. 이는 AI가 병원 시스템에 잘 통합되어 의료진의 실질적인 의사결정을 지원하고, 업무 부담을 줄이는 방식으로 작동해야 한다는 뜻이다. 예를 들어, 응급실에서 환자의 생체 신호를 실시간 분석해 위험 징후를 조기에 감지하는 AI는, 의료진이 신속하고 정확하게 대응할 수 있게 한다.

또한 AI는 직관적인 사용자 인터페이스를 제공하고, 기존의 전자의무기록(EMR)이나 병원 정보 시스템(HIS)과 원활하게 연동되어야 한다. 의료진에게 추가적인 학습 부담이나 절차상의 복잡성을 야기한다면, 실제 사용은 지연되거나 중단될 수 있다.


논리적 설명이 가능한 AI

마지막으로, 의료 AI는 반드시 설명 가능성(explainability)을 갖추어야 한다. 아무리 정확도가 높아도, AI의 판단 과정을 의료진이 이해할 수 없다면 신뢰를 얻기 어렵다. 최근 주목받고 있는 ‘설명 가능한 AI(eXplainable AI)’는 이 문제를 해결하기 위한 기술적 접근이다. 이 기술은 AI가 어떤 근거에 기반해 판단을 내렸는지를 시각적으로 표현하거나, 각 입력 변수의 기여도를 분석함으로써 판단 과정을 투명하게 보여준다.

예를 들어, 영상 분석 AI가 특정 병변 부위를 강조하면서 “이 영역이 암으로 의심됩니다”라고 설명한다면, 의료진은 그 판단을 더 쉽게 수용하고, 환자에게도 논리적으로 설명할 수 있다. 설명 가능한 AI는 단지 진료를 위한 수단에 그치지 않고, 인허가, 품질 검증, 의료 책임 소재 등 여러 측면에서 중요한 역할을 한다.

결론적으로, 좋은 의료 AI는 높은 정확도, 실제 환경에서의 임상적 유용성, 판단에 대한 설명 가능성이라는 세 가지 조건을 모두 충족해야 한다. 이 세 요소는 AI가 의료진과 환자 모두에게 신뢰를 얻고, 실제 진료 현장에서 효과적으로 활용되는 기반이다.

박상민 서울대학교병원 가정의학과 교수
건강소식 2025년 6월호 中 발췌