4차 산업혁명 시대를 맞아 의료분야에도 AI 열풍이 불고 있지만 이에 대한 임상적 검증 절차가 거의 없어 문제가 되고 있다는 지적이다.

충분히 검증되지 않은 의료 AI가 내린 진단 오류가 환자에게 심각한 위험을 초래할 수 있는데도 이에 대한 검증 절차가 전무하다는 비판이 나오고 있는 것.

대한영상의학회(회장 오주형)는 국제학술지 KJR(Korean Journal of Radiology. IF=3.072)를 통해 이같은 연구 결과를 공개하고 이에 대한 경각심을 주문했다.

연구를 주도한 서울아산병원 영상의학과 박성호 교수는 지난 2018년 1월부터 8월까지 의료 AI와 관련한 전 세계에 출간된 모든 관련 논문 약 2700 건을 정리해 최종 516편의 유관 논문을 분석했다.

그 결과 516편 중 AI의 정확도를 어떤 형태이든 외부검증(external validation)으로 확인한 논문은 6%에 불과했다.

특히 실제적인 임상진료상황에 맞추어(diagnostic cohort design) 정확도 검증을 한 경우는 단 1%밖에 되지 않았고 의학에 필요한 좀 더 엄밀한 기준으로 확인한 사례는 전무했다.

박 교수는 "의료 AI에도 제대로 된 임상검증과 엄격한 절차가 필요한 이유는 신체와 건강에 직간접적인 영향을 주기 때문"이라며 "하지만 지금까지 의료용 소프트웨어는 의약품이나 치료용의료기구와는 달리 환자에게 직접적인 위해가 되지 않는다고 생각해 왔다"고 지적했다.

이어 "충분히 검증되지 않은 의료 AI가 내린 진단 오류는 환자의 건강에 심각한 위험을 초래할 수 있다"며 "또한 불필요한 의료비 상승으로 이어질 수 있다는 점에서 심각하다"고 강조했다.

지금까지 의료 AI의 임상적 정확도에 대해 우리나라뿐 아니라 미국, 영국 등 세계 의학계로부터 많은 문제제기가 있었지만 실제 구체적인 자료를 통해 확인한 것은 이번 연구가 처음이다.

실제로 최근 광범위하게 확산되고 있는 의료 AI에 대한 지적은 이어져 왔지만 단순한 문제 제기 수준에서 그쳤던 것이 사실.

하지만 세계 처음으로 이에 대한 구체적 데이터가 나오면서 이에 대한 논란도 불가피할 것으로 전망된다.

박 교수는 "예상보다 낮은 결과에 연구진도 놀랄 정도였다"며 "의료, 의학영상 AI 분야가 임상검증을 얼마나 간과해 왔는지 그간의 민낯을 보여주는 결과"라고 꼬집었다.

따라서 이번 연구 결과를 바탕으로 의료 AI를 섣불리 환자에게 적용하거나 상업화를 시도하는 것은 매우 부적절하다는 것이 대한영상의학회의 지적이다.

의료 AI가 환자 진료와 진단에 유용한 도구가 될 가능성을 보여주고 있지만 이에 대한 철저한 검증없이는 위험한 시도에 불과하다는 것이다.

박 교수는 "이번 연구는 최근 의료 AI에 대한 연구를 비판하고자 하는 목적이 아니다"며 "임상 검증을 간과한 막연한 상업화는 비윤리적이라는 점을 재인식하자는 의미"라고 말했다.

그렇다면 이러한 문제를 해결할 방법은 무엇일까. 대한영상의학회는 의료 AI와 연관된 네트워크간에 교류를 강조하고 있다.

박 교수는 "그간 의료 AI에 대한 임상검증이 간과된 중요한 이유 중 하나는 개발자나 산업계가 현장의료와 임상검증에 대한 자세한 정보와 교육을 접할 기회가 적었기 때문"이라며 "앞으로 의료인들이 AI 개발자 및 산업계와 좀 더 적극적으로 소통하며 교육과 정보 제공의 기회를 만들어야 한다"고 제언했다.

아울러 "이를 통해 진정으로 환자를 위한 AI가 만들어지고 이를 통해 의료와 기술, 산업이 같이 발전할 수 있는 윈윈 관계가 형성되길 바란다"고 밝혔다.