4차 산업 혁명을 타고 의료 인공지능(AI) 시스템이 폭발적으로 늘어나자 의학회가 이에 대한 검증에 나섰다.

전문가 합의를 기반으로 안전성과 효용성을 평가하기 위한 가이드라인을 설정하고 이를 통과한 곳에 인증을 부여하는 제도를 신설한 것.

이에 따라 과연 인증제가 의료 인공지능 확산에 디딤돌이 될지 혹은 허들이 될지 관심이 모아지고 있다.

5일 의료산업계에 따르면 미국영상의학회(ACR)가 의료 인공지능의 올바른 활용과 안전성 확보를 위해 가이드라인 및 인증제도를 신설하고 본격적인 운영에 들어간 것으로 파악됐다.

이러한 의료 인공지능에 대한 인증제도는 전 세계에서 최초로 진행되는 품질 보증 인증이다.

미국영상의학회는 "의료 인공지능이 무분별하게 확산되면서 안전성과 효과성에 대한 검증이 필요하다는데 합의하고 전문가 합의를 통해 가이드라인 및 인증제도를 신설했다"고 배경을 설명했다.

이에 따라 학회는 'ACR Recognized Center for Healthcare-AI(ARCH-AI)', 즉 미국영상의학회가 인증하는 헬스케어 인공지능 센터라는 제도를 신설하고 학회가 지정하는 조건을 충족했을 경우 인증을 부여하기로 결정했다.

지정하는 조건, 즉 가이드라인도 대내외에 공표됐다. 인공지능의 올바른 활용을 위한 거버넌스 구축이 핵심으로 보안과 모니터링 등에 대한 자료 구축을 명시하고 있다.

따라서 학회는 일단 의료 인공지능의 올바른 활용과 안전성을 보장하기 위한 거버넌스 인증 센터를 최우선 조건으로 내세웠다.

영상의학화 전문의 등 의료 전문가와 기술 책임자를 포함하는 다학제 팀을 신설해 의료 인공지능을 평가하고 지속적으로 모니터링 할 수 있는 상시 기구를 만드는 것이 골자다.

또한 인공지능 도입시 이 거버넌스를 통해 전문가들이 참여하는 성능 검증 위원회를 가동하고 이에 대한 평가 결과 및 도입 배경을 모두 문서로 남겨야 한다.

이를 위해 각 기관은 이러한 팀을 통한 검증 및 모니터링 프로세스를 구축해야 하며 보안 및 규정 준수를 보장하기 위한 장치도 마련해야 한다.

아울러 실제 임상 현장에서 인공지능 모델의 성능을 모니터링하는 국가 레지스트리인 'Assess-AI'에 필수적으로 참여해 외부 검증을 받도록 했다.

이 모든 사안을 충족할 경우 미국영상의학회가 부여하는 'ARCH-AI' 인증을 받게 되며 대기실과 로비 등에 이를 부착해 신로도를 확보할 수 있게 된다.

상반기에 이뤄진 시범사업 결과 현재 미국에서는 메이요클리닉과 클리브랜드클리닉, 예일의과대학 부속병원, 제퍼슨의과대학 부속병원, 워싱턴의과대학 부속병원이 인증을 획득한 것으로 확인됐다.

미국영상의학회 데이터사이언스연구위원회 키스 드라이어(Keith J. Dreyer) 위원장은 "ARCH-AI는 최소한 환자의 진료에 적용되는 인공지능의 검증과 모니터링을 통해 효과성과 안전성을 확보하기 위한 노력"이라며 "이제 인공지능 분야에서도 QA 프로세스가 필요한 시점이 왔다"고 설명했다.

이어 그는 "FDA의 승인을 받은 제품이라도 실제 임상현장에서 도움을 주는지, 안전한지에 대한 테스트가 필요하다"며 "위험을 최소화하면서 인공지능의 이점을 극대화할 수 있는 보호장치의 일환"이라고 밝혔다.