[메디칼타임즈=이인복 기자]의료 인공지능(AI)이 실제 임상 현장에서 빠르게 확산되면서 이에 대한 검증과 사후 관리를 위한 규제가 세분화되고 있다.

의료기기를 어떠한 인공지능 모델로 어떻게 학습시켰는지를 구체적으로 공개하도록 의무화한 것. 대규모 언어 모델(LLM) 등의 확산에 맞춰 별도의 식별 코드를 붙이는 작업에 들어간 셈이다.

8일 의료산업계에 따르면 미국 식품의약국(FDA)이 AI 기반 의료기기 목록(AI-Enabled Medical Device List) 업데이트를 통해 향후 기기에 사용된 인공지능 모델을 별도로 표기하는 방안을 추진중인 것으로 확인됐다.

FDA가 언급한 구체적 대상은 챗 지피티와 제미나이와 같은 대규모 언어 모델(LLM)을 비롯해 파운데이션모델, 멀티모달 아키텍처 등이다.

이를 위해 FDA는 의료기기 기업들에게도 향후 허가 및 승인 자료에 제품에 적용된 AI 기능을 반드시 기재할 것을 권고했다.

AI 의료기기 목록을 업데이트할 때 어떤 제품이 LLM이나 파운데이션모델 등을 사용하는지 식별해 별도로 관리하겠다는 의지다.

AI 의료기기 목록은 미국에서 판매 허가를 받은 의료기기 가운데 허가문서나 제품 분류 등에 AI 관련 용어가 포함된 제품을 FDA가 선별해 제공하는 자료다.

하지만 현재는 허가 및 승인 문서에 공개된 AI 관련 표현을 기반으로 기기를 분류하는 구조라는 점에서 실제 AI 적용 여부와 기술을 모두 확인하기는 어려운 것이 사실이다.

실제로 현재 목록에서는 제품명과 업체, 허가번호, 담당 분야 등은 확인이 가능하지만 이 기기가 머신러닝인지, 딥러닝인지, LLM이나 파운데이션모델을 활용하는지를 확인할 수는 없다.

앞으로 이에 대한 명시를 의무화해 각각의 카테고리로 묶어 검증과 사후 관리 등에 활용하겠다는 것이 FDA의 방침이다.

이는 의료 AI의 변화와도 무관하지 않다. 기존의 의료 AI는 판독 보조, 즉 정해진 의료 영상이나 생체 신호를 입력하면 학습된 결과를 출력하는 형태가 대부분이었다.

하지만 LLM이나 파운데이션모델은 방대한 데이터를 기반으로 의료진의 질문에 답하거나 진료기록을 요약하고 여러 종류의 임상정보를 동시에 분석해 결과를 생성한다.

특히 멀티 모달 모델은 텍스트뿐 아니라 영상과 검사결과 등 서로 다른 형태의 의료데이터를 함께 처리할 수 있다는 점에서 기존 의료AI와 활용 범위 자체가 다르다.

결국 이를 통칭해 의료 AI로 부르고 있지만 방식과 성능 평가, 업데이트 과정에서 발생할 수 있는 위험은 크게 차이가 날 수 있다는 지적이 이어졌다.

특히 AI 의료기기의 특성상 한번 허가받은 알고리즘이 그대로 유지되지 않고 지속적인 업데이트와 개선이 필요하다는 점도 이번 규제에 영향을 줬다.

FDA는 이미 AI 의료기기의 이러한 특성을 고려해 사전에 변경범위를 정해두는 예정된 변경관리계획(Predetermined Change Control Plan, PCCP)을 의무화하고 있다. 결국 이번에 공개된 AI 모델 공개 의무화도 이러한 규제 변화의 연장선인 셈이다.

이러한 변화는 국내 의료 AI 기업들에게도 많은 영향을 줄 것으로 전망된다. 과거에는 임상적 효용성과 안전성만 입증하면 문제가 없었지만 이제는 어떤 AI 모델로 어떻게 구동하는지, 업데이트 과정에서 성능과 안전성을 어떻게 관리할 것인지를 설명해야 하기 때문이다.

국내 A의료기기 기업 임원은 "이미 국내에서도 한국보건의료연구원 등이 깜깜이 AI에 대해 수차례 지적한 바 있다"며 "일부 기업은 동일한 모델과 거의 동일한 데이터로 서로 다른 제품을 만든 사례도 있었다"고 지적했다.

그는 이어 "결국 FDA 또한 이러한 문제를 인식해 AI가 낸 결과값만 보고 허가를 내주지 않겠다는 의도를 드러낸 것"이라며 "FDA 허가 전략 또한 대대적인 변화가 있을 것으로 본다"고 내다봤다.