[메디칼타임즈=유소영 교수]이번 칼럼에서는 앞서 제시했던 설문조사가 완료되어 이에 대한 내용을 풀어보려고 합니다. 상-하 두편으로 연재합니다.

AI 없는 역량, 지금 측정하지 않으면 영영 알 수 없다.

AI 없이 스스로 판단하는 의사의 역량 -설문에 답한 131명도, 미국·유럽·한국의 규제도 이 역량만은 측정해 두려 하지 않았다.

폴란드의 네 개 내시경 센터가 2021년 말 대장내시경 AI 보조 도구를 도입했습니다. 한 연구진이 그 전후를 나누어, 의사들이 'AI 없이' 시행한 검사의 선종 발견율을 비교했습니다. 도입 전에는 28.4%였습니다. 도입 뒤, 같은 조건에서 AI 없이 검사했을 때는 22.4%로 떨어져 있었습니다[1]. 6%포인트가 사라진 것입니다. 이 의사들은 초보가 아니었습니다. AI를 만나기 전에 이미 제 몫을 하던 사람들이었습니다.

이 하락이 눈에 띈 것은, AI 도입 전 의사들의 실력을 미리 작정하고 쟀기 때문입니다. 이들에게는 'AI 이전의 실력'이라는 비교 기준, 곧 도입 전 28.4%라는 값이 있었습니다. 그 기준이 있었기에 6%포인트의 하락이 보였습니다. 그런데 현실의 진료실에는 그런 기준이 없습니다. 아무도 의사의 'AI 없는 실력'을 따로 기록해 두지 않습니다. 그래서 묻게 됩니다. 왜 이 하락은, 작정하고 재지 않으면 보이지 않는가. 답은 단순합니다. 재는 사람이 없기 때문입니다.

여기에 이 글의 핵심이 있습니다. AI 없이 의사가 홀로 판단하는 실력은, 지금 이 순간에만 온전히 잴 수 있는 값입니다. 진료 현장에 AI가 완전히 도입되기 전, 그리고 그 실력이 아직 떨어지기 전에만 기록할 수 있습니다. 시점을 놓치면 비교할 대상 자체가 사라지고, 남는 것은 "예전 의사는 더 잘 봤을까"라는 답할 수 없는 질문뿐입니다. 이번 글은 두 가지를 나란히 놓습니다. 지난 회 사고실험에 답해 주신 131명의 응답, 그리고 지금 미국과 유럽과 한국에서 동시에 움직이는 규제입니다. 놀랍게도 둘은 같은 똑같은 곳을 다루지 않았습니다.

01 28.4에서 22.4로 - 이 숫자가 나쁜 이유

지난 회에 폴란드 연구 하나를 소개했습니다. AI 용종 탐지 장치가 도입된 뒤, 같은 의사들이 AI 보조 없이 시행한 대장내시경의 선종 발견율이 28.4%에서 22.4%로 떨어졌다는 결과입니다(Budzyń 등, 2025)[1]. 숫자를 반복하기 전에, 이것이 왜 나쁜 숫자인지부터 적어 두겠습니다.

선종 발견율(adenoma detection rate, ADR)은 한 의사의 선별 대장내시경 가운데 선종을 하나 이상 찾아낸 검사의 비율입니다. 대장내시경의 대표 질 지표이고, 이 지표가 왜 중요한지는 Corley 등이 2014년 〈New England Journal of Medicine〉에 보고했습니다[2]. 대장내시경 314,872건과 소화기내과 전문의 136명의 자료에서, 의사의 ADR이 1%포인트 높을수록 그 환자의 대장암 위험은 3% 낮았습니다(위험비 0.97, 95% 신뢰구간 0.96-0.98). ADR 상위 5분위 의사의 환자는 하위 5분위 의사의 환자에 비해 중간암 위험이 약 절반(위험비 0.52), 중간암 사망 위험이 3분의 1 남짓(0.38)이었습니다.

이 추정치를 폴란드의 6%포인트 하락에 그대로 대면, 대장암 위험이 약 20% 높아지는 구간으로 옮겨 가는 셈입니다. 다만 전제가 붙습니다. Corley의 연관성은 의사들 '사이'의 차이에서 얻은 것이지, 한 의사 '안'에서 ADR이 오르내릴 때 위험도 같은 크기로 움직인다는 것을 보인 것이 아닙니다. 그러니 이 20%는 예측이 아니라 규모를 가늠하는 참조점으로만 읽어 주십시오.

그래도 참조점은 필요합니다. 6%포인트가 통계적 잡음인지 임상적으로 의미 있는 이동인지 감이 없으면, 아래의 모든 논의가 공중에 뜨기 때문입니다. 방향은 분명합니다. AI를 오래 쓴 뒤 의사의 '맨눈' 실력이 내려갔고, 그 실력은 환자의 암 위험과 연결된 지표였습니다.

02 무엇을 물었고, 누가 답했는가

지난 회 상·하편 말미에 사고실험을 붙였습니다. 문항은 일곱 개였습니다. 앞의 다섯은 의료 AI 거버넌스를 두고 다섯 선택지 중 하나를 고르는 것이었고, 뒤의 둘은 연령·소속과 응답자 본인의 AI 활용 정도를 묻는 배경 문항이었습니다. 6월 22일에 마감했고 131명이 답해 주셨습니다. 먼저 감사드립니다.

응답자는 보건의료 전문가 44명(33.6%), 일반 시민 38명(29.0%), 법·윤리 및 인문학자 21명(16.0%), 산업계 15명(11.5%), 정책·제도 설계자 13명(9.9%)이었습니다. 확률표본이 아니라 전문지 칼럼 말미의 링크로 스스로 참여한 표본이므로, 이 분포는 어떤 모집단도 대표하지 않습니다. 아래 백분율은 전부 이 131명 안의 기술통계이며 추정치가 아닙니다.

집단이 갈릴 것이라 예상했습니다. 의사와 시민이 다르고 법학자와 산업계가 다를 것이라 보았는데, 다섯 문항 어디에서도 소속에 따른 차이는 검출되지 않았습니다. 게다가 5×5 교차표는 25칸 가운데 13칸 이상에서 기대빈도가 5에 못 미쳐, 카이제곱 검정의 적용 조건 자체를 충족하지 못합니다. 그래서 이 글은 소속별 비교를 근거로 삼지 않습니다.

사람을 가른 변수는 소속이 아니었습니다. 그 이야기를 하기 전에 문항 하나를 그대로 옮깁니다.

다섯 선택지가 요구하는 것을 하나씩 갈라 보면 기준이 하나 드러납니다. 출발점이 'AI 없이'인가, 'AI 함께'인가입니다.

분류 기준은 '출발점이 AI 없이인가, AI 함께인가'입니다. ①·②만 'AI 없는 나'를 먼저 세워 나중에 비교할 수 있는 기준점을 남깁니다(합 76명, 58.0%). ③·④는 이미 AI가 곁에 있다고 전제하므로 '기준점'이 아니라 'AI를 다루는 법'입니다. 설문에 '기준점 먼저'라는 문항이 따로 있었던 것은 아니고, 이 기준으로 ①·②를 묶은 것입니다. *②는 매 판단마다 AI 없는 1차 판단을 먼저 남기되 AI 활용을 병행한다는 점에서 기준점의 경계에 가깝습니다.

이 글은 ①·②를 묶어 '기준점 먼저(baseline-first)' 응답이라 부르겠습니다. 'AI 없이 판단하는 자신'을 먼저 세워 두려는 응답으로, 합치면 76명, 58.0%입니다.

여기까지는 예상 범위였습니다. 지난 컬럼 상·하편의 논지와도 어긋나지 않습니다. 그런데 응답자를 본인의 AI 사용량에 따라 나누면, 전혀 다른 그림이 나옵니다.

분모는 해당 사용량 집단의 인원, 분자는 그중 ①·②를 고른 사람 수입니다. 세 집단을 더하면 131명입니다.

AI를 적게 쓰는 쪽에서 많이 쓰는 쪽으로 응답자를 줄 세우면, '기준점을 먼저 만들자'는 응답 비율이 한 방향으로 계속 내려갑니다(77.1% → 64.5% → 44.6%). 세 비율을 따로 비교한 것이 아니라 이 하락의 '기울기' 자체를 검정하면, 아무 경향이 없는데 이런 기울기가 우연히 나타날 확률은 매우 낮습니다(경향검정 p=0.0012, 천 번에 한두 번꼴).

숫자보다 함의가 중요합니다. AI를 많이 쓰는 사람일수록, 자신이 AI 없이 판단하는 실력을 남겨 둘 필요를 덜 느낍니다. 도구에 익숙해질수록 도구 없는 자신을 덜 아쉬워한다고 바꿔 말할 수 있습니다. 물론 인과의 방향은 이 자료로 정할 수 없습니다. AI를 많이 써서 기준점을 덜 요구하게 된 것인지, 원래 기준점을 덜 중시하는 사람이 AI를 더 많이 쓰는 것인지는 열려 있습니다. 다만 어느 쪽이든, '기준점을 지켜야 한다'는 요구는 AI가 퍼질수록 약해지는 방향으로 움직입니다.

03 정보를 주는 쪽, 결과를 막는 쪽

세 번째 문항(Q3)은 'AI가 의사의 판단에 미치는 영향을 줄이려면 사용 방식을 어떻게 설계해야 하는가'를 다섯 선택지 중에서 고르게 했습니다. 자동화 편향과 de-skilling을 줄일 방법을 물은 것입니다.

가장 크게 갈린 두 선택지가 이 글의 논지를 그대로 보여 줍니다.

한쪽은 ③ 'AI 결과의 신뢰도와 한계를 함께 제시해야 한다'로, 34.4%로 최상위였습니다. 출력에 불확실성·한계·오류 가능성을 덧붙여 의사에게 정보를 더 주는 장치입니다. 이 방식에서 의사가 무엇을 할지는 그대로 의사가 정합니다. 다른 쪽은 ⑤ '오류 가능성이 높거나 근거가 약한 AI 출력은 제한해야 한다'로, 8.4%로 최하위였습니다. 저신뢰 출력을 그대로 보여 주지 않거나 차단·추가 확인을 거치게 하는 장치입니다. 보고 싶어도 볼 수 없으니, 그 출력을 볼지·참고할지 정하는 권한이 의사에게서 그만큼 사라집니다.

두 장치의 격차는 4.09배(34.4% 대 8.4%)였고, 이 격차가 우연일 가능성은 사실상 없습니다(두 선택지만 놓고 본 검정 p=5.4×10⁻⁶). 그러나 크기가 요점이 아닙니다. 요점은 방향입니다.

두 장치는 문제를 막는 확실성이 다릅니다. 신뢰도를 함께 보여 주면 의사가 알아서 덜 의존하리라 기대하지만, 실제로 그렇게 되는지는 연구마다 엇갈립니다. 화면에 '신뢰도 60%'라고 떠도, 그 숫자가 의사의 판단을 곧바로 바로잡는다는 보장은 없습니다. 반면 저신뢰 출력을 아예 걸러 내면, 의사가 나쁜 출력을 보고 끌려갈 일 자체가 줄어듭니다. 문제를 더 확실히 막는 쪽은 후자입니다. 그런데 두 장치가 의사에게 남기는 권한은 다릅니다. 신뢰도 표시는 무엇을 할지 정하는 권한, 곧 의사의 임상적 재량을 그대로 남깁니다. 반면 출력 차단은 그 재량의 일부를 시스템이 가져갑니다. 어떤 출력은 의사가 보지도 못한 채 걸러지기 때문입니다. 다수는 문제를 더 확실히 막는 쪽이 아니라, 의사의 재량이 더 많이 남는 쪽을 골랐습니다. '더 알려 주되, 결정은 의사가 한다'를 택한 셈입니다.

이것은 비합리적이지 않습니다. 전문직 자율성의 핵심이고, 의료에서는 특히 지킬 가치가 있는 요구입니다. 다만 그 선호가 자동화 편향을 실제로 줄이느냐는 별개의 문제입니다. 이 시리즈가 앞선 글에서 다룬 구분이 여기서 그대로 되풀이됩니다. 정보를 제공하는 것과 판단을 교정하는 것은 다릅니다. 동의서를 충분히 건넸다는 사실이 환자의 이해를 보정하지 못하듯, 신뢰도 점수를 화면에 띄웠다는 사실이 의사의 의존을 보정하지는 않습니다. 신뢰도 표시는 선언적 장치이고, 출력 차단은 구조적 장치입니다. 다수는 선언을 골랐습니다.

3.1 설문 응답 방향

두 문항의 다수 응답을 나란히 놓으면 흐름이 한눈에 드러납니다. Q2의 다섯 선택지는 표현이 서로 달라도, 위험도에 따라 도입 시점을 나누자는 하나를 빼면 모두 '사람'을 향합니다. 의사의 실력을 먼저 기르거나, 의사의 판단을 먼저 기록한 뒤 AI를 확인하게 하거나, 오류 탐지를 가려내는 훈련을 시키자거나, 감독을 강화하자는 것입니다. Q3에서도 다수는 제품의 출력을 제한하기보다 의사에게 정보를 더 주는 쪽을 골랐습니다.

다섯 선택지 가운데 제품의 출력을 직접 규율하는 것은 Q3의 ⑤ '저신뢰 출력 제한' 하나뿐이었고, 그마저 최하위에 그쳤습니다. (Q2 다섯 선택지의 전체 문항과 응답은 앞의 상자를 참조하십시오.)

설문에서는 사람을 준비·교육하자는 방안이 가장 많이 꼽혔고, 제품의 출력을 제한하자는 방안이 가장 적게 꼽혔습니다. 곧 사람은 다스리되 제품은 그대로 두자는 쪽입니다. 다음 장에서 같은 잣대를 규제에 대어 보겠습니다. 미국·유럽·한국의 의료 AI 규제가 과연 다른 곳을 규율하는지 말입니다.

04 규제도 사람만 규율한다

이런 선호는 응답자들만의 것이 아닙니다. 오늘날 각국이 의료 AI에 두는 안전장치를 한자리에 모아 보면, 대부분이 사람을 규율하는 데 쏠려 있습니다. 의사를 교육하거나, 의사에게 편향을 자각하도록 요구하거나, 사업자에게 문서를 남기게 하는 것입니다. 정작 제품이 내놓는 결과 자체를 규율하는 장치는 드뭅니다.

위에서 아래로 갈수록 규율 대상이 '사람'에서 '제품'으로 옮겨 갑니다.

위의 넷은 사람 아니면 절차에 관한 것일 뿐, 제품이 무엇을 내놓을지는 건드리지 않습니다. 제품의 출력 형태 자체를 제약한 장치는 이 표에서 단 하나, FDA의 2022년 지침이었습니다. 그리고 그 하나가 올해 1월 풀렸습니다.

표의 맨 윗줄이 특히 눈에 띕니다. 유럽이 의료 AI와 관련해 가장 먼저 시행한 의무가 제4조, 곧 AI 리터러시입니다(2025년 2월 발효). AI를 배포하거나 쓰는 쪽이 그 기술을 이해할 만큼 교육받게 하라는 요구입니다. 규제가 맨 먼저 꺼내 든 카드가 사람 교육인 셈인데, 이는 앞서 설문에서 다수가 고른 방향과 같습니다.

그런데 리터러시 교육이 이 문제를 실제로 푸는지는 따로 물어야 합니다. 이 시리즈 지난 편에서 한 번 소개한 연구지만, 규제를 이야기하는 지금 다시 꺼낼 값어치가 있습니다. 2026년 〈NEJM AI〉의 무작위 대조시험입니다[3]. 이 연구의 힘은 대상자 선정에 있습니다. 참여한 의사 44명은 모두 20시간의 AI 리터러시 교육을 이미 이수한 사람들이었습니다. AI의 오류 가능성도, '자동화 편향'이라는 개념도 배워서 아는 사람들이었다는 뜻입니다. 그런데 한 군에 오류가 섞인 대규모 언어모형(LLM)의 추천을 주자, 진단 추론 정확도가 84.9%에서 73.3%로(조정 -14.0%포인트), 최선의 진단을 맞힌 비율은 90.5%에서 76.1%로 떨어졌습니다. 편향을 배운 의사조차, LLM이 그럴듯하게 틀리자 그 오류를 그대로 따라갔습니다.

여기서 리터러시의 한계가 정확히 드러납니다. 교육은 '아는 것'을 바꾸지만, 자동화 편향은 '아는 것' 아래에서 작동합니다. 위험을 알면서도, 그럴듯한 답 앞에서는 자기도 모르게 기울어지는 것입니다. 연구진의 처방도 같은 방향입니다. 리터러시 교육은 필요하지만 그것만으로 자동화 편향을 막을 수 없으며, 판단을 먼저 기록하게 하거나 검증 절차를 두는 등 '작업 흐름' 차원의 장치와 함께여야 한다는 것입니다. 규제가 가장 먼저, 가장 널리 채택한 안전장치가 바로 교육(리터러시)인데, 정작 그 교육으로는 자동화 편향 자체를 막지 못한다는 뜻입니다.

나머지 장치들도 결이 같습니다. 하나씩 보겠습니다.

4.1 유럽 - 인식되지 않는 것을 인식하라는 요구

EU AI법 제14조 4항 (b)호는, 감독을 맡은 사람이 'AI 출력에 자동적으로 의존하거나 과도하게 의존하려는 자신의 경향(자동화 편향)을 계속 인식(remain aware)'할 수 있도록 시스템을 설계·제공하라고 요구합니다[4]. 인식해야 할 대상은 다른 무엇이 아니라, 감독자 자신이 AI에 기대려는 성향입니다.

여기에 구조적 문제가 있습니다. 자동화 편향은 정의상, 그 의존을 본인이 알아차리지 못한 채 일어나는 현상입니다. 사람은 자기가 기대고 있다는 사실 자체를 모른 채 기댑니다. 그것이 이 편향이 위험한 이유입니다. 그런데 조문은 바로 그 '알아차리지 못함'을 '계속 알아차리라'는 의무로 되받습니다. 인식되지 않는다는 것이 정의인 현상에, 인식하라는 의무를 걸어 둔 셈입니다. 법학 문헌도 이 조항이 다른 기술적·운영적 요구들 사이에서 홀로 심리 상태를 겨눈다는 점에서 이질적이며 실행이 어렵다고 지적합니다[5].

게다가 의료 AI에 대해서는 이 조항의 적용 시점 자체가 뒤로 밀렸습니다. 의료기기는 EU AI법에서 '규제된 제품에 내장된 고위험 AI'(부속서 I)로 분류됩니다. 2025년 말 시작된 디지털 옴니버스 논의에서 고위험 의무의 적용일이 재조정되었고, 의료기기는 부속서 I 계열에 드는데, 이 계열의 적용일은 2028년 8월 2일로 미뤄졌습니다(2026년 5월 정치적 합의, 6월 채택)[6]. 요약하면, 의료 AI를 감독하는 사람에게 자동화 편향을 계속 인식하라는 유럽의 요구는, 실행이 의심스러운 데다 발효까지 2년 넘게 남아 있습니다.

4.2 미국 - 명문 요건은 남기고, 유일한 출력 제약은 풀다

미국으로 가면 구조가 더 선명합니다. 2016년 21세기 치유법 제3060조는 연방 식품의약품화장품법(FD&C법) 제520조(o)를 신설해, 아래 네 요건을 모두 갖춘 임상의사결정지원(CDS) 소프트웨어를 '의료기기' 정의에서 제외했습니다[7]. 기기가 아니면, 시장에 나오기 전 미국 식품의약국(FDA)이 안전성·유효성을 확인하는 '시판 전 심사(premarket review)'를 받지 않습니다. 네 요건은 이렇습니다.

이 가운데 마지막 요건 4가 이 글의 핵심입니다. 소프트웨어는 의료인이 권고의 근거를 스스로 검토하게 하여, 의료인이 그 권고에 '주로 의존하지 않도록(not rely primarily)' 만드는 것을 목적으로 해야 합니다. 쉽게 말하면, 의사가 소프트웨어의 결론을 그대로 받아들이는 것이 아니라 그 근거를 스스로 따져 볼 수 있어야 하고, 소프트웨어보다 의사 자신의 판단이 최종 결정을 지배해야 한다는 조건입니다.

과의존 방지는 이렇게 미국 법의 명문 요건입니다. 그런데 법이 그 요건을 담보하는 방식이 '정보 제공'입니다. 근거를 보여 주어 의사가 스스로 검토하게 하라는 것으로, 앞의 설문에서 다수가 1위로 고른 ③(신뢰도·한계 제시, 34.4%)와 정확히 같은 구조입니다.

FDA는 2022년 지침에서 여기에 한 가지 제약을 더했습니다[8]. 법 조문은 소프트웨어가 의료인에게 '권고들(recommendations)'를, 곧 권고를 복수형('권고들')으로 제공한다고 적고 있습니다. FDA는 이 복수형에 무게를 실었습니다. 소프트웨어가 여러 선택지를 함께 내놓는 것(복수 권고, 예: '항생제 A·B·C 중에서 고르십시오')이 아니라 하나의 특정한 답을 단독으로 내놓으면(단일 권고, 예: '항생제 A를 처방하십시오'), 그것은 비기기 CDS가 아니라 기기로 본다고 해석한 것입니다. 그렇게 해석한 이유는 간단했습니다. 여러 후보를 늘어놓으면 의사가 스스로 골라야 하지만, 답이 하나뿐이면 의사는 '수락' 버튼만 누르기 쉽습니다. 즉 '단일 권고 금지'는, 의사가 소프트웨어의 답을 그냥 받아들이지 않고 직접 판단하도록 강제하는 장치였습니다. 미국 규제에서 제품이 화면에 무엇을 내놓을 수 있는지를 직접 정한 장치는 이것 하나뿐이었고, 이것이 바로 요건 4의 '주로 의존하지 않도록(not rely primarily)'을 현실에서 떠받치고 있었습니다. 앞의 설문에서 사람들이 최하위로 밀어낸 ⑤(저신뢰 출력 제한, 8.4%)와 같은 계열입니다.

2026년 1월 6일(1월 29일 재발행), FDA는 그 버팀목을 뺐습니다[9]. 유의할 점이 있습니다. FDA는 법 해석을 바꾸지 않았습니다. 대신 '집행재량(enforcement discretion)'을 선언했습니다. 말하자면 이렇습니다. 어떤 상황에서 의학적으로 타당한 선택지가 애초에 하나뿐이라면(예: 특정 진단에 표준 치료가 단 하나뿐인 경우), 그 하나만 제시하는 소프트웨어도 나머지 요건을 갖추는 한 기기로 규제하지 않겠다는 것입니다. 2022년에는 '단일 권고를 제시하면 기기'로 보았는데, 이제 '임상적으로 선택지가 하나뿐인 경우의 단일 권고'만큼은 눈감아 주겠다고 물러선 것입니다. 조문상 그 소프트웨어가 여전히 기기 정의에 들 수 있다는 점은 FDA도 인정합니다. 다만 규제하지 않겠다고 했을 뿐입니다. 결과는 같습니다. 단일 권고만 내놓는 CDS가 심사 밖으로 나옵니다.

정리하면 이렇습니다. '주로 의존하지 말라'는 요건 4의 명문은 조문에 그대로 남았습니다. 그러나 그 요건을 현실에서 작동시키던 장치, 곧 소프트웨어가 답을 하나만 내밀지 못하게 해 의사가 스스로 고르도록 강제하던 2022년 규칙은 사라졌습니다. 미국 규제에서 제품의 출력 형태를 직접 겨눈 장치는 이것 하나뿐이었습니다. 규칙은 남고, 그것을 지키게 하던 장치는 빠졌습니다. 선언은 남고, 구조는 빠졌습니다.

<하편으로 이어집니다-클릭>