- 병·의원
- 대학병원
"의존성 경계하라" AI시대에 보내는 내과 교수의 경고
장동경 성균관의대 교수, 무비판적 수용 막기 위한 대안 제시
이지현 기자
기사입력: 2017-07-25 12:00:55
-
가
-
URL복사 
의사가 인공지능에 의존하게 된다면 어떻게 될까.
성균관의대 장동경 교수(내과학)는 대한의학회 7월호 E-NEWS LETTER에 '미래의료에 미치는 인공지능의 영향'이라는 제목의 칼럼을 통해 AI시대에 의사들이 무비판적인 수용에 대해 경고의 메시지를 던졌다.
장동경 교수
그는 "인공지능이 본격적으로 도입되면 의료사회는 인공지능 의존성이라는 문제가 대두될 가능성이 높다"면서 "점차 인공지능이 제시하는 판단을 무비판적으로 받아들이고 스스로 판단하는 전문가적 능력이 저하될 수 있다"고 내다봤다.
그는 응급상황에서의 대처 능력도 떨어질 가능성을 제기하기도 했다.
실제로 항공기에 자동항법장치가 도입된 이후 비행기 조종사들의 위기 대처 속도가 저하되었다는 데이터가 있는 만큼 의료현장도 이와 다를 것이라고 장담하기 어렵다는 게 그의 설명이다.
장 교수는 의료의 질을 유지하기 위해 인공지능 의료기기의 성능을 평가하는 평가위원회와 같은 의료전문가 조직의 필요성을 제기했다.
그는 "인공지능 시대에 의사가 공부를 덜 해도 괜찮을 것이라는 생각은 접어둬야 한다"면서 "인공지능이라는 참고서를 제대로 활용하고 역으로 지배당하는 상황을 피하기 위해서는 의사의 평생 교육이 더 필요하다"고 강조했다.
그는 인공지능 소프트웨어의 실력이 학습을 위해 투입되는 데이터의 양과 질에 의해 결정된다는 점에서 인공지능 의료기기의 수준은 현존하는 의료의 종합적 수준을 뛰어넘는 것이 아니라고 단정했다.
즉, 인공지능 알고리즘을 만들어 내는 데이터 과학자로서의 의료 연구자의 역할이 더욱 중요해 질 것인데, 그들의 역량과 노력에 의해 진료 현장의 의사들이 활용할 인공지능 의료기기의 품질이 결정될 것이라는 얘기다.
또한 장 교수는 인공지능의 오류에 대해서도 대처 능력을 갖출 것을 제안했다.
그는 "의료기기로 승인, 관리되는 경우에는 오류가 발생하면 일차적인 책임은 제조사에게 있지만 오류를 걸러내지 못해 환자에게 해를 끼쳤을 경우에는 진료 의사도 그 책임에서 벗어나기 힘들 것"이라고 봤다.
현재 딥러닝이라는 방법론 자체가 인공지능을 학습시키기 위해 제공하는 방대한 데이터들이 어떻게 패턴화되고 적절한 결과를 도출하는지 명확히 설명하기 어려운 경우가 많은 상황.
그는 앞으로 인공지능이 내린 판단을 제대로 평가할 수 있는 기술적 투명성을 확보하는 것을 중요한 숙제로 꼽았다.
그는 이어 "특히 의료기기가 아닌 인공지능 소프트웨어의 권고를 참고해 진료하는 의사는 AI의 권고 의견을 진료에 적용할 지 여부를 최종적으로 결정하고 그 결과에 책임져야 한다"고 덧붙였다.
성균관의대 장동경 교수(내과학)는 대한의학회 7월호 E-NEWS LETTER에 '미래의료에 미치는 인공지능의 영향'이라는 제목의 칼럼을 통해 AI시대에 의사들이 무비판적인 수용에 대해 경고의 메시지를 던졌다.
그는 응급상황에서의 대처 능력도 떨어질 가능성을 제기하기도 했다.
실제로 항공기에 자동항법장치가 도입된 이후 비행기 조종사들의 위기 대처 속도가 저하되었다는 데이터가 있는 만큼 의료현장도 이와 다를 것이라고 장담하기 어렵다는 게 그의 설명이다.
장 교수는 의료의 질을 유지하기 위해 인공지능 의료기기의 성능을 평가하는 평가위원회와 같은 의료전문가 조직의 필요성을 제기했다.
그는 "인공지능 시대에 의사가 공부를 덜 해도 괜찮을 것이라는 생각은 접어둬야 한다"면서 "인공지능이라는 참고서를 제대로 활용하고 역으로 지배당하는 상황을 피하기 위해서는 의사의 평생 교육이 더 필요하다"고 강조했다.
그는 인공지능 소프트웨어의 실력이 학습을 위해 투입되는 데이터의 양과 질에 의해 결정된다는 점에서 인공지능 의료기기의 수준은 현존하는 의료의 종합적 수준을 뛰어넘는 것이 아니라고 단정했다.
즉, 인공지능 알고리즘을 만들어 내는 데이터 과학자로서의 의료 연구자의 역할이 더욱 중요해 질 것인데, 그들의 역량과 노력에 의해 진료 현장의 의사들이 활용할 인공지능 의료기기의 품질이 결정될 것이라는 얘기다.
그는 "의료기기로 승인, 관리되는 경우에는 오류가 발생하면 일차적인 책임은 제조사에게 있지만 오류를 걸러내지 못해 환자에게 해를 끼쳤을 경우에는 진료 의사도 그 책임에서 벗어나기 힘들 것"이라고 봤다.
현재 딥러닝이라는 방법론 자체가 인공지능을 학습시키기 위해 제공하는 방대한 데이터들이 어떻게 패턴화되고 적절한 결과를 도출하는지 명확히 설명하기 어려운 경우가 많은 상황.
그는 앞으로 인공지능이 내린 판단을 제대로 평가할 수 있는 기술적 투명성을 확보하는 것을 중요한 숙제로 꼽았다.
그는 이어 "특히 의료기기가 아닌 인공지능 소프트웨어의 권고를 참고해 진료하는 의사는 AI의 권고 의견을 진료에 적용할 지 여부를 최종적으로 결정하고 그 결과에 책임져야 한다"고 덧붙였다.
관련기사
- 4차 산업과 ‘소통 부재’ 의료기기 전담조직이 없다 2017-07-21 01:21:17
- "인공지능은 의료현장을 어떻게 변화시키고 있을까" 2017-07-12 11:58:39
- 4차산업 핵심 의료기기…구호만 요란, 실체가 없다 2017-07-12 02:14:18
많이보는 뉴스
