의학 연구와 논문에도 생성형 인공지능을 활용하는 사례가 늘어나자 국내 최고 권위의 학술단체인 대한민국의학한림원이 이에 대한 효율적 방안을 마련하기 위한 논의를 시작했다.

이 자리에 모인 전문가들은 의학 연구에 있어 AI의 활용은 분명 장점이 있다면서도 투명성이 선결 과제라는 의견을 내놨다.

11일 대한민국의학한림원은 온라인을 통해 '의학 연구 및 출판에서 AI의 이용과 윤리적 고찰'을 주제로 제22회 학술포럼을 개최했다.

이날 연세의대 예방의학과 유승찬 교수는 '연구와 논문작성에서 생성형 AI의 올바른 활용'에서 주의해야할 사항 등을 공유했다.

유승찬 교수는 "연구에서 생성형 AI를 올바르게 활용하기 위해서는 AI가 생성형 AI가 강력하더라도 완벽하지 않다는 점을 명심해야 한다"며 "또 생성형 AI가 제공하는 정보는 항상 신뢰할 수 있는 출처와 교차 검증이 필요하다"고 전했다.

또한 "적절한 맥락과 지침을 제공하면 훨씬 좋은 아웃풋을 받을 수 있으나, 다만 .대형언어모델의 경우 세상에 존재하는 거대한 텍스트가 반영돼 있어 사회적 편향도 포함될 수 있어 이런 부분을 유념하고, 다른 연구자들과 협력하고 지식을 공유할 필요가 있다"고 전했다.

특히 유승찬 교수는 의학 연구 등에서 AI 활용 시 투명성과 책임감 등에 대한 부분을 재차 강조했다.

실제로 최근 많은 저널에서 해당 AI를 활용한 연구를 인정하고 있지만 이에 대한 투명한 공개를 요구하고 있다는 것.

유승찬 교수는 "이미 많은 저널에서 AI를 사용했을 때 어떤 역할을 했는지 등을 투명하게 공개하도록 하고 있다"며 "여기에 AI를 사용할 때 윤리적 영향을 고려해 개인정보 보호에 대한 부분과 생성된 콘텐츠의 오용가능성 등 저널의 윤리적 가이드라인 반드시 준수해야한다"고 강조했다.

덧붙여 "AI는 유용한 도구지만 비판적 사고, 전문지식, 엄격한 연구 방법론을 대체해서는 안된다는 점을 생각해 과도한 의존은 피할 수 있어야 한다"며 "마지막으로 연구 결과를 출판할 경우 저널의 정책을 준수하고, 궁극적인 책임은 연구자에게 있다는 점을 인식할 필요가 있다"고 말했다.

이어 '의학논문 심사, 편집, 발행에서 생성형 AI의 올바른 활용'에 대해서 발표한 순천향의대 소화기내과학 유정주 교수 역시 AI 활용에 대한 맹신은 주의해야하며, 투명성 등이 필요하다는 점에 공감했다.

유정주 교수는 "생성형 AI를 활용할 경우 리뷰 과정에서 도움이 되는 것은 사실이지만 이를 맹신할 경우 학술적 판단력의 약화, 학문적 기준의 저하로 결과적으로은 저널의 impact 저하가 이어질 수 있다"며 "생성형 AI는 게이트 키퍼로서의 역할을 한다는 점을 생각해야한다"고 말했다.

아울러 논문 심사에서 중요한 요소인 재현성과 일관성과 관련해 빠르게 발전하는 생성형 AI는 이를 담보할 수 없다는 점도 언급했다.

즉 현 시점에서 생성형 AI에 대한 일부 활용은 가능하지만 의학 논문의 심사 등에서 대체까지는 아직 어렵다는 지적을 전했다.

여기에 유 교수는 이를 현명하게 사용하기 위해서는 연구자의 대형언어모델(Large Language Model, 이하 LLM)에 대한 이해와 함께, 투명성, 데이터 보호, 가이드라인 개발 등이 필요하다고 설명했다.

유 교수는 "심사를 위해서는 리뷰어, 에디터는 최소한 저자보다 LLM을 잘 사용할 줄 알아야하고, 장단점을 확실하게 파악해 사용해야한다"며 "또 저자와 마찬가지로 리뷰어 역시 LLM을 사용할 경우 이를 투명하게 공개해야한다"고 말했다.

이어 "다만 원고 전체를 LLM에 업로드 하거나 하면 데이터 보호에 문제가 있는 만큼 이를 주의해야한다"며 "이에 이런 부분 등을 포함해 LLM 사용을 인정하고 받아들이며 관련 가이드라인 등을 개발할 필요가 있다"고 덧붙였다.