의학 분야에서 생성형 인공지능(AI)의 활용이 확산되는 가운데, AI가 생성하는 정보의 정확성에 대한 심각한 우려가 제기되고 있다. 특히 의학 논문 작성 과정에서 AI의 정보 오류 가능성은 연구의 신뢰도를 저해하고 환자 안전에까지 영향을 미칠 수 있어 신중한 접근이 요구된다.
■ 의학 연구의 새로운 동력, 생성형 AI
최근 의학 및 과학 분야에서는 생성형 AI를 활용하여 논문 초안 작성, 문헌 검색 및 요약, 데이터 분석 등 다양한 연구 작업을 수행하려는 시도가 활발하다. AI는 방대한 양의 정보를 빠르게 처리하고 복잡한 데이터를 분석하여 연구자들이 효율성을 높이는 데 기여할 것으로 기대를 모으고 있다. 실제로 일부 연구자들은 AI를 통해 연구 아이디어를 발전시키거나, 초기 단계의 논문 작성을 보조하는 등 긍정적인 효과를 경험하고 있다고 밝힌다.
■ '환각 현상'과 정보 정확성 논란
그러나 생성형 AI의 가장 큰 한계로 지적되는 것은 바로 '환각 현상(hallucination)'이다. AI가 사실과 다른 정보를 마치 진실인 것처럼 그럴듯하게 생성하거나, 출처가 불분명한 내용을 인용하는 사례가 빈번하게 발생하고 있다. 의학 논문의 경우, 잘못된 정보는 오진이나 부적절한 치료법 제시로 이어질 수 있어 그 파급력이 치명적이다. 또한 AI의 학습 데이터가 특정 시점까지만 반영되어 최신 의학 지견이나 연구 결과를 반영하지 못하는 점도 문제로 지론된다.
■ 전문가 검증과 윤리적 가이드라인 필수
이러한 문제점을 극복하기 위해서는 AI가 생성한 모든 정보에 대한 철저한 전문가 검증 과정이 필수적이라는 목소리가 높다. 의학 연구자는 AI를 단순 보조 도구로 활용하되, 생성된 내용의 사실 여부를 직접 확인하고, 모든 출처를 명확히 명시해야 한다. 또한 AI 활용에 대한 명확한 윤리적 가이드라인과 규제 마련이 시급하다. AI의 오남용을 방지하고, 의료 분야에서의 신뢰성 있는 AI 활용 방안을 모색하는 것이 당면 과제로 떠올랐다.
생성형 AI는 의학 연구에 혁신적인 변화를 가져올 잠재력을 지니고 있다. 하지만 정보의 정확성이라는 근본적인 한계를 해결하지 못한다면, 그 혜택보다는 위험이 더 커질 수 있다. 기술 발전과 더불어 인간의 엄격한 검증, 그리고 사회적 합의를 통한 윤리적 기준 마련이 조화를 이룰 때 비로소 AI는 의료 분야의 진정한 조력자가 될 전망이다.