인공지능 산업 생태계의 “신경망”이 되겠습니다.

홍보자료
  홍보자료 > 기획·칼럼 > 전문위원 특별기고

기획·칼럼

제목 의료·헬스케어 분야, “생성AI 도입, 그 안전성과 신뢰성 및 편견에 집중해야 할 시점”
작성일자 2023-06-05

의료·헬스케어 분야, “생성AI 도입, 그 안전성과 신뢰성 및 편견에 집중해야 할 시점”

한국열린사이버대학교 인공지능융합학과 학과장 정유채 교수

한국열린사이버대학교 인공지능융합학과 학과장 정유채 교수

필자, 정유채 교수는 숙명여자대 컴퓨터과학 학사, 가톨릭의과대 의료정보학 석사와 의료정보학 박사로 美브리검여성병원(Brigham and Women's Hospital) 의료정보학 연구원, 뉴욕주립대학교(SUNY) 박사후 연구원을 거쳐 서울대 융합과학기술대학원 BK조교수, KAIST 전산학부 겸직교수 등으로 재임했다.

현재, 한국열린사이버대학교 인공지능융합학과 학과장으로 인공지능 기술과 다양한 산업분야를 융합하는 ‘AI + X’ 교육과정 개발 및 산학협력 연구 등을 통해 산업계에서 필요한 인력양성에 매진하고 있으며 중소벤처기업부 평가위원, TTA SW 품질인증심의위원, 한국인공지능협회 전문위원 등으로 활동 중이며, 주요 연구성과로 '생체신호와 챗봇 기반의 심리진단 및 실시간 대응/치료 시스템', '의료정보 특화 NLP 기반 임상시험 지원용 지능형 대화서비스 API 개발' 등을 꼽는다.<편집자 주>

인공지능(AI)은 질병을 조기에 발견하고 치료에 대한 접근성을 확대하는 데 도움이 되는 방법으로 영상의학, 병리학, 안과, 피부과 등 다양한 의료영역에서 눈부신 활약을 펼치고 있는 가운데 최근 발표된 GPT-4는 대화 이해(NLU)와 응답 생성(NLG) 외에도 이미지 분류(classification)나 캡셔닝(captioning) 관련 성능도 향상되어 헬스케어나 의료 분야에 적용될 경우 많은 변화를 가져올 것으로 예상된다.

인공지능 기술은 의사의 진단을 보조하거나 의료 이미지 분류, 의료정보 분석 등에 활용될 수 있다. 특히 영상의학과에서는 인공지능 기술을 적용해 X-ray, CT, MR 이미지 등을 분석하여 의사의 질병 진단을 보조하고 있다.

또한 딥러닝 기술을 적용해 당뇨 판별을 위한 안저 영상 분석이나 피부 사진을 분석하여 피부암 진단 등에도 인공지능 기술이 이미 활용되고 있다.

여기에, 의료인공지능 분야에 챗GPT 등의 생성 AI(Generative AI)가 접목되면서 건강정보 챗봇, 병원 예약 서비스, 비대면 진료 솔루션 개발 등과 질병 관리, 의료 문서 작성, 의료 문헌 요약, 임상시험 대상자 모집, 약물 정보 제공, 의료 교육, 정신과 상담, 원격의료 분야 등에도 그 활용도를 높이고 있다.

또한 환자 기록을 요약하고 처방에 필요한 필수 정보를 효율적으로 추출하여 질병 진단의 정확도를 높이고 환자 별로 개인화 된 맞춤치료법을 제시할 수 있게 될 전망이다.

챗GPT가 발표된 지 몇 주 후에 구글 딥마인드는 초거대 언어 모델(LLM)로 의료 전문가와 환자가 제기한 질문에 안전하고 유용한 답변을 생성하도록 설계한 ‘메드팜(Med-PaLM-논문)’이라는 AI 기반 챗봇 도구를 출시했다.

이 모델은 6종류의 기존 의료 Q&A 데이터셋(NedQA, MedMCQA, PubMedQA, LiveQA, MedicationQA, MMLU)과 구글 딥마인드팀이 온라인에 게시된 건강 상태 및 관련 증상에 대한 질문을 사용하여 ‘헬스서치QA(HealthSearchQA)’라는 데이터 세트를 자체 개발해 보강했다.

마이크로소프트는 생물학 분야에 특화된 초거대 언어모델인 BioGPT(다운)를 출시하였고 국내 헬스케어 플랫폼 회사들은 챗GPT를 적용한 건강정보를 제공하는 다양한 대화 서비스를 공개하고 있다.

또한, 엔비디아 AI 헬스케어 솔루션 클라라(NVIDIA Clara) 소프트웨어 및 서비스 제품군의 채택 사례가 확대되고 있는 가운데 최근, 클라라 생태계에 생성 AI에서 고품질 텍스트 응답 생성과 안전 지원하는 '엔비디아 네모'와 융합되면서 질문에 응답, 긴 문서 요약, 소프트웨어 작성, 신약 설계 가속화까지 폭넓게 활용되고 있다. 특히, 사용자가 이러한 새로운 종류의 AI 기반 애플리케이션을 안전하게 보호할 수 있도록 설계됐다.

이처럼 다양한 분야에서 생성 AI 애플리케이션들은 그 능력을 펼치고 있다. 아직, 대화형 언어 모델들은 답변에 대한 신뢰도 및 잘못된 정보 제공 등과 같은 문제로 남아 있지만, 이에 이미지를 더해 멀티 모달로 진화하면서 생성형 AI 모델들은 출시된 지 몇 달 만에 이미 역사상 가장 인기 있는 컴퓨터 애플리케이션이 됐다.

무엇보다 중요한 것은 의료·헬스케어 분야의 생성 인공지능 도입에서 최우선 순위는 안전성과 신뢰성 및 편견에 최대한 집중해야 할 시점이다. “AI가 무엇을 할 수 있는지에 대해 사람들이 믿음을 가지고, AI가 무언가를 모를 때 모른다고 말할 수 있는 지점에 도달해야 한다”지만 이를 통한 의료 환경의 변화 및 헬스케어 산업의 대변화는 현재 진행 중인 것이다.


 출처: [칼럼] 정유채 교수, 의료·헬스케어 분야, “생성AI 도입, 그 안전성과 신뢰성 및 편견에 집중해야 할 시점” < 칼럼 < OPINION < 기사본문 - 인공지능신문 (aitimes.kr) 한국열린사이버대 정유채 교수 webmaster@aitimes.kr
 

 




 

 
정유채 
- 한국열린사이버대학교 인공지능융합학과 교수
- 가톨릭대학교 의료정보학 박사
- 전) KAIST 전산학부 겸직교수
- 전) 서울대학교 융합과학기술대학원 BK조교수
- 전) Harvard Medical School 방문연구원
- 전) 뉴욕주립대학교(SUNY) 방문연구원


조회수 1631