◀ 앵커 ▶
최근 화재나 각종 사건·사고 현장에서 드론과 열화상 카메라 같은 첨단 장비의 역할이 커지고 있습니다.

하지만 AI는 이런 영상이나 소리를 잘못 해석해 엉뚱한 판단을 내리는 이른바 '환각' 현상을 일으키기도 하는데요.

AI의 환각 현상을 줄이는 기술을 국내 연구진이 개발했습니다.

이교선 기자입니다.

◀ 리포트 ▶

사람 눈에 보이지 않는 열을 탐지하는 열화상 카메라.

화재 현장에서 발화 지점을 찾거나 동물을 찾는 등 다양한 분야에 활용됩니다.

하지만 AI는 열화상 영상도 일반 사진처럼 인식해 엉뚱한 해석을 하기도 합니다.

예를 들어, 고데기로 달궈져 붉게 보이는 머리카락을 염색한 머리로 판단하는 겁니다.

KAIST 연구진은 AI가 센서의 특성까지 이해하도록 해 편향과 환각을 줄였습니다.

유영준/KAIST 전기및전자공학부 박사
"AI모델이 그런 오답 노트를 기반으로 작은 데이터를 가지고도 훨씬 효과적으로 편향과 그런 환각을 줄일 수 있는 것을 발견하였습니다."

영상과 소리가 서로 다른 정보를 전달할 때 생기는 AI의 착각도 줄였습니다.

사격장 영상에서 총을 장전만 했는데도 주변의 총소리 때문에 발사한 것으로 오인하고,

비둘기만 있는 영상에 닭 울음소리가 섞이자 닭이 있다고 판단하는 환각을 줄인 겁니다.

AI가 질문에 맞춰 영상과 소리 가운데 어떤 정보를 더 믿어야 하는지를 먼저 판단하게 만든 게 핵심 기술입니다.

노용만 / KAIST 전기및전자공학부 교수
"지금 이 기술이 바로 적용되면 환각을 좀 덜 일으키는, 센서 편향성을 덜 일으키는 정찰과 감시, 탐지를 할 수 있다는 것이고요"

연구팀은 이 기술이 자율주행차와 구조 로봇, 공항 보안 검색, 의료 영상 분석 등 다양한 분야에서 AI의 신뢰성을 높이는 핵심 역할을 할 것으로 기대하고 있습니다.

MBC 뉴스 이교선입니다.