◀ 앵커 ▶
챗GPT 같은 인공지능이 이제 개인과 기업에 맞춤 학습을 제공해 '나만의 AI'가 되는 시대가 왔죠.

하지만, 해로운 정보까지 학습해 안전성이 침해된다는 우려도 큰데, 국내 연구진이 이 문제를 해결할 핵심 기술을 개발했습니다.

이교선 기자입니다.

◀ 리포트 ▶

지난해 챗GPT에 범행 방법을 물었던 미국 플로리다주립대 총기 사건.

AI가 사람의 질문에 어디까지 답해야 하는지를 둘러싼 안전성 논란을 불러왔습니다.

특히 개인이나 기업의 데이터를 추가 학습하는 '파인튜닝' 과정에서 업무 능력은 향상되지만,
기존 안전 규칙이 약해질 수 있다는 우려가 제기돼 왔습니다.

KAIST 연구진은 파인튜닝 과정에서만 AI의 안전장치를 잠시 분리한 뒤, 학습이 끝나면 다시 결합하는 기술을 개발했습니다.

AI가 이미 알고 있는 위험한 정보에는 영향을 받지 않으면서, 사용자가 원하는 업무 능력만 학습하도록 해 위험한 답변이 나오는 비율을 기존 18%에서 8%로 낮췄습니다.

장재혁 / KAIST 전기및전자공학부 박사
“사용자 입장에서는 조금 더 안전한 모델을 가질 수 있다. 내가 풀고자 하는 태스크를 잘 수행하는 모델인 건데, 동시에 더 안전한 모델을 가질 수 있다.”

이 기술은 기업 내부 문서를 활용한 업무 보조는 물론 의료와 법률, 금융처럼 전문성과 안전성이 모두 필요한 분야에 두루 적용할 수 있습니다.

김창익 / KAIST 전기및전자공학부 교수
“고객 상담을 하는 금융 회사의 챗봇이라든가 그다음에 의료, 법률, 금융 등 다양한 그리고 굉장히 중요한 분야에 새로운 맞춤형 AI를 구축하는데..”

AI가 사용자를 더 잘 이해할수록 더 높은 안전성이 요구되는 시대.

맞춤형 성능과 안전성을 동시에 잡기 위한 기술 경쟁도 치열해지고 있습니다.

MBC뉴스 이교선입니다.