대규모 언어 모델이 사실이 아닌 정보를 그럴듯하게 생성해내는 현상. 모델이 훈련 데이터에 없는 정보를 마치 있는 것처럼 만들어내거나, 잘못된 정보를 확신 있게 제시하는 문제.
특징:
- 그럴듯한 표현으로 거짓을 전달
- 모델이 자신감 있게 잘못된 정보 제시
- 사용자의 신뢰를 근본적으로 훼손
영향:
- 의료, 법률, 금융 등 신뢰가 중요한 분야에서 치명적
- AI 도입에 대한 회의론 증대
해결책:
- 팩트 체크 도구 통합 (KG)
- 증거 기반 검증
- 검색 보강 생성 (RAG)