LLM 환각 (LLM Hallucination)

LLM이 근거가 없거나 틀린 내용을 그럴듯하게 생성하는 현상. 일반 질의응답에서는 불편함에 그칠 수 있지만, 지식 그래프·온톨로지 정렬처럼 정확성이 생명인 작업에서는 구조적 오류를 누적시키는 핵심 위험이다.

설명

llm-hallucination은 모델이 확률적으로 자연스러운 답을 생성하지만, 그 답이 실제 사실·소스·데이터와 일치하지 않는 경우를 말한다. 기존 위키에는 rag-langchain-implementation-datacamp에서 이 개념이 링크로 참조되어 있었으나 별도 개념 페이지는 없었다.

KGE 맥락에서는 환각이 특히 위험하다. knowledge-graph-ontology-engineering는 개념 간 관계를 구조화하는 작업이므로, LLM이 존재하지 않는 관계를 생성하거나 서로 다른 개념을 잘못 정렬하면 그래프 전체에 오류가 전파될 수 있다. 영상은 LLM의 속도·규모 장점에도 불구하고 신뢰성이 치명적 약점이라고 설명한다. (출처: accelerating-knowledge-graph-ontology-engineering-llms)

실무에서는 환각을 “프롬프트를 더 잘 쓰면 사라지는 문제”로 보지 않는 편이 안전하다. 대신 rag, 평가 메트릭, 근거 인용, 도구 호출, 모듈식 문제 분해처럼 모델 외부의 구조적 장치를 함께 설계해야 한다.

실전 적용

• rag — 검색된 근거를 프롬프트에 주입해 사실성 리스크를 낮춤
• modular-decomposition-for-llm-kge — 문제 범위를 줄여 무관한 개념 연결 가능성을 낮춤
• agentic-ai-patterns — Reflection, Tool Use, 평가 루프를 통해 고위험 출력 검증

관련 개념

• knowledge-graph-ontology-engineering — 환각이 구조적 데이터 오류로 이어질 수 있는 대표 영역
• rag — 환각 완화를 위한 외부 근거 기반 접근
• agentic-ai-patterns — 환각을 줄이는 에이전트 설계 패턴

소스

• accelerating-knowledge-graph-ontology-engineering-llms
• rag-langchain-implementation-datacamp