JYP Garden

Ontology Population using LLMs

Properties1
tagsontology, llm, hallucination, knowledge-extraction, structured-data, knowledge

6 min read

해

Ontology Population using LLMs

채널: AI인터시스브랜드 | 날짜: 2025-12-12 | 길이: 약 7분 55초

Summary

AI의 주요 약점인 “hallucination(그럴싸한 거짓)“을 극복하고, 혼란스러운 텍스트 속에서 진정한 지식만을 추출하는 온톨로지 기반 접근 방법을 소개합니다.

온톨로지는 구조화된 데이터 표준을 정의하여, LLM의 자유로운 생성에서 벗어나 검증 가능한 사실만 추출하도록 제약합니다. 이는 LLM의 신뢰성을 높이고 엔터프라이즈 급 지식 시스템을 구축하는 핵심 전략입니다.

Key Claims

  • Hallucination 문제: AI는 그럴싸하지만 거짓인 정보(hallucination)를 생성하는 경향이 있음
  • 자유로운 생성의 위험: 제약이 없는 LLM 프롬프트는 원하지 않는 혼합/오염된 결과를 초래
  • 온톨로지의 역할: 클래스, 관계, 속성을 명확히 정의하여 LLM의 출력을 제한
  • 구조화된 추출: 자유로운 텍스트 → 온톨로지 준수하는 구조화된 데이터로 변환
  • 검증 가능성: 온톨로지 기반 추출은 검증, 정정, 개선이 용이함

Key Topics

1. AI Hallucination의 근본 원인

자유로운 생성 프롬프트
  ↓
LLM이 패턴 기반으로 "그럴듯한" 텍스트 생성
  ↓
실제 사실과 무관한 거짓 정보 생산

예시:

  • 프롬프트: “이 텍스트에서 모든 인물과 그들의 직업을 나열해줘”
  • LLM: 텍스트에 없는 인물과 직업을 만들어낼 수 있음
  • 결과: 신뢰 불가능한 정보 혼재

2. 온톨로지의 제약 메커니즘

온톨로지 정의
  ├─ Classes: Person, Organization, Location
  ├─ Properties: name, title, affiliation
  └─ Relationships: WORKS_FOR, LOCATED_IN

LLM 프롬프트
  "다음 텍스트를 온톨로지에 맞춰 추출하세요:
   - Person의 속성: name, title만 추출
   - Organization의 속성: name, industry만 추출
   - WORKS_FOR 관계만 추출 (다른 관계는 무시)"

결과: 온톨로지 스키마를 벗어나는 정보는 생성되지 않음

3. Structured Data Extraction Pattern

입력: 자유로운 비정형 텍스트

"Alice는 Google의 AI Research 팀에서 시니어 엔지니어로 근무 중입니다.
그녀는 2023년부터 이곳에서 일하고 있으며, 머신러닝 모델 최적화를 담당합니다."

온톨로지 스키마:

Person:
  - name (String)
  - title (String)
  
Organization:
  - name (String)
  - domain (String)
 
Relationships:
  - WORKS_FOR: Person → Organization
  - STARTED_DATE: WORKS_FOR.startDate (Integer, Year)

LLM 추출 결과:

{
  "entities": [
    {
      "type": "Person",
      "name": "Alice",
      "title": "Senior Engineer"
    },
    {
      "type": "Organization",
      "name": "Google",
      "domain": "AI Research"
    }
  ],
  "relationships": [
    {
      "type": "WORKS_FOR",
      "from": "Alice",
      "to": "Google",
      "startDate": 2023
    }
  ]
}

4. 온톨로지 기반 추출의 장점

측면자유로운 생성온톨로지 기반
일관성실행마다 다름항상 동일한 스키마
검증어려움쉬움 (스키마 확인)
오류 정정전체 재생성 필요특정 필드만 수정
확장성새로운 필드 추가 시 혼란온톨로지 확장으로 명확
신뢰도낮음 (hallucination 가능)높음 (범위 제한)

Key Insights (My Analysis)

  1. Hallucination vs. 온톨로지: LLM의 자유도를 제약하는 가장 효과적인 방법은 명확한 구조 정의

    • 프롬프트 레벨: “이 필드들만 추출하세요”
    • 시스템 레벨: 온톨로지 검증, 스키마 강제

  2. 엔터프라이즈급 AI의 필수 요소:

    • 단순 챗봇: 자유로운 생성 OK
    • 데이터 기반 시스템: 온톨로지 + LLM = 신뢰 가능

  3. AIINTERSYSBREND 시리즈의 핵심 메시지:

    • 기초 이론(Video 1~10)은 온톨로지의 중요성을 강조
    • Graph RAG(Video 11~20)는 온톨로지 기반 검색의 실전
    • 실무 응용(Video 21~78)은 도메인별 온톨로지 설계

Connections to Other Sources

출처: AI인터시스브랜드 채널 (2025-12-12)

그래프 뷰