AI Transparency — AI 투명성
정의
AI 시스템이 자신의 결정 과정, 근거, 논리를 명확하게 드러내어, 사용자와 외부 감시자가 그것을 이해하고 검증할 수 있는 특성. “검은 상자”에서 “투명한 상자”로의 전환.
Think-on-Graph로의 실현
기존 문제
LLM의 추론:
"답은 이것입니다"
(어떻게 나왔는지 설명 불가)
→ 신뢰 어려움
Think-on-Graph 해결
지식그래프의 명확한 경로:
"A → B → C → 답변"
(모든 단계 검증 가능)
→ 완전한 투명성
3가지 투명성 차원
| 차원 | 의미 |
|---|---|
| 데이터 투명성 | 어떤 데이터를 사용했나 |
| 논리 투명성 | 어떤 논리로 추론했나 |
| 의사결정 투명성 | 왜 이 결론에 도달했나 |
AI 발전의 방향
초기: "AI가 뭔지 모름" → 투명성 없음
중간: "결과는 좋은데 왜?" → 부분 투명성
미래: "모든 과정 명확" → 완전 투명성
Think-on-Graph는 미래로의 한걸음
출처: AI인터시스브랜드 Video 20 의의: AI 신뢰 구축의 기초