트롤리 딜레마 (Trolley Dilemma)
제어 불가한 상황에서 더 적은 피해를 선택해야 하는 윤리적 딜레마. AI·자율주행 분야에서 알고리즘 의사결정의 윤리 기준으로 중요한 문제로 부상.
고전 정의
트롤리가 선로를 달리고 있을 때:
- 아무 조치 안 함 → 다수(5명) 사망
- 방향 전환 → 소수(1명) 사망 (능동적 행위로 죽임)
어느 쪽이 윤리적으로 정당한가?
자율주행에서의 변형
Waymo 현장 체험에서 논의된 시나리오:
- 왼쪽: 아이
- 오른쪽: 할머니 2명
- 직진: 낭떠러지 → 승객(탑승자) 사망
어떤 선택에 더 높은 가치(Value)를 부여할 것인가?
AI 알고리즘 접근법
강화학습 Expectation Value 활용:
각 대상이 남은 삶 동안 세상에 미칠 기대 가치를 수치화 → 가장 높은 가치를 가진 선택 보호
예: 아이(미래 가치 높음) > 할머니 2명 → 하지만 이는 고객(승객)을 희생하는 모순 발생.
핵심 쟁점
- 가치 기준의 주관성: 회사마다 의사결정 알고리즘이 다름 (어디에 가치를 두느냐)
- 철학 → 공학 문제화: 이미 기업별 알고리즘으로 구현된 실존 문제
- 고객 vs 보행자: 돈을 내는 승객을 희생시킬 수 있는가
관련 노트
- Waymo — 실제 자율주행 사례
- 강화학습 — 의사결정 알고리즘
- Physical-AI — 피지컬 AI 윤리 이슈
- yt-XGuC41Xbf_E-웨이모탑승-피지컬AI-구글IO4