AI 할루시네이션 — 뜻, 원인, 유형, 체크 방법
AI 할루시네이션은 생성형 AI가 사실이 아니거나 근거 없는 내용을 사실처럼 자신 있게 말하는 현상입니다. 이 페이지는 할루시네이션에 대해 알아야 할 것 — 왜 생기는지, 어떤 모양인지, 언제 비용이 되는지, 어떻게 체크하는지 — 을 짧게 답하고, 자세한 글로 이어 줍니다.
짧게 답하면
| 뜻 | 생성형 AI가 사실이 아니거나 근거 없는 내용을 사실처럼 자신 있게 말하는 현상. '환각'이라고도 합니다. 자세히 |
|---|---|
| 원인 | 언어 모델은 참이 아니라 그럴듯한 다음 단어를 고릅니다. 기억의 빈칸, 학습 시점, 틀린 전제, 출처 요구에서 특히 자주 생깁니다. 자세히 |
| 유형 | 없는 근거 지어내기, 거짓 전제 편승, 세부 수치 오류, 있는 규정 부정, 틀린 자료 전파, 개정 미반영, 출처 조작, 과신. 자세히 |
| 사례 | 가짜 판례를 인용해 제재받은 변호사(2023), 챗봇의 잘못된 안내에 회사 책임을 인정한 결정(2024), 법원 문서 사례 1,624건(2026년 6월). 자세히 |
| 체크 방법 | 사실 주장을 뽑고, 원문이 있어야 할 곳에서 현행 원문을 열어 문장 단위로 대조하고, 못 찾은 것은 '확인 안 됨'으로 둡니다. 자세히 |
| 가짜 판례 판별 | 못 찾았다고 곧 없다고 하지 않습니다. 탐색 커버리지·형식·근접도로 '없음'의 확신을 숫자로 냅니다. 자세히 |
왜 생기고, 어떤 얼굴로 나타나고, 언제 비용이 되나
지수의 숫자를 읽으려면 먼저 무엇을 재는지 알아야 합니다. 첫 특별호는 할루시네이션 자체를 다룹니다 — 언어 모델이 왜 그럴듯한 거짓을 만드는지, 그 거짓이 어떤 모양으로 나타나는지, 그리고 그것이 실제로 누군가의 비용이 된 순간들.
할루시네이션 체크 방법, 부존재 신뢰도, 원문이 판정하는 구조
두 번째 특별호는 확인하는 쪽의 이야기입니다. 사람이 손으로 할루시네이션을 체크하는 방법, 그리고 유메가 같은 일을 어떻게 기계적으로 — 그러나 AI의 짐작이 아니라 원문으로 — 하는지. 우리가 할 수 없는 것도 같이 적었습니다.
YUME 할루시네이션 지수
AI가 근거 없이 지어내는 비율을 공식 원문으로 정답을 확정한 질문으로, 같은 방법을 써서 반복해 잽니다. 숫자마다 표본·신뢰구간·방법을 함께 싣고, 발행본에는 고칠 수 없는 지문을 붙입니다.
자주 묻는 질문
AI 할루시네이션이란 무엇인가요?
생성형 AI가 존재하지 않는 사실·출처·수치를 만들어 내거나 실재하는 사실을 틀리게 말하면서도 확신에 찬 문장으로 내놓는 현상입니다. '환각'이라고도 합니다.
할루시네이션은 왜 생기나요?
언어 모델은 문장이 참인지가 아니라 다음에 올 그럴듯한 단어를 고르도록 학습됩니다. 학습 데이터에 드문 사실, 학습 이후 바뀐 기준, 틀린 전제가 깔린 질문, 출처 요구에서 특히 자주 생깁니다.
할루시네이션을 줄일 수 있나요?
검색 결과를 붙이는 방식(RAG), 프롬프트 개선, 더 큰 모델로 줄일 수는 있지만 0으로 만들 수는 없습니다. 틀리면 피해가 생기는 글은 내보내기 전에 원문으로 확인하는 단계가 따로 필요합니다.
할루시네이션 체크는 어떻게 하나요?
사실 주장을 하나씩 뽑고, 그 사실이 있어야 할 원문(법령·판례·논문·발표 자료)을 직접 열어 현행 버전과 문장 단위로 대조합니다. 못 찾은 것은 '없다'가 아니라 '확인 안 됨'으로 두고 기록을 남깁니다. 유메는 이 과정을 자동으로 합니다.
유메는 무엇인가요?
AI가 쓴 글의 근거를 공식 원문과 대조하는 AI 할루시네이션 검사 서비스입니다. 글 한 편을 검사하고, 회사의 AI 서비스를 표본으로 감사하고, 같은 방법으로 잰 숫자를 YUME 할루시네이션 지수로 공개합니다.