환각

환각(Hallucination)은 AI 모델이 실제로 존재하지 않는 정보나 사실이 아닌 내용을 자신감 있게 생성하는 현상을 말합니다. LLM은 확률 기반으로 텍스트를 생성하기 때문에, 그럴듯하지만 틀린 정보를 만들어낼 수 있습니다. 이는 AI의 가장 큰 한계 중 하나로, RAG, Grounding, Fact-checking 등의 기법을 통해 줄일 수 있지만 완전히 제거하기는 어렵습니다. 특히 의료, 법률, 금융 등 정확성이 중요한 분야에서 주의가 필요합니다.