환각1 AI는 왜 너무나 자신 있게 틀린 답을 할까? ChatGPT와 같은 생성형 AI(Generative AI)를 사용하다 보면 놀라운 경험을 자주 하게 된다. 복잡한 개념을 몇 초 만에 설명하고, 긴 문서를 정리하며, 글을 작성하고, 서로 다른 주장까지 비교해준다. 심지어 질문의 의도를 어느 정도 파악하여 사용자가 원하는 형식으로 답변을 바꾸기도 한다.그런데 AI를 오래 사용할수록 한 가지 이상한 점을 발견하게 된다. AI는 틀린 내용을 말할 때도 매우 자신 있게 말한다. 존재하지 않는 논문을 실제 논문처럼 소개하거나, 연구자의 이름이나 출판연도를 잘못 말하기도 한다. 법률 조항이나 판례를 틀리게 제시하는 경우도 있고, 어떤 역사적 사건의 세부 내용을 실제 사실과 섞어 새로운 이야기를 만들어내기도 한다.더 문제가 되는 것은 이런 답변이 겉보기에는 상당히.. 2026. 8. 20. 이전 1 다음
