인공지능 환각(비교)

=== [[붉은사슴뿔버섯]] 관련 허위 정보 대량 게시 사건 ===

희대의 맹독버섯으로 알려진 [[붉은사슴뿔버섯]]이 식용 가능하다며 요리법, 효능, 항암제로 사용하는 법 등 절대 불가능한 가짜 정보가 [[네이버 블로그]]를 중심으로 퍼나나간 사례가 있다. 이는 [[2025년]] [[6월 8일]], 커뮤니티를 통해 공론화되었다. [[https://theqoo.net/square/3775815972|#]] 이와 같은 글은 모두 AI로만 블로그를 작성해 돈을 버는 AI 블로거들에 의해 삽시간에 네이버를 장악했다.[* 자사의 블로그를 검색 결과 상단에 띄우는 네이버 검색 엔진 특징 상 더욱 그랬다.] 당시 네이버에는"붉은사슴뿔버섯"만 입력해도 효능, 항암제로서의 사용 등과 같은 블로그 글들이 상위권에 노출되어 문제가 매우 심각했다. 더욱 심각한 것은 [[2024년]]부터 관련된 허위 정보가 게시된 것이 확인되었다는 것이며, 현재까지 얼마나 많은 허위 정보가 범람했을 지도 알 수 없을 정도이다.

[[2026년]] 현재는 일부 글을 제외하면 블로그 작성자들이 글을 내렸거나, 네이버 측에서 직접 삭제하여 어느정도 해결되었다.

위 문제는 [[ChatGPT]]의 환각으로 인해 발생한 문제로, "붉은사슴뿔버섯"과 같이 한국어 한정으로만 사용되는 전용 단어 등에서 흔하게 나타나는 현상이다. 학명을 사용하면 그제서야 올바른 정보를 출력한다. 당시에 ChatGPT에 관련된 질문을 하면 식용이 가능하다며 다른 버섯의 다른 이름이기도 하다는 둥 심각할 정도로 환각 현상이 발생하는 것을 볼 수 있었다.