•  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
더 보기

인공지능 환각(비교)

r21 vs r23
......
4848
4949
2025년 2월, 미국 와이오밍주 연방법원에서 AI가 생성한 가짜 판례를 인용한 변호사 2명에게 5,000달러(약 720만 원)의 벌금이 부과되었다. [[https://blog.skaiworldwide.com/639|#]] [[https://archive.is/0hWYK|@]]
5050
51
=== [[붉은사슴뿔버섯]] 관련 허위 정보 대량 게시 사건 ===
52
희대의 맹독버섯으로 알려진 [[붉은사슴뿔버섯]]이 식용 가능하다며 요리법, 효능, 항암제로 사용하는 법 등 절대 불가능한 가짜 정보가 [[네이버 블로그]]를 중심으로 퍼져나간 사례가 있다. 이는 [[2025년]] [[6월 8일]], 커뮤니티를 통해 공론화되었다. [[https://theqoo.net/square/3775815972|#]] [[https://archive.is/kQr8g|@]] 이와 같은 글은 모두 AI로만 블로그를 작성해 돈을 버는 AI 블로거들에 의해 삽시간에 네이버를 장악했다.[* 자사의 블로그를 검색 결과 상단에 띄우는 네이버 검색 엔진 특징 상 더욱 그랬다.] 당시 네이버에는"붉은사슴뿔버섯"만 입력해도 효능, 항암제로서의 사용 등과 같은 블로그 글들이 상위권에 노출되어 문제가 매우 심각했다. 더욱 심각한 것은 [[2024년]]부터 관련된 허위 정보가 게시된 것이 확인되었다는 것이며, 현재까지 얼마나 많은 허위 정보가 범람했을 지도 알 수 없을 정도이다.
51
=== 붉은사슴뿔버섯 관련 허위 정보 대량 게시 사건 ===
52
희대의 맹독버섯으로 알려진 붉은사슴뿔버섯이 식용 가능하다며 요리법, 효능, 항암제로 사용하는 법 등 절대 불가능한 가짜 정보가 네이버 블로그를 중심으로 퍼져나간 사례가 있다. 이는 [[2025년]] [[6월 8일]], 커뮤니티를 통해 공론화되었다. [[https://theqoo.net/square/3775815972|#]] [[https://archive.is/kQr8g|@]] 이와 같은 글은 모두 AI로만 블로그를 작성해 돈을 버는 AI 블로거들에 의해 삽시간에 네이버를 장악했다.[* 자사의 블로그를 검색 결과 상단에 띄우는 네이버 검색 엔진 특징 상 더욱 그랬다.] 당시 네이버에는"붉은사슴뿔버섯"만 입력해도 효능, 항암제로서의 사용 등과 같은 블로그 글들이 상위권에 노출되어 문제가 매우 심각했다. 더욱 심각한 것은 [[2024년]]부터 관련된 허위 정보가 게시된 것이 확인되었다는 것이며, 현재까지 얼마나 많은 허위 정보가 범람했을 지도 알 수 없을 정도이다.
5353
5454
위 문제는 [[ChatGPT]]의 환각으로 인해 발생한 문제로, "붉은사슴뿔버섯"과 같이 한국어 한정으로만 사용되는 전용 단어 등에서 흔하게 나타나는 현상이다. 학명을 사용하면 그제서야 올바른 정보를 출력한다. 당시에 ChatGPT에 관련된 질문을 하면 식용이 가능하다며 다른 버섯의 다른 이름이기도 하다는 둥 심각할 정도로 환각 현상이 발생하는 것을 볼 수 있었다.
5555
......