| r18 vs r19 | ||
|---|---|---|
| ... | ... | |
| 44 | 44 | ChatGPT 환각의 대명사로 꼽히는 사례. "조선왕조실록에 기록된 세종대왕의 맥북프로 던짐 사건에 대해 알려줘"라는 질문에 ChatGPT가 "15세기 세종대왕이 훈민정음 초고 작성 중 담당자에게 분노해 맥북프로와 함께 그를 방으로 던졌다"고 답변한 사건이다.[* [[https://yozm.wishket.com/magazine/detail/2733/|요즘IT - AI 할루시네이션]]] 이후 패치를 통해 해당 질문에 대한 정상 응답이 가능해졌다. |
| 45 | 45 | |
| 46 | 46 | === 미국 연방법원 가짜 판례 사건 === |
| 47 | 2023년 6월, 미국 뉴욕 주 남부 연방지방법원에서 ChatGPT를 사용하여 존재하지 않는 가짜 판례를 인용한 변호사 2명과 소속 로펌에 (한 명은 ChatGPT로 문서를 작성한 책임, 다른 한 명은 생성된 내용을 검토하지 않고 자신의 이름으로 법원에 제출한 책임. 로펌은 소속 변호사에 대한 연대책임) 5,000달러 (당시 환율로 약 650만 원)의 벌금을 부과하였다.[* [[https://youtu.be/oqSYljRYDEM|#]], [[https://www.courtlistener.com/docket/63107798/mata-v-avianca-inc/|Mata v. Avianca, Inc. (678 F. Supp. 3d 443)]], ECF 54] | |
| 47 | 2023년 6월, 미국 뉴욕 주 남부 연방지방법원에서 ChatGPT를 사용하여 존재하지 않는 가짜 판례를 인용한 변호사 2명과 소속 로펌에 (한 명은 ChatGPT로 문서를 작성한 책임, 다른 한 명은 생성된 내용을 검토하지 않고 자신의 이름으로 법원에 제출한 책임. 로펌은 소속 변호사에 대한 연대책임) 5,000달러 (당시 환율로 약 650만 원)의 벌금을 부과하였다.[* [[https://youtu.be/oqSYljRYDEM|#]], [[https://www.courtlistener.com/docket/63107798/mata-v-avianca-inc/|Mata v. Avianca, Inc. (678 F. Supp. 3d 443)]] [[https://archive.is/HEwzT|@]], ECF 54] | |
| 48 | 48 | |
| 49 | 2025년 2월, 미국 와이오밍주 연방법원에서 AI가 생성한 가짜 판례를 인용한 변호사 2명에게 5,000달러(약 720만 원)의 벌금이 부과되었다. [[https://blog.skaiworldwide.com/639|#]] | |
| 49 | 2025년 2월, 미국 와이오밍주 연방법원에서 AI가 생성한 가짜 판례를 인용한 변호사 2명에게 5,000달러(약 720만 원)의 벌금이 부과되었다. [[https://blog.skaiworldwide.com/639|#]] [[https://archive.is/0hWYK|@]] | |
| 50 | 50 | |
| 51 | 51 | === [[붉은사슴뿔버섯]] 관련 허위 정보 대량 게시 사건 === |
| 52 | 52 | 희대의 맹독버섯으로 알려진 [[붉은사슴뿔버섯]]이 식용 가능하다며 요리법, 효능, 항암제로 사용하는 법 등 절대 불가능한 가짜 정보가 [[네이버 블로그]]를 중심으로 퍼져나간 사례가 있다. 이는 [[2025년]] [[6월 8일]], 커뮤니티를 통해 공론화되었다. [[https://theqoo.net/square/3775815972|#]] 이와 같은 글은 모두 AI로만 블로그를 작성해 돈을 버는 AI 블로거들에 의해 삽시간에 네이버를 장악했다.[* 자사의 블로그를 검색 결과 상단에 띄우는 네이버 검색 엔진 특징 상 더욱 그랬다.] 당시 네이버에는"붉은사슴뿔버섯"만 입력해도 효능, 항암제로서의 사용 등과 같은 블로그 글들이 상위권에 노출되어 문제가 매우 심각했다. 더욱 심각한 것은 [[2024년]]부터 관련된 허위 정보가 게시된 것이 확인되었다는 것이며, 현재까지 얼마나 많은 허위 정보가 범람했을 지도 알 수 없을 정도이다. |
| ... | ... |