| r12 vs r13 | ||
|---|---|---|
| ... | ... | |
| 57 | 57 | |
| 58 | 58 | [[https://www.news1.kr/society/general-society/5823736|뉴스1 - "맛도 좋고 건강에 좋다?"…맹독 지닌 '붉은사슴뿔버섯' 거짓 레시피 논란]] |
| 59 | 59 | |
| 60 | === 2026년 대한민국 대법원의 AI 환각 대책 === | |
| 61 | 대한민국 대법원은 2026년 4월 법관과 변호사가 합동 참여한 태스크포스 논의를 통해 환각에 의한 거짓 사건을 인용하여 서류를 제출하는 등으로 인해 불필요한 절차 지연이 발생하는 경우 그 비용을 서류를 제출한 당사자(또는 변호인)가 직접 부담하도록 하고, 환각이 들어간 서류를 법정에서 사용하는 것을 제한하고, 변호사가 환각을 걸러내지 못하는 경우 변호사협회에 징계를 요구할 수 있도록 하는 방안을 검토 중인 것으로 알려졌다.[* 유서현, [[https://youtu.be/TVX3RM6hz3I|AI 가짜판례 검증 없이 내면 과태료 부과ㆍ징계]], 2026. 4. 1., YTN] | |
| 62 | ||
| 60 | 63 | == 역설: 더 발전할수록 환각이 늘어난다? == |
| 61 | 64 | 통상적으로 모델이 업데이트될수록 환각이 줄어드는 것이 정설이었으나, [[2025년]] [[OpenAI]]의 추론 모델에서 이 공식이 깨지는 현상이 관측되었다. OpenAI 사내 벤치마크(PersonQA) 기준으로 o1 모델의 환각률은 16%였으나, o3는 33%, o4 미니는 무려 48%에 달했다. [[https://www.fnnews.com/news/202504201250325892|파이낸셜뉴스 - 챗GPT 환각률 48%]] OpenAI는 기술 보고서에서 모델이 더 많은 요청에 응답하게 되면서 잘못된 결과 출력도 함께 증가한 것으로 보인다고 분석했으나, 정확한 원인 규명을 위해 추가 연구가 필요하다는 입장을 밝혔다. |
| 62 | 65 | |
| ... | ... |