•  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
더 보기

인공지능 환각(비교)

r20 vs r21
......
6565
== 역설: 더 발전할수록 환각이 늘어난다? ==
6666
통상적으로 모델이 업데이트될수록 환각이 줄어드는 것이 정설이었으나, [[2025년]] [[OpenAI]]의 추론 모델에서 이 공식이 깨지는 현상이 관측되었다. OpenAI 사내 벤치마크(PersonQA) 기준으로 o1 모델의 환각률은 16%였으나, o3는 33%, o4 미니는 무려 48%에 달했다. [[https://www.fnnews.com/news/202504201250325892|파이낸셜뉴스 - 챗GPT 환각률 48%]] OpenAI는 기술 보고서에서 모델이 더 많은 요청에 응답하게 되면서 잘못된 결과 출력도 함께 증가한 것으로 보인다고 분석했으나, 정확한 원인 규명을 위해 추가 연구가 필요하다는 입장을 밝혔다.
6767
68
gpt-5-thinking-mini 모델은 모델이 정확한 답을 모를경우 답변하지 않는 식으로 환각 현상을 상당히 감소시켰다. 하지만 오히려 정확도는 4o-mini 대비 2% 감소했다.
68
gpt-5-thinking-mini 모델은 모델이 정확한 답을 모를 경우 답변하지 않는 식으로 환각 현상을 상당히 감소시켰다. 하지만 오히려 정확도는 4o-mini 대비 2% 감소했다(...)
6969
7070
특히 법률, 회계, 세무 등 고정확도가 요구되는 산업군에서는 환각 문제가 해결되지 않을 경우 추론형 AI 도입 자체가 어려워질 수 있다는 우려가 제기되고 있다.
7171
......