•  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
더 보기

인공지능 환각(비교)

r15 vs r16
......
1515
=== 데이터 부족과 확률적 언어 예측 구조 ===
1616
LLM(대형 언어 모델)은 정답을 탐색하는 시스템이 아니라 단어를 출력할 때 마다 문맥상 다음에 올 가능성이 가장 높은 토큰(단어)을 확률적으로 예측하는 구조로 답변을 출력한다. 따라서 사실 여부와 관계없이 그럴듯한 문장을 생성하는 것 자체가 모델의 목적에 부합하는 행동이 된다. 즉 AI는 사실 여부를 검토하는 게 아니라 그냥 다음에 올 단어로 가장 적합할 단어를 예측하여 답변하는 방식이기 때문에 학습된 데이터가 충분하지 않더라도 그냥 일단 출력하고 본다.
1717
18
특히 법률, 의료 등 전문화된 분야일수록 양질의 학습 데이터가 부족해 환각 발생 확률이 5%에서 30%까지 증가하는 것으로 알려져 있다.
18
특히 법률, 의료 등 전문화된 분야일수록 양질의 학습 데이터가 부족해 환각 발생 확률이 5%에서 높게는 30%까지 증가하는 것으로 알려져 있다.
1919
2020
=== 훈련 방식 ===
2121
[[OpenAI]]는 AI 환각의 원인이 훈련 설계 자체에 있다고 밝힌 바 있다. 정답을 모를 때에도 어떻게든 추측해서 정답률을 높이도록 학습을 유도하면, 모델은 모르는 질문에 대해서도 그럴듯한 답을 만들어낸다는 것이다. [[https://openai.com/ko-KR/index/why-language-models-hallucinate/|#]]
......