인공지능 환각(비교)

 r17 vs r18
 ...
 또한 RLHF 훈련이 환각을 불러일으킨다는 시각도 있다. 사용자들은 대개 자신이 원하는 대답에 근접할수록 더 좋다는 피드백을 제출한다. 이건 편향된 정보를 AI가 출력했을 때도 마찬가지로, 이로 인해 AI가 편향된 시각에서의 답변을 더 많이 한다. [[https://arxiv.org/abs/1706.03741|#]]
 === 블랙박스 문제 ===
-최신 모델들은 매개변수(파라미터)가 수조 개를 초과하는 수준에 이르렀다. 이 복잡성으로 인해 개발자조차 모델이 왜 특정 답변을 출력하는지 완전히 이해하기 어렵고, 이로 인해 환각을 사전에 탐지하고 제어하기 어렵다.
-그렇기 때문에 최근에는 훈련 데이터와 파라미터를 바꿔가면서 수천, 수만가지의 경우의 수를 가지고 모델을 학습시켜 보고 거기서 가장 우수한 성능을 보이는 모델을 찾아내는 식으로 개발돼고 있다.
+최신 모델들은 매개변수(파라미터)가 수조 개를 초과하는 수준에 이르렀다. 이 복잡성으로 인해 개발자조차 모델이 왜 특정 답변을 출력하는지 완전히 이해하기 어렵고, 이로 인해 환각을 사전에 탐지하고 제어하기 어렵다는 문제가 존재한다.
+그렇기 때문에 최근에는 훈련 데이터와 파라미터를 바꿔가면서 수천, 수만 가지의 경우의 수를 가지고 모델을 학습시켜 보고 거기서 가장 우수한 성능을 보이는 모델을 찾아내는 식으로 개발되고 있다.
 == 유형 ==
 홍콩 과학기술대학교 CAiRE 연구진의 분류에 따르면 AI 환각은 크게 두 가지로 나뉜다.
 ...