6-2 오차 질문입니다.

shwlinux · 가입: 2011년 9월 26일 올린 글: 39

유강민님께서 올리신 테스트셋을 돌려보았는데

두 개가 소숫점 7자리 밑에서 약간의 오차 (0.00000024) 가 발생하네요..

컴퓨터의 실수부 표현 방식때문에 오차가 생길수도 있나요?

좀 큰 스케일의 오차가 발생했으면 모르겠는데

테스트셋에 되어있는 답은 무려 -10억에 가까우니

오차가 10의 -17승? 수준인데...

그리고 다른 계산은 다 되는데 딱 두개만 아주아주 근소한 오차가 발생해서.. 뭔가 이상하네요 ㅠㅠ

이승중 · 가입: 2010년 6월 22일 올린 글: 561

근소한 오차는 걱정하지 않으셔도 됩니다.