강지훈
가입: 2008년 9월 2일 올린 글: 291 위치: 302동 312-2호
|
올려짐: 2013년10월26일 22:03 주제: |
|
|
실수가 기계에서 표현될 때 (machine representation of real numbers) 정확도를 조금 잃습니다. 그래서 실수연산은 꼭 정확한 값이 나온다는 보장이 없습니다. 예를들면 0.001을 천 번 더한다고 1.000000 (exact)가 나오지는 않게 됩니다.
제시하신 예는 0+0.4+0.3+1=1.7이 나오고, 0+1+0.3+0.4=1.700000....2가 나온 꼴인데, 위와 같이 실수연산시 정확도를 잃어버린다고 이해하시면 되겠습니다. _________________ 강지훈
프로그래밍의 원리 조교
Jeehoon Kang
TA, Principles of Programming |
|