[구자민]

homework 2의 5번 문제를 풀고 있는데, 이론 상의 결과랑 실제 결과가 계속 다르게 나왔습니다.

[강지헌]

일반적으로 실수 연산은 어느 정도 오류를 수반하는 것으로 알고 있습니다. 특히 등호나 부등호에서 더 심한걸로 알고 있구요.
그렇기 때문에 실수 연산을 할때는 계산이 틀릴수도 있다는 것을 염두해 두어야 할 것입니다.

[구자민]

위 글을 보고 C에서도 마찬가지 연산을 하니까 같은 오류가 발생하네요. 원래 double을 처리하는 구조상 2진법으로 처리하는 수와 10진법으로 생각하는 수가 오차가 있을거라고 생각은 했지만 이런 간단한 상황에서도 발생할 줄은 몰랐네요..

그러면 위 코드와 같은 상황, 즉 좀 더 정확한 정밀도가 필요한 경우는 어떻게 해야할까요? 그냥 '조심해서' 만드는 수 밖에 없나요?

일단 제 생각은

[신해수]

모든 실수의 등호 비교는 마지막에 적으신대로 abs(a-b) < epsilon (epsilon = 적당히 작은수)로 하는 것이 정석입니다. 정말 정확한 실수 연산을 하려면 exact float calculation 루틴을 새로 작성하는 것이 맞고요. (예: 윈도 계산기)

하지만 이 경우 마지막에 오차때문에 한번더 Integral을 더 계산해준다고 하더라도, 그 값이 1e-14 정도의 작은 값이기때문에 전체 값에 큰 영향이 없을 것 같습니다. 게다가 dx를 곱해주면 그 영향은 더욱 작아지게 됩니다.

그리고 어차피 0.1 단위로 적분하는데 제대로 된 값이 나오긴 힘듭니다. 계산하는 방법에 따라 천차만별일테고. 채점시에도 이런 부분이 고려되어 어느 정도의 오차는 허용할 것이라 믿습니다.

[구자민]

보통은 오차 값이 1e-14 정도이므로 계산 상에 큰 차이가 나지 않지만, 제가 짠 두 개의 integral 식을 비교해 보면(abs를 사용하지 않은) 부동소수점 비교에 의해서 적분식의 실행횟수가 1번 차이가 날 수 있기 때문에 실제로는 오차가 꽤 생기더군요. 이론적으로는 동일한 식이라도, homework2의 식으로 비교하면 10 정도 차이가 나는 것을 확인했습니다. 앞으로는 주의해서 식을 짜야겠네요.

여담이지만, 9/25일 자로 엑셀 2007의 부동소수점 연산에 오류가 있다는 글이 올라왔습니다. http://blogs.msdn.com/excel/archive/2007/09/25/calculation-issue-update.aspx 에 자세한 내용이 있습니다. 간단히 얘기하면 엑셀 2007에서 =850*77.1 을 입력하면 원래 65535가 나와야 하는데 100000이 출력된다는 내용입니다. (이진수 출력같네요..)

MS의 대표적인 제품에서도 이런 에러가 발생하는 걸 보니 부동소수점 연산이 어렵긴 어려운가 봅니다.^^