방정호
가입: 2011년 9월 19일 올린 글: 40
|
올려짐: 2011년10월17일 15:05 주제: 실습4 정확도 질문. |
|
|
복소수 문제와 관련되어, 테스트 셋을 돌려보면
(rect 8.881784197001252e-16 10.0)
(rect 4.440892098500626e-16 4.0)
(rect 1.7763568394002505e-15 -12.000000000000002)
등으로 0이 안나오고 e-16 스케일로 엄청 작은 값을 출력하고 있습니다.
결과가 맞기는 한데 정확하지가 않아서요.
이걸 0으로 찍히게 하는 다른 방식이 있는 것인지요?
아니면 이 정도는 무시해도 되는 것인지 궁금합니다.
pretty big으로 설정해두고 실행하였습니다. |
|