http://www.ozjin.com/jboard/?p=detail&code=Tip&id=4다음과 비슷한 질문을 하시는 분들이 많습니다.
A1 cell 식 : (76.6-75.8)
=if(A1=0.8,1,0)
이렇게 하면 답이 0이 나와요 이상하네요 알려주세요
============================================================
빈 셀에 '=76.6-75.8'이라고 입력후 셀서식을 소숫점 15째자리까지 늘려 보세요. 그려면 0.800000000000000 이 아니라 0.799999999999997 이 나옵니다.
이는 엑셀 뿐만이 아니라 대부분의 프로그램에서 발생하는 문제점입니다. 모든 수를 이진수로 처리하다 보니 한계가 있는 모양입니다. 계산 결과값에 대해 if 함수, rounddown 함수 등을 적용할때 주의하세요.
발췌:
http://www.ozjin.com/jboard/?p=detail&code=Tip&id=4
A1 cell 식 : (76.6-75.8)
=if(A1=0.8,1,0)
이렇게 하면 답이 0이 나와요 이상하네요 알려주세요
============================================================
빈 셀에 '=76.6-75.8'이라고 입력후 셀서식을 소숫점 15째자리까지 늘려 보세요. 그려면 0.800000000000000 이 아니라 0.799999999999997 이 나옵니다.
이는 엑셀 뿐만이 아니라 대부분의 프로그램에서 발생하는 문제점입니다. 모든 수를 이진수로 처리하다 보니 한계가 있는 모양입니다. 계산 결과값에 대해 if 함수, rounddown 함수 등을 적용할때 주의하세요.
발췌:
http://www.ozjin.com/jboard/?p=detail&code=Tip&id=4