소프트웨어 엑셀 빼기 오류
2014.06.23 16:32
엑셀 오류
(1) | 0.4 |
(2) |
0.399999999999999 |
(3) =(1)-(2) |
0.000000000000000999200722163 |
(4) | 0.000000000000001 |
엑셀 계산할때 (1)에서 (2)를 빼면 (4)가 나외야 하는데 (3)이 나오네요.
이건 뭐가 잘못되서 그런건가요?
한번 엑셀로 계산해보세요 그럼 당연히 답이 0.000000000000001이 나와야하는데
0.000000000000000999200722163가 나오네요
댓글 [9]
-
감성치 2014.06.23 16:52 -
대머리윈도우초보 2014.06.23 17:01
(1)이나 (2)는 제가 직접입력한 것이라 반올림상태값이 아닙니다. 있는 그대로의 값이구요
답변 감사드립니다.
-
감성치 2014.06.23 17:07 직접 입력하셨다면, 에러가 맞네요 !!!
저는 2013사용하는데 정상적으로 계산 됩니다
.
-
메리아 2014.06.23 17:28 -
-
감성치 2014.06.23 17:38 소숫점 이하 자리수를 다르게 셀서식을 바꾸니, 에러가 발생하네요 !!!
감사합니다.
-
메리아 2014.06.23 16:57 -
-
대머리윈도우초보 2014.06.23 17:28
소수를 정수로 변환하고 계산하니 값이 잘 나오네요
답변 주셔서 감사합니다. 정말 많은 도움 되었습니다.
1 0.400000000000000000000000000000000 2 0.399999999999999000000000000000000 1-2 0.000000000000000999200722162641000 3(1*1000000000000000) 400000000000000.000000000000000000000000000000000 4(2*1000000000000000) 399999999999999.000000000000000000000000000000000 (3-4)/1000000000000000 0.000000000000001000000000000000000 -
메리아 2014.06.23 17:04 -
-
대머리윈도우초보 2014.06.23 17:30
질문은 복잡한 계산중에 일부를 간단하게 해서 올린거구요
round, rounddown으로 단위조정해도 역시 값은 오류나더라구요
정수로 정환해서 해주니까 정상적으로 계산됩니다.
번호 | 제목 | 글쓴이 | 조회 | 등록일 |
---|---|---|---|---|
[공지] | 질문과 답변 게시판 이용간 유의사항 | gooddew | - | - |
49921 | 윈 도 우| 윈7 64비트 울티인데 바탕화면의 아이콘이 사라집니다. [5] | WK-1800 | 1343 | 06-23 |
» | 소프트웨어| 엑셀 빼기 오류 [9] | 대머리윈도 | 2061 | 06-23 |
49919 | 윈 도 우| 작업표시줄 최소화 후 Alt+Tab [2] | 톨톨 | 1106 | 06-23 |
49918 | 소프트웨어| 이미지 용량 줄이는 프로그램 추천부탁드립니다. [2] | d2n93nf | 1111 | 06-23 |
49917 | 서버 / IT| 웹방화벽 + H/W방화벽 조언구합니다. [1] | 러브미카엘 | 1482 | 06-23 |
49916 | 윈 도 우| 자동인증 풀림.. 다시 여쭤욤.. [2] | 조그셔틀 | 1730 | 06-23 |
49915 | 윈 도 우| 윈도우7 32비트 설치시. [1] | ASRock | 1105 | 06-23 |
49914 | 윈 도 우| 네트워크 상의 다른 컴퓨터에 메시지 보내기 [1] | SuperUser | 1583 | 06-23 |
49913 | 윈 도 우| 윈도우 다운로드 프로그램 추천 [1] | 타임머신 | 1058 | 06-23 |
49912 | 윈 도 우| 듀얼모니터 사용시 기본 바탕화면 정의... [2] | 알리아스 | 1223 | 06-23 |
49911 | 기 타| 윈코 [2] | 겨울나그네 | 1097 | 06-23 |
49910 | 윈 도 우| 토근 복원할때 인증키 몰라도 되나요? [1] | 모노스 | 1347 | 06-23 |
49909 | 소프트웨어| 포터블 프로그램에 크랙 집어넣어서 쓸순 없을까요? [6] | 까미유 | 1627 | 06-23 |
49908 | 윈 도 우| 램이많이남는데 활용방법없나요??ㅠㅠ [4] | 똥멍청이 | 1329 | 06-23 |
49907 | 윈 도 우| 이거 시퓨팬속도인데 빠른건 아닌지요? [6] | ㄷㄱ | 1017 | 06-22 |
49906 | 윈 도 우| 응용프로그램 오류 [4] | 툴캅 | 2585 | 06-22 |
49905 | 소프트웨어| 마이크로소프트 오피스 32/64 관련 [3] | 손재주 | 1617 | 06-22 |
49904 | 윈 도 우| netsh 재 질문드립니다. [2] | 컴지기 | 956 | 06-22 |
49903 | 윈 도 우| 자동인증이 풀리는 문제... [5] | 조그셔틀 | 2209 | 06-22 |
49902 | 윈 도 우| 레지스트리 비교 툴 추천 및 질문입니다 [2] | 여덟번째뱀 | 1120 | 06-22 |
(1)이나 (2)의 숫자가 눈에 보이는 그대로의 값이 아니고, 반올림이 된 상태의 숫자일 가능성이 높은 것으로 판단됩니다.
자리수의 제한으로 인하여, 오류로 보이는 현상이 아닐까요 !!!
예를 들면 (1)의 숫자가 0.4가 아니고 0.3999999 인데 자리수의 제한으로 반올림되어 0.4로 표현되어
(1)-(2)를 하면, 결과는 error로 보임.