소프트웨어 엑셀 빼기 오류
2014.06.23 16:32
엑셀 오류
(1) | 0.4 |
(2) |
0.399999999999999 |
(3) =(1)-(2) |
0.000000000000000999200722163 |
(4) | 0.000000000000001 |
엑셀 계산할때 (1)에서 (2)를 빼면 (4)가 나외야 하는데 (3)이 나오네요.
이건 뭐가 잘못되서 그런건가요?
한번 엑셀로 계산해보세요 그럼 당연히 답이 0.000000000000001이 나와야하는데
0.000000000000000999200722163가 나오네요
댓글 [9]
-
감성치 2014.06.23 16:52 -
대머리윈도우초보 2014.06.23 17:01
(1)이나 (2)는 제가 직접입력한 것이라 반올림상태값이 아닙니다. 있는 그대로의 값이구요
답변 감사드립니다.
-
감성치 2014.06.23 17:07 직접 입력하셨다면, 에러가 맞네요 !!!
저는 2013사용하는데 정상적으로 계산 됩니다
.
-
메리아 2014.06.23 17:28 -
-
감성치 2014.06.23 17:38 소숫점 이하 자리수를 다르게 셀서식을 바꾸니, 에러가 발생하네요 !!!
감사합니다.
-
메리아 2014.06.23 16:57 -
-
대머리윈도우초보 2014.06.23 17:28
소수를 정수로 변환하고 계산하니 값이 잘 나오네요
답변 주셔서 감사합니다. 정말 많은 도움 되었습니다.
1 0.400000000000000000000000000000000 2 0.399999999999999000000000000000000 1-2 0.000000000000000999200722162641000 3(1*1000000000000000) 400000000000000.000000000000000000000000000000000 4(2*1000000000000000) 399999999999999.000000000000000000000000000000000 (3-4)/1000000000000000 0.000000000000001000000000000000000 -
메리아 2014.06.23 17:04 -
-
대머리윈도우초보 2014.06.23 17:30
질문은 복잡한 계산중에 일부를 간단하게 해서 올린거구요
round, rounddown으로 단위조정해도 역시 값은 오류나더라구요
정수로 정환해서 해주니까 정상적으로 계산됩니다.
번호 | 제목 | 글쓴이 | 조회 | 등록일 |
---|---|---|---|---|
[공지] | 질문과 답변 게시판 이용간 유의사항 | gooddew | - | - |
49934 | 윈 도 우| 갑자기 인터넷 속도가 심각하게 느려졌습니다. [5] | bselpin | 1919 | 06-23 |
49933 | 소프트웨어| 파워DVD 14 설치가 안됩니다. [2] | kpgsn | 1349 | 06-23 |
49932 | 하드웨어| cpu 성능 비교 질문 [2] | 익스 | 1338 | 06-23 |
49931 | 소프트웨어| UltraHD 4K and HEVC (H.265) videos [3] | kpgsn | 1497 | 06-23 |
49930 | 윈 도 우| +0.0.3 가지고 있으신분 | 푸른달 | 1055 | 06-23 |
49929 | 윈 도 우| 폴드여는 시간 [3] | 가온누리 | 1013 | 06-23 |
49928 | 윈 도 우| 특정 폴더만 삭제 불가능하게 권한 설정 하는 법 문의... [4] | 알리아스 | 1169 | 06-23 |
49927 | 윈 도 우| WinBuilder PE제작시 에러 [3] | casting | 1169 | 06-23 |
49926 | 소프트웨어| outlook에서 정크메일로 등록이 안되는 메일이 있네요 | brucex | 930 | 06-23 |
49925 | 소프트웨어| AVAST 광고창 안뜨게 하는 방법 [3] | 한걸음 | 2174 | 06-23 |
49924 | 윈 도 우| 로엔 winpe 공개에 대하여 [3] | 담종도사 | 1741 | 06-23 |
49923 | 윈 도 우| 윈도우7 순정 관련 [1] | pinnk | 1467 | 06-23 |
49922 | 소프트웨어| 알씨가 움짤 gif만 열면 뻗네요? [3] | brucex | 1636 | 06-23 |
49921 | 윈 도 우| 윈7 64비트 울티인데 바탕화면의 아이콘이 사라집니다. [5] | WK-1800 | 1343 | 06-23 |
» | 소프트웨어| 엑셀 빼기 오류 [9] | 대머리윈도 | 2061 | 06-23 |
49919 | 윈 도 우| 작업표시줄 최소화 후 Alt+Tab [2] | 톨톨 | 1107 | 06-23 |
49918 | 소프트웨어| 이미지 용량 줄이는 프로그램 추천부탁드립니다. [2] | d2n93nf | 1111 | 06-23 |
49917 | 서버 / IT| 웹방화벽 + H/W방화벽 조언구합니다. [1] | 러브미카엘 | 1482 | 06-23 |
49916 | 윈 도 우| 자동인증 풀림.. 다시 여쭤욤.. [2] | 조그셔틀 | 1730 | 06-23 |
49915 | 윈 도 우| 윈도우7 32비트 설치시. [1] | ASRock | 1105 | 06-23 |
(1)이나 (2)의 숫자가 눈에 보이는 그대로의 값이 아니고, 반올림이 된 상태의 숫자일 가능성이 높은 것으로 판단됩니다.
자리수의 제한으로 인하여, 오류로 보이는 현상이 아닐까요 !!!
예를 들면 (1)의 숫자가 0.4가 아니고 0.3999999 인데 자리수의 제한으로 반올림되어 0.4로 표현되어
(1)-(2)를 하면, 결과는 error로 보임.