«floating-accuracy» 태그된 질문

На этот вопрос есть ответы на 스택 오버플로 на русском : Вычисления на числах с плавающей точкой не работают 다음 코드를 고려하십시오. 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 왜 이러한 부정확성이 발생합니까?

2983 math  language-agnostic  floating-point  floating-accuracy 

해상도 독립 좌표계로 인해 UIKit사용하는 것을 알고 CGFloat있습니다. 그러나 때마다 나는 예를 들어 있는지 확인하고자 frame.origin.x한다 0그것이 나를 아프게 느낄 수 있습니다 : if (theView.frame.origin.x == 0) { // do important operation } 하지인가 CGFloat와 비교할 때 잘못된 반응에 취약 ==, <=, >=, <, >? 부동 소수점이며 0.0000000000041예를 들어 정밀도 …

391 objective-c  ios  c  floating-point  floating-accuracy 

다음 코드는 분명히 잘못되었습니다. 뭐가 문제 야? i <- 0.1 i <- i + 0.05 i ## [1] 0.15 if(i==0.15) cat("i equals 0.15") else cat("i does not equal 0.15") ## i does not equal 0.15

273 r  floating-point  floating-accuracy  r-faq 

이 java.sun 페이지 에 따르면 ==Java의 부동 소수점 숫자에 대한 동등 비교 연산자가 있습니다. 그러나이 코드를 입력하면 : if(sectionID == currentSectionID) 내 편집기로 정적 분석을 실행하면 "JAVA0078 부동 소수점 값 ==" ==부동 소수점 값을 비교 하는 데 어떤 문제가 있습니까? 올바른 방법은 무엇입니까?

177 java  equality  floating-accuracy 

대부분의 소수에는 정확한 부동 소수점 표현이 없습니다 ( 부동 소수점 수학은 깨졌습니까? ). 그러나 나는 이유를 볼 수 없습니다 4*0.1잘으로 인쇄되어 0.4있지만, 3*0.1두 값이 실제로 못생긴 진수 표현을하지 않을 때입니다 : >>> 3*0.1 0.30000000000000004 >>> 4*0.1 0.4 >>> from decimal import Decimal >>> Decimal(3*0.1) Decimal('0.3000000000000000444089209850062616169452667236328125') >>> Decimal(4*0.1) Decimal('0.40000000000000002220446049250313080847263336181640625')

158 python  floating-point  rounding  floating-accuracy  ieee-754 

다음 예제에서 0 (또는 무한대)으로 나눌 수 있습니까? public double calculation(double a, double b) { if (a == b) { return 0; } else { return 2 / (a - b); } } 일반적인 경우에는 물론 그렇지 않습니다. 그러나 경우 a와 b매우 가까운 수 있습니다 (a-b)되는 결과 0계산의 정밀도 때문에? …

131 floating-point  double  floating-accuracy  ieee-754 

십진수를 소수점 이하 자릿수로 자르려고합니다. 이 같은: 5.467 -> 5.46 985.943 -> 985.94 toFixed(2)옳은 일을하지만 가치를 반올림합니다. 값을 반올림 할 필요가 없습니다. 이것이 자바 스크립트에서 가능하기를 바랍니다.

93 javascript  floating-point  floating-accuracy 

1.0에 가장 가깝지만 실제로 1.0이 아닌 double을 프로그래밍 방식으로 얻을 수있는 방법이 있습니까? 이를 수행하는 한 가지 해키 방법은 double을 동일한 크기의 정수로 memcpy 한 다음 1을 빼는 것입니다. IEEE754 부동 소수점 형식이 작동하는 방식은 분수 부분을 모두 0 (1.000000000000)에서 모두 1 (1.111111111111)로 변경하면서 지수를 1만큼 감소시킵니다. 그러나 정수가 리틀 …

88 c++  floating-point  floating-accuracy