«ieee-754» 태그된 질문

NaN이 산술로 전파되는 것은 잘 알려져 있지만 시연을 찾을 수 없으므로 작은 테스트를 작성했습니다. #include <limits> #include <cstdio> int main(int argc, char* argv[]) { float qNaN = std::numeric_limits<float>::quiet_NaN(); float neg = -qNaN; float sub1 = 6.0f - qNaN; float sub2 = qNaN - 6.0f; float sub3 = qNaN - qNaN; …

300 c++  c  floating-point  ieee-754  icc 

NaN 값 비교가 다른 모든 값과 다르게 동작하는 이유는 무엇입니까? 즉, 연산자 ==, <=,> =, <,>와의 모든 비교에서 하나 또는 두 값이 모두 NaN이면 다른 모든 값의 동작과 반대로 false를 반환합니다. 나는 이것이 어떤 식 으로든 수치 계산을 단순화한다고 생각하지만 Kahan 의 IEEE 754 상태 에 관한 강의 노트 조차도 …

267 floating-point  comparison  nan  ieee-754  iec10967 

정밀도를 잃지 않고 IEEE 754 이중 유형으로 저장할 수있는 가장 큰 "부동없는"정수는 무엇입니까?

225 types  floating-point  double  ieee-754 

float 데이터 형식은 단 정밀도 32 비트 IEEE 754 부동 소수점이고 double 데이터 형식은 배정 밀도 64 비트 IEEE 754 부동 소수점입니다. 무슨 뜻인가요? 그리고 언제 double 대신 float를 사용해야합니까?

220 java  floating-point  double  ieee-754 

명확하게하기 위해 IEE 754 수레를 구현하는 언어를 사용하는 경우 다음을 선언합니다. float f0 = 0.f; float f1 = 1.f; ... 그런 다음 다시 인쇄하면 0.0000과 1.0000이 표시됩니다. 그러나 IEEE 754는 실제 라인을 따라 모든 숫자를 나타낼 수 없습니다. 0에 가까워지면 '갭'이 작습니다. 멀어 질수록 간격이 더 커집니다. 내 질문은 : …

162 types  floating-point  ieee-754 

대부분의 소수에는 정확한 부동 소수점 표현이 없습니다 ( 부동 소수점 수학은 깨졌습니까? ). 그러나 나는 이유를 볼 수 없습니다 4*0.1잘으로 인쇄되어 0.4있지만, 3*0.1두 값이 실제로 못생긴 진수 표현을하지 않을 때입니다 : >>> 3*0.1 0.30000000000000004 >>> 4*0.1 0.4 >>> from decimal import Decimal >>> Decimal(3*0.1) Decimal('0.3000000000000000444089209850062616169452667236328125') >>> Decimal(4*0.1) Decimal('0.40000000000000002220446049250313080847263336181640625')

158 python  floating-point  rounding  floating-accuracy  ieee-754 

아니요, 이것은 또 다른 "왜 (1 / 3.0) * 3! = 1" 질문 이 아닙니다 . 최근에 부동 소수점에 대해 많이 읽었습니다. 특히, 동일한 계산이 다른 아키텍처 또는 최적화 설정에서 다른 결과 를 제공 할 수있는 방법 . 재생을 저장하거나 P2P 네트워크로 연결된 비디오 게임 (서버-클라이언트와 달리)의 문제로, 모든 클라이언트가 …

155 c#  .net  floating-point  precision  ieee-754 

다음 예제에서 0 (또는 무한대)으로 나눌 수 있습니까? public double calculation(double a, double b) { if (a == b) { return 0; } else { return 2 / (a - b); } } 일반적인 경우에는 물론 그렇지 않습니다. 그러나 경우 a와 b매우 가까운 수 있습니다 (a-b)되는 결과 0계산의 정밀도 때문에? …

131 floating-point  double  floating-accuracy  ieee-754 

PHP는 유형 저글링으로 유명합니다. 나는 그것이 나를 당혹스럽게한다는 것을 인정해야한다. 그리고 나는 비교에서 기본적인 논리적 / 기본적인 것들을 찾기가 어렵다. 예를 들어 다음과 같은 경우는 $a > $b사실이며, $b > $c사실, 그 의미한다 $a > $c이다 항상 너무 사실? 기본 논리에 따라 예 라고 말할 수 있지만 PHP를 실제로 신뢰하지 …

115 php  if-statement  comparison  logic  ieee-754 

>>> (float('inf')+0j)*1 (inf+nanj) 왜? 이것은 내 코드에서 불쾌한 버그를 일으켰습니다. 1곱셈 적 정체성 은 왜 주지 (inf + 0j)않습니까?

97 python  nan  ieee-754 

부동 소수점에 대해 읽었으며 NaN이 작업에서 발생할 수 있음을 이해합니다. 그러나 나는 이것이 개념이 정확히 무엇인지 이해할 수 없습니다. 그들 사이의 차이점은 무엇입니까? C ++ 프로그래밍 중에 어떤 것이 생성 될 수 있습니까? 프로그래머로서 sNaN을 유발하는 프로그램을 작성할 수 있습니까?

96 floating-point  nan  ieee-754 

isnormal () 참조 페이지 는 다음을 알려줍니다. 주어진 부동 소수점 수 arg가 정상인지, 즉 0, 비정규, 무한 또는 NaN이 아닌지 판별합니다. 0, 무한 또는 NaN 인 숫자는 그 의미가 분명합니다. 그러나 그것은 또한 비정상이라고 말합니다. 숫자는 언제 비정규입니까?

82 c++  c++11  floating-point  ieee-754 

JavaScript에서 NaN 값은 내부적으로 광범위한 64 비트 이중으로 표시 될 수 있습니다. 특히 다음과 같은 비트 표현을 가진 모든 double : x111 1111 1111 xxxx xxxx xxxx xxxx xxxx xxxx xxxx xxxx xxxx xxxx xxxx xxxx xxxx NaN으로 해석됩니다. 내 질문은 : ArrayBuffers를 사용하여 두 개의 32 비트 uint를 JS …

12 javascript  ieee-754