«floating-point» 태그된 질문

NaN이 산술로 전파되는 것은 잘 알려져 있지만 시연을 찾을 수 없으므로 작은 테스트를 작성했습니다. #include <limits> #include <cstdio> int main(int argc, char* argv[]) { float qNaN = std::numeric_limits<float>::quiet_NaN(); float neg = -qNaN; float sub1 = 6.0f - qNaN; float sub2 = qNaN - 6.0f; float sub3 = qNaN - qNaN; …

300 c++  c  floating-point  ieee-754  icc 

에 값 25.00이 float있지만 화면에 인쇄 하면 값 이 25.0000000입니다. 소수점 이하 두 자리로만 값을 표시하려면 어떻게해야합니까?

296 objective-c  formatting  floating-point 

합계 순서를 변경하면 다른 결과가 반환되는 이유는 무엇입니까? 23.53 + 5.88 + 17.64 = 47.05 23.53 + 17.64 + 5.88 = 47.050000000000004 Java 와 JavaScript는 모두 동일한 결과를 반환합니다. 부동 소수점 숫자가 이진수로 표시되는 방식으로 인해 일부 합리적인 숫자 ( 예 : 1/3-0.333333 ... )를 정확하게 표현할 수 없음을 이해합니다. …

294 java  javascript  floating-point 

float를 정수와 비교할 때 일부 값 쌍은 비슷한 크기의 다른 값보다 평가하는 데 훨씬 오래 걸립니다. 예를 들면 다음과 같습니다. >>> import timeit >>> timeit.timeit("562949953420000.7 < 562949953421000") # run 1 million times 0.5387085462592742 그러나 float 또는 integer가 특정 양만큼 작거나 커지면 비교가 훨씬 빠르게 수행됩니다. >>> timeit.timeit("562949953420000.7 < 562949953422000") # …

284 python  performance  floating-point  cpython  python-internals 

부동 소수점 표현에 관해 SO에 게시 된 몇 가지 질문이 있습니다. 예를 들어, 십진수 0.1은 정확한 이진 표현을 가지지 않으므로 == 연산자를 사용하여 다른 부동 소수점 숫자와 비교하는 것은 위험합니다. 부동 소수점 표현의 원리를 이해합니다. 내가 이해하지 못하는 것은 수학적 관점에서 소수점 오른쪽의 숫자가 왼쪽의 숫자보다 "특별한"이유는 무엇입니까? 예를 들어, …

284 math  floating-point 

때로는 Activerecord 데이터 형식이 혼란 스럽습니다. 자 주요 내 영원한 질문 중 하나는 주어진 경우에 :decimal또는 사용해야합니까 :float? 나는 종종이 링크, ActiveRecord :: decimal vs : float? 그러나 대답은 확실하지 않습니다. 사람들이 float을 사용하지 않고 항상 10 진수를 사용하도록 플랫 아웃을 권장하는 많은 스레드를 보았습니다. 또한 일부 사람들은 과학 응용 …

283 ruby-on-rails  types  floating-point  decimal  rails-activerecord 

다음 코드는 분명히 잘못되었습니다. 뭐가 문제 야? i <- 0.1 i <- i + 0.05 i ## [1] 0.15 if(i==0.15) cat("i equals 0.15") else cat("i does not equal 0.15") ## i does not equal 0.15

273 r  floating-point  floating-accuracy  r-faq 

C ++에서 임의의 부동 소수점을 어떻게 생성합니까? 정수 랜드를 가져 와서 무언가로 나눌 수 있다고 생각했는데 충분합니까?

271 c++  random  floating-point 

NaN 값 비교가 다른 모든 값과 다르게 동작하는 이유는 무엇입니까? 즉, 연산자 ==, <=,> =, <,>와의 모든 비교에서 하나 또는 두 값이 모두 NaN이면 다른 모든 값의 동작과 반대로 false를 반환합니다. 나는 이것이 어떤 식 으로든 수치 계산을 단순화한다고 생각하지만 Kahan 의 IEEE 754 상태 에 관한 강의 노트 조차도 …

267 floating-point  comparison  nan  ieee-754  iec10967 

다음 대신 double(또는 float) 을 사용하면 다음과 같은 세 가지 장점을 말할 수 있습니다 decimal. 적은 메모리를 사용합니다. 부동 소수점 연산은 프로세서에서 기본적으로 지원하기 때문에 더 빠릅니다. 더 큰 숫자 범위를 나타낼 수 있습니다. 그러나 이러한 장점은 모델링 소프트웨어에서 볼 수있는 계산 집약적 인 작업에만 적용되는 것으로 보입니다. 물론 재무 …

265 c#  types  floating-point  double  decimal 

나는 이것이 무엇을했는지 찾아 보았지만 실제로 strictfpJava 에서 키워드를 사용할 때의 예가 있습니까? 실제로이 용도를 찾은 사람이 있습니까? 모든 부동 소수점 연산에만 적용하면 부작용이 있습니까?

258 java  floating-point  strictfp 

지도 데이터로 작업하고 있으며 Latitude/Longitude소수점 이하 8 자리까지 확장됩니다. 예를 들면 다음과 같습니다. Latitude 40.71727401 Longitude -74.00898606 나는 다음을 사용 하는 Google 문서 에서 보았습니다 . lat FLOAT( 10, 6 ) NOT NULL, lng FLOAT( 10, 6 ) NOT NULL 그러나, 자신의 소수점은 6로 이동 합니다 I 사용 FLOAT(10, 8)하거나 …

257 mysql  types  floating-point 

예를 들면 다음과 같습니다. 9 / 5 #=> 1 그러나 나는 기대했다 1.8. 올바른 10 진수 (정수가 아닌) 결과를 얻으려면 어떻게해야합니까? 왜 1전혀 돌아 오지 않습니까?

256 ruby  math  floating-point  division  integer-division 

데이터 그리드에서 두 값을 구문 분석하려고합니다. 필드는 숫자이며 쉼표 (예 : 554,20)가 있으면 쉼표 뒤에 숫자를 가져올 수 없습니다. 나는 해봤 parseInt하고 parseFloat. 어떻게해야합니까?

255 javascript  parsing  floating-point 

내가 좋아하는 부동 소수점 숫자를 가지고 3.2와 1.6. 숫자를 정수와 소수로 분리해야합니다. 예를 들어, 값이 3.2두 숫자로 분할 할 것, 즉 3및0.2 정수 부분을 얻는 것은 쉽습니다. n = Math.floor(n); 그러나 소수 부분을 얻는 데 문제가 있습니다. 나는 이것을 시도했다 : remainer = n % 2; //obtem a parte decimal …

248 javascript  floating-point  numbers  decimal  rounding