«floating-point» 태그된 질문

float slope가끔 0으로 나누기가 발생하기 때문에 출력 될 때 가끔 nan 값을 갖는 변수 ( )가 있습니다. 그럴 때 if-else를 시도하고 있습니다. 어떻게 할 수 있습니까? if (slope == nan)작동하지 않는 것 같습니다.

78 objective-c  floating-point 

얻은 차이가 기계 정밀도보다 높은지 확인 해야하는 상황이 종종 발생합니다. 이 목적을 위해 R은 편리한 변수를 가지고 있습니다 : .Machine$double.eps. 그러나이 값 사용에 대한 지침을 R 소스 코드로 전환하면 여러 가지 다른 패턴이 나타납니다. 예 다음은 stats라이브러리 의 몇 가지 예입니다 . t.test.R if(stderr < 10 *.Machine$double.eps * abs(mx)) chisq.test.R …

36 r  floating-point  rounding  precision 

이 API를 빌드 중이며 데이터베이스는 다음 중 하나를 나타내는 값을 저장합니다. 백분율 평균 율 나는 솔직히 숫자의 범위가 0에서 100 % 사이 인 것을 표현하는 방법을 모른다. 그럴까요 0.00-1.00 0.00-100.00 내가 모르는 다른 대안 그것에 대한 명확한 선택이 있습니까? 데이터베이스에서 0 %에서 100 % 사이의 데이터를 나타내는 글로벌 방식? 더 …

14 mysql  sql  types  floating-point  decimal 

왜 GHCi가 아래에 잘못된 답변을합니까? GHCi λ> ((-20.24373193905347)^12)^2 - ((-20.24373193905347)^24) 4.503599627370496e15 파이썬 3 >>> ((-20.24373193905347)**12)**2 - ((-20.24373193905347)**24) 0.0 업데이트 Haskell의 (^) 기능을 다음과 같이 구현합니다. powerXY :: Double -> Int -> Double powerXY x 0 = 1 powerXY x y | y < 0 = powerXY (1/x) (-y) | otherwise …

12 haskell  floating-point  ghc  ghci 

부동 소수점 양수 ( std::vector<float>, size ~ 1000)의 목록이 꽤 있습니다. 숫자는 내림차순으로 정렬됩니다. 내가 순서대로 합하면 : for (auto v : vec) { sum += v; } 나는 벡터의 끝 부분에 가까운 이후 나는 약간의 수치 안정성에 문제가있을 수 있습니다 생각 sum보다 훨씬 클 것이다 v. 가장 쉬운 해결책은 …

12 c++  floating-point  precision 

다음과 같은 실증 프로그램을 고려하십시오. #include <iostream> int main() { typedef float T; 0.f.T::~T(); } 이 프로그램은에 의해 컴파일됩니다 Microsoft Visual Studio Community 2019. 그러나 clang와 gcc같은 오류를 발행 prog.cc:7:5: error: unable to find numeric literal operator 'operator""f.T' 7 | 0.f.T::~T(); | ^~~~~ ( 0.f ).T::~T()다음 과 같이 표현식을 작성하면 …

9 c++  syntax  floating-point  c++17  pseudo-destructor