«precision» 태그된 질문

R에는 숫자 표시를 제어하는 ​​옵션이 있습니다. 예를 들면 : options(digits=10) R 세션이 끝날 때까지 계산 결과를 10 자리로 제공해야합니다. R의 도움말 파일에서 숫자 매개 변수의 정의는 다음과 같습니다. 자릿수 : 숫자 값을 인쇄 할 때 인쇄 할 자릿수를 제어합니다. 제안 일뿐입니다. 유효한 값은 1 ... 22 이며 기본값은 7입니다. 그래서 …

110 r  precision  digits  r-faq  output-formatting 

이것은 최근 인터뷰에서 물어 본 질문이었고 알고 싶습니다 (실제로 수치 분석 이론을 기억하지 못하므로 저를 도와주세요 :) 부동 소수점 숫자를 누적하는 함수가있는 경우 : std::accumulate(v.begin(), v.end(), 0.0); vA는 std::vector<float>, 예를 들면. 이 숫자를 누적하기 전에 정렬하는 것이 더 낫습니까? 어떤 순서가 가장 정확한 답을 줄까요? 나는 의심 정렬 오름차순으로 번호 …

105 c++  floating-point  precision 

일반적으로 double 또는 decimal 유형 값 사이의 평등에 의존 할 수 없다는 것을 알고 있지만 0이 특별한 경우인지 궁금합니다. 0.00000000000001과 0.00000000000002 사이의 부정확성을 이해할 수 있지만 0 자체는 아무것도 아니기 때문에 엉망이되기가 꽤 어렵습니다. 아무것도 정확하지 않다면 더 이상 아무것도 아닙니다. 하지만 저는이 주제에 대해 잘 모르기 때문에 제가 말할 …

100 c#  .net  floating-point  precision  zero 

일부 단위 테스트를 수행하는 동안 DateTime.UtcNow에서 예기치 않은 동작이 발생했습니다. DateTime.Now/UtcNow를 빠르게 연속적으로 호출하면보다 정확한 밀리 초 단위를 캡처하는 대신 예상보다 긴 시간 간격 동안 동일한 값을 반환하는 것 같습니다. 정확한 시간 측정을 수행하는 데 더 적합한 Stopwatch 클래스가 있다는 것을 알고 있지만 누군가가 DateTime에서이 동작을 설명 할 수 있는지 …

97 c#  .net  datetime  precision  time-precision 

이것은 수년 동안 내 마음 속에 있었던 일이지만 전에 묻지 않았습니다. 많은 (의사) 난수 생성기는 0.0에서 1.0 사이의 난수를 생성합니다. 수학적으로이 범위에는 무한한 숫자가 있지만 double부동 소수점 숫자이므로 유한 정밀도를 갖습니다. 따라서 질문은 다음과 같습니다. double0.0과 1.0 사이에 몇 개의 숫자가 있습니까? 1과 2 사이에 숫자가 많습니까? 100과 101 사이? …

94 random  floating-point  double  precision 

이것은 더 잘 알고 있기 때문에 질문이 아닙니다. json_encode()PHP7.1.1 을 사용하는 응용 프로그램을 업데이트 했는데 수레가 때때로 17 자리를 확장하도록 변경되는 문제를 확인했습니다. 문서에 따르면 PHP 7.1.x는 serialize_precisiondouble 값을 인코딩 할 때 정밀도 대신 사용하기 시작했습니다 . 이로 인해 예제 값이 발생했다고 생각합니다. 472.185 될 472.18500000000006 그 값이 지나간 후에 …

92 php  json  precision  php-7.1 

이상한 청구서를받는 고객이 있습니다. 핵심 문제를 분리 할 수있었습니다. SELECT 199.96 - (0.0 * FLOOR(CAST(1.0 AS DECIMAL(19, 4)) * CAST(199.96 AS DECIMAL(19, 4)))) -- 200 what the? SELECT 199.96 - (0.0 * FLOOR(1.0 * CAST(199.96 AS DECIMAL(19, 4)))) -- 199.96 SELECT 199.96 - (0.0 * FLOOR(CAST(1.0 AS DECIMAL(19, 4)) * …

84 sql-server  tsql  precision  sql-server-2016  sqldatatypes 

닫힘 . 이 질문은 더 집중되어야 합니다. 현재 답변을 받고 있지 않습니다. 이 질문을 개선하고 싶으십니까? 이 게시물 을 편집 하여 한 가지 문제에만 초점을 맞추도록 질문을 업데이트하십시오 . 휴일 3 개월 전 . 이 질문 개선 float보다 정밀도가 더 높은 데이터 유형이 있습니까?

84 python  types  precision 

얻은 차이가 기계 정밀도보다 높은지 확인 해야하는 상황이 종종 발생합니다. 이 목적을 위해 R은 편리한 변수를 가지고 있습니다 : .Machine$double.eps. 그러나이 값 사용에 대한 지침을 R 소스 코드로 전환하면 여러 가지 다른 패턴이 나타납니다. 예 다음은 stats라이브러리 의 몇 가지 예입니다 . t.test.R if(stderr < 10 *.Machine$double.eps * abs(mx)) chisq.test.R …

36 r  floating-point  rounding  precision 

np.dot두 개의 'float32'2D 배열을 사용 한다고 가정 합니다. res = np.dot(a, b) # see CASE 1 print(list(res[0])) # list shows more digits [-0.90448684, -1.1708503, 0.907136, 3.5594249, 1.1374011, -1.3826287] 번호. 제외하고는 다음을 변경할 수 있습니다. 사례 1 : 슬라이스a np.random.seed(1) a = np.random.randn(9, 6).astype('float32') b = np.random.randn(6, 6).astype('float32') for i in …

15 python  c  arrays  numpy  precision 

부동 소수점 양수 ( std::vector<float>, size ~ 1000)의 목록이 꽤 있습니다. 숫자는 내림차순으로 정렬됩니다. 내가 순서대로 합하면 : for (auto v : vec) { sum += v; } 나는 벡터의 끝 부분에 가까운 이후 나는 약간의 수치 안정성에 문제가있을 수 있습니다 생각 sum보다 훨씬 클 것이다 v. 가장 쉬운 해결책은 …

12 c++  floating-point  precision