Scheme (R5RS) 및 Python ( 이 Question 참조 )과 같은 프로그래밍 언어 는 값이 주변 정수 사이에 정확히있을 때 가장 가까운 짝수로 반올림합니다. 이것에 대한 추론은 무엇입니까? 다음 계산을 쉽게 추론 할 수있는 수학적 아이디어가 있습니까? (R5RS는 IEEE 부동 소수점 표준을이 동작의 소스로 참조합니다.)
부동 소수점 숫자의 정확성을 조사하는 동안 몇 곳에서 다음과 유사한 진술을 보았습니다. " float과 double이된다 ( 위해 설계 / 에서 자주 사용 ) 엔지니어링 및 과학 계산 " 내 이해에서, float와 double의 강도는 (정확하지만 완벽하지는 않지만) 정밀도를 위해 사용하는 메모리의 양입니다. 나는이 답변 에서 거의 이해를 얻고있는 것처럼 느낍니다. "부동 …
컴퓨터는 분모가 2 ^ x에 대한 해답이 아닌 다른 소수를 저장하는 데 문제가 있습니다. 소수점 이하의 첫 번째 숫자는 1/2, 두 번째 1/4 (또는 1 / (2 ^ 1) 및 1 / (2 ^ 2)) 등의 가치가 있기 때문입니다. 컴퓨터가 숫자의 소수 부분을 다른 정수로 저장했을 때 모든 종류의 반올림 …
많은 수학적 계산을 다루는 응용 프로그램을 만들 때 특정 숫자가 반올림 오류를 일으키는 문제가 발생했습니다. 내가 이해하는 동안 부동 소수점 것은 정확한 아니다 , 문제는 어떻게 계산이되지 않은 문제를 유발하는 포인트 라운딩을 부동 그들에 미리 형성 할 때 내가 있는지 확인하기 위해 정확한 수를 처리합니까?
숫자에서는 불안정한 체계를 식별하고 안정성을 향상시키는 것이 매우 중요합니다. 불안정한 부동 소수점 계산을 식별하는 방법은 무엇입니까? 많은 수치 체계가 함께 작동하는 매우 복잡한 시뮬레이션을 진행 중이며 약한 부분을 식별하는 방법을 찾고 있습니다. 미분 방정식과 관련된 물리적 모델을 연구 중입니다. 전체 프로세스의 조감도는 다음과 같습니다. (예비 단계) 실제 관측 수집 P를 …
언어 구조가 특정 값보다 큰 수를 처리 할 수없는 경우 매우 큰 수 (무한 수-수레가없는 부동 소수점 수)에서 계산을 수행하는 방법에 대해 생각하고 있습니다. 나는이 질문을하는 첫 번째도 마지막이 아니라고 확신하지만 사용중인 검색어는 이러한 상황을 처리하는 알고리즘을 제공하지 않습니다. 오히려 대부분의 제안은 언어 변경이나 변수 변경을 제공하거나 내 검색과 관련이없는 …
정규 분포 CDF를 계산하는 다른 프로그래머의 함수 구현을 검토하는 동안 전체 구현을 Python의 내장 함수로 대체하거나 일반적인 과학 라이브러리 인 SciPy를 사용 하도록 제안 했습니다. 다른 프로그래머는 문서에 정확한 보증을 제공 하지도 math.erfc()않습니다 scipy.stats.norm.cdf(). 따라서, 나는 (A에서 찍은 근사 알고리즘 교체에 대한 더 신중해야 존경 소스 , 그리고 한 오류 …