«numeric-precision» 태그된 질문

7
부동 소수점 반올림 오류의 원인은 무엇입니까?
부동 소수점 산술에는 정밀도 문제가 있음을 알고 있습니다. 나는 보통 숫자의 고정 소수점 표현으로 바꾸거나 단순히 오류를 무시함으로써 그것들을 극복합니다. 그러나 나는이 부정확의 원인이 무엇인지 모른다. 부동 소수점 숫자에 왜 이렇게 많은 반올림 문제가 있습니까?

2
왜 일부 언어는 가장 가까운 EVEN 정수로 반올림합니까?
Scheme (R5RS) 및 Python ( 이 Question 참조 )과 같은 프로그래밍 언어 는 값이 주변 정수 사이에 정확히있을 때 가장 가까운 짝수로 반올림합니다. 이것에 대한 추론은 무엇입니까? 다음 계산을 쉽게 추론 할 수있는 수학적 아이디어가 있습니까? (R5RS는 IEEE 부동 소수점 표준을이 동작의 소스로 참조합니다.)

9
과학 / 엔지니어링에서 부동 소수점 숫자가 자주 사용되는 이유는 무엇입니까?
부동 소수점 숫자의 정확성을 조사하는 동안 몇 곳에서 다음과 유사한 진술을 보았습니다. " float과 double이된다 ( 위해 설계 / 에서 자주 사용 ) 엔지니어링 및 과학 계산 " 내 이해에서, float와 double의 강도는 (정확하지만 완벽하지는 않지만) 정밀도를 위해 사용하는 메모리의 양입니다. 나는이 답변 에서 거의 이해를 얻고있는 것처럼 느낍니다. "부동 …


5
부동 소수점 반올림 오류에 대한 솔루션
많은 수학적 계산을 다루는 응용 프로그램을 만들 때 특정 숫자가 반올림 오류를 일으키는 문제가 발생했습니다. 내가 이해하는 동안 부동 소수점 것은 정확한 아니다 , 문제는 어떻게 계산이되지 않은 문제를 유발하는 포인트 라운딩을 부동 그들에 미리 형성 할 때 내가 있는지 확인하기 위해 정확한 수를 처리합니까?

4
불안정한 부동 소수점 계산을 식별하는 방법은 무엇입니까?
숫자에서는 불안정한 체계를 식별하고 안정성을 향상시키는 것이 매우 중요합니다. 불안정한 부동 소수점 계산을 식별하는 방법은 무엇입니까? 많은 수치 체계가 함께 작동하는 매우 복잡한 시뮬레이션을 진행 중이며 약한 부분을 식별하는 방법을 찾고 있습니다. 미분 방정식과 관련된 물리적 모델을 연구 중입니다. 전체 프로세스의 조감도는 다음과 같습니다. (예비 단계) 실제 관측 수집 P를 …

4
할 수없는 언어로 매우 많은 수를 처리합니까?
언어 구조가 특정 값보다 큰 수를 처리 할 수없는 경우 매우 큰 수 (무한 수-수레가없는 부동 소수점 수)에서 계산을 수행하는 방법에 대해 생각하고 있습니다. 나는이 질문을하는 첫 번째도 마지막이 아니라고 확신하지만 사용중인 검색어는 이러한 상황을 처리하는 알고리즘을 제공하지 않습니다. 오히려 대부분의 제안은 언어 변경이나 변수 변경을 제공하거나 내 검색과 관련이없는 …

1
부동 소수점 함수의 내재 된 정밀도
정규 분포 CDF를 계산하는 다른 프로그래머의 함수 구현을 검토하는 동안 전체 구현을 Python의 내장 함수로 대체하거나 일반적인 과학 라이브러리 인 SciPy를 사용 하도록 제안 했습니다. 다른 프로그래머는 문서에 정확한 보증을 제공 하지도 math.erfc()않습니다 scipy.stats.norm.cdf(). 따라서, 나는 (A에서 찍은 근사 알고리즘 교체에 대한 더 신중해야 존경 소스 , 그리고 한 오류 …
당사 사이트를 사용함과 동시에 당사의 쿠키 정책개인정보 보호정책을 읽고 이해하였음을 인정하는 것으로 간주합니다.
Licensed under cc by-sa 3.0 with attribution required.