«floating-point» 태그된 질문

나는 C로 작성된 크기 조정 가능한 모델 (~ 5000 줄)을 가지고 있습니다. 이것은 임의의 숫자 생성이없는 직렬 프로그램입니다. FFT를 사용하는 함수에 FFTW 라이브러리를 사용합니다. FFTW 구현의 세부 사항을 알지 못하지만 그 함수가 결정적이라고 가정합니다 (오류가있는 경우 수정하십시오). 내가 이해할 수없는 문제는 동일한 컴퓨터 (동일한 컴파일러, 동일한 라이브러리)에서 동일한 실행 결과에 …

10 floating-point  precision  computer-arithmetic 

나는 그것을 읽었다 (1) 조건이 잘못된 작업은 조건이 좋은 작업보다 먼저 수행해야합니다. 예를 들어, 곱셈을하지 않으면 서 빼기가 조절되지 않기 때문에 x z− y지엑스지−와이지xz-yz 를 로 계산해야합니다 ( x − y) z(엑스−와이)지(x-y)z. 그러나 두 알고리즘의 1 차 오류 분석에 따르면 그것들은 단지 3 배 (*) 만 다른 것으로 밝혀졌으며, 이것이 …

10 stability  floating-point 

비 부동 소수점 컴퓨팅 라이브러리 / 패키지는 거의 없습니다. 왜 거기에 부동 소수점 표현의 다양한 부정확성을 감안할 때, 문제가 발생하지 적어도 몇몇 이 높은 정확도의 가치를 고정 소수점 작업의 복잡성을 수 있습니다 필드. 고정 소수점 고유 값 솔버를 사용하는 데 큰 어려움이 있습니까? 얼마나 느리고 빠르며 부정확하고 정확합니까? 관련 : …

10 floating-point  numerics 

나는 수치 기능이 f(x, y)구현 몇 가지 공식과 나는 그것이 모든 매개 변수 조합에 대한 분석 표현에 대한 올바른지 확인하려는 이중 부동 소수점 숫자 반환 x과 y나는에 관심이 있습니다. 무엇을 계산하고 비교하는 적절한 방법입니다 분석 부동 소수점 숫자? 두 숫자가 a및 라고 가정 해 보겠습니다 b. 지금까지 절대 abs(a-b) < …

10 floating-point 

최근에 FORTRAN95에 이상한 문제가 발생했습니다. 변수 X와 Y를 다음과 같이 초기화했습니다. X=1.0 Y=0.1 나중에 함께 추가하고 결과를 인쇄합니다. 1.10000000149012 변수를 검토 한 후 0.1이 완전 정밀도로 배정 밀도로 표현되지 않은 것처럼 보입니다. 이것을 피할 수있는 방법이 있습니까?

10 fortran  floating-point