«numerical-limitations» 태그된 질문

두 벡터 사이의 각도에 대한 고전적인 공식을 적용 할 때 : α=arccosv1⋅v2∥v1∥∥v2∥α=arccos⁡v1⋅v2‖v1‖‖v2‖\alpha = \arccos \frac{\mathbf{v_1} \cdot \mathbf{v_2}}{\|\mathbf{v_1}\| \|\mathbf{v_2}\|} 매우 작거나 예각 인 경우 정밀도가 떨어지고 결과가 정확하지 않다는 것을 알 수 있습니다. 이 스택 오버플로 답변에 설명 된 것처럼 한 가지 해결책은 대신 아크 탄젠트를 사용하는 것입니다. α=arctan2(∥v1×v2∥,v1⋅v2)α=arctan⁡2(‖v1×v2‖,v1⋅v2)\alpha = \arctan2 …

14 algorithms  precision  numerical-limitations 

나는 (인텔 MKL의 SVD를 사용하고 dgesvdSciPy를 통해) 나는 사이의 정밀도를 변경하면 결과가 크게 다른 것으로 나타났습니다 float32과 float64내 행렬이 심하게 조절한다 /하지 전체 순위. 결과를 float32-> float64변경에 둔감하게 만들기 위해 추가해야하는 최소한의 정규화에 대한 가이드가 있습니까? 특히 하면 의 규범이 와 사이의 정밀도를 변경할 때 약 1만큼 이동합니다 . 규범 …

10 numerical-analysis  stability  svd  intel-mkl  numerical-limitations 

일부 이미지의 Zernike 순간을 더 높은 순서 (예 : m=0, n=46) 로 계산하려고합니다 . 그러나 방사형 다항식에 관한 문제가 있습니다 ( wikipedia 참조 ). 간격 [0 1]에 정의 된 다항식입니다. 아래의 MATLAB 코드를 참조하십시오 function R = radial_polynomial(m,n,RHO) R = 0; for k = 0:((n-m)/2) R = R + (-1).^k.*factorial(n-k) …

9 matlab  polynomials  numerical-limitations