«floating-point» 태그된 질문

프로그래밍 경험에서 자주 실수에 실수를 사용할지 두 배를 사용해야하는지 결정해야합니다. 때때로 나는 떠 다니고, 때로는 두 배로 간다. 그러나 이것은 실제로 더 주관적으로 느낀다. 내 결정을 변호하기 위해 직면한다면, 나는 정당한 이유를주지 않을 것입니다. 언제 float를 사용하고 언제 double을 사용합니까? 메모리 제약 조건이있는 경우에만 항상 double을 사용합니까? 또는 정밀도 요구 …

194 c++  c  floating-point  numbers 

내가 본 모든 곳에서, 그것은 거의 모든면에서 double우월하다고 말합니다 float. Java에서 float더 이상 사용되지 double않으므로 왜 여전히 사용됩니까? 나는 Libgdx로 많은 프로그램을 만들고, 그것들을 사용하도록 강요 float하지만 (deltaTime 등) double저장 및 메모리 측면에서 작업하기가 더 쉬운 것 같습니다 . 나는 언제 float을 사용하고 double을 사용합니까 ?를 읽습니다 . 그러나 float소수점 …

84 java  memory  floating-point  numbers 

왜 우리가 양수와 음수 0에 대한 다른 표현에 관심이 있는지에 대해 혼란 스럽습니다. 나는 복소수를 포함하는 프로그래밍에서 음의 0 표현을 갖는 것이 매우 중요하다는 주장을 읽는 것을 모호하게 기억합니다. 나는 복잡한 숫자를 포함하는 코드를 작성할 기회가 없었기 때문에 이것이 왜 그런지에 대해 약간 당황했습니다. 개념에 관한 Wikipedia의 기사 는 특별히 …

64 math  floating-point 

부동 소수점 산술에는 정밀도 문제가 있음을 알고 있습니다. 나는 보통 숫자의 고정 소수점 표현으로 바꾸거나 단순히 오류를 무시함으로써 그것들을 극복합니다. 그러나 나는이 부정확의 원인이 무엇인지 모른다. 부동 소수점 숫자에 왜 이렇게 많은 반올림 문제가 있습니까?

62 floating-point  numeric-precision 

C#갖는 decimal유형 예를 들어베이스 (10)의 정확한 표현을 필요로 번호를 사용하고, 0.1베이스 (2)에서 표현 될 수 없다 (예를 들어, float및 double)과 항상 이러한 유형의 변수에 저장된 근사 할 것이다. 반대의 사실도 가능했는지 궁금했습니다. 10 진수로 표현할 수 없지만 2 진수로 표현할 수있는 숫자가 있습니까 (이 경우 a float대신에 a decimal를 사용 …

42 c#  numbers  floating-point 

가장 작은 데이터 단위로 비트에 대한 대안이 있습니까? 0 또는 1 일뿐 만 아니라 실제로 많은 가능한 상태를 유지하는 것입니까? 그런 수레를 저장하는 것이 더 자연스럽지 않습니까?

42 data  binary  floating-point  byte  bit 

부동 소수점 숫자의 정확성을 조사하는 동안 몇 곳에서 다음과 유사한 진술을 보았습니다. " float과 double이된다 ( 위해 설계 / 에서 자주 사용 ) 엔지니어링 및 과학 계산 " 내 이해에서, float와 double의 강도는 (정확하지만 완벽하지는 않지만) 정밀도를 위해 사용하는 메모리의 양입니다. 나는이 답변 에서 거의 이해를 얻고있는 것처럼 느낍니다. "부동 …

33 floating-point  numeric-precision 

예를 들어 0,0.5, ... 5의 버튼 목록을 표시하고 각 0.5마다 점프합니다. for 루프를 사용하여 STANDARD_LINE 버튼에서 다른 색상을 사용합니다. var MAX=5.0; var DIFF=0.5 var STANDARD_LINE=1.5; for(var i=0;i<=MAX;i=i+DIFF){ button.text=i+''; if(i==STANDARD_LINE){ button.color='red'; } } 이 경우 각 값이 IEEE 754에서 정확하므로 반올림 오류가 없어야하지만 부동 소수점 동등성 비교를 피하기 위해 값을 변경 …

31 javascript  coding-style  floating-point 

나는 http://www.joelonsoftware.com/items/2011/06/27.html 을보고 있었고 Jon Skeet 농담에서 0.3이 아닌 0.3에 대해 웃었습니다. 나는 개인적으로 float / decimals / doubles에 문제가 없었지만 6502를 매우 일찍 배웠고 대부분의 프로그램에서 float가 필요하지 않았다는 것을 기억합니다. 내가 사용한 유일한 시간은 그래픽과 수학에서 정확하지 않은 숫자가 정확하고 출력이 화면에 대한 것이며 화면 (db, 파일) 또는 …

29 floating-point 

나는 읽고 있었다 엄격한 전환 및 옵션을 넓히는에 대한 Microsoft의 기사 나는 부분에 도착했을 때를 다음 변환은 정밀도를 잃을 수 있습니다. 정수에서 단일 롱 투 싱글 또는 더블 10 진수를 단일 또는 이중으로 그러나 이러한 변환은 정보 나 규모를 잃지 않습니다. .. 이에 따라 데이터 유형과 관련된 다른 문서 , …

27 vb.net  floating-point 

이전 질문을 읽으면서 이것은 중복 질문이 아닙니다. 누구나 나를 이해하는 데 도움을 줄 수 있습니까 how float values are stored in the memory? 내 의심은 여기에 float 값에 ' .'( for example 3.45)이 어떻게 '.'메모리에 표시됩니까? 누구든지 다이어그램으로 나를 명확히 할 수 있습니까?

20 c  memory  floating-point 

많은 수학적 계산을 다루는 응용 프로그램을 만들 때 특정 숫자가 반올림 오류를 일으키는 문제가 발생했습니다. 내가 이해하는 동안 부동 소수점 것은 정확한 아니다 , 문제는 어떻게 계산이되지 않은 문제를 유발하는 포인트 라운딩을 부동 그들에 미리 형성 할 때 내가 있는지 확인하기 위해 정확한 수를 처리합니까?

18 floating-point  numeric-precision 

다음과 같은 파이썬 클래스가 있다고 가정 해 봅시다 (문제는 Java와 equalsand와 동일합니다 hashCode) class Temperature: def __init__(self, degrees): self.degrees = degrees 여기서 degreesfloat로서 켈빈 온도이다. 지금, 나는 평등 테스트 및 해싱을 구현하고자하는 Temperature방법한다는 점에서 직접 평등 테스트 대신 엡실론 차이까지 플로트를 비교합니다. 을 a == b암시 하는 계약을 존중합니다 hash(a) …

15 java  python  hashing  floating-point 

내가 프로그래밍을 기억하는 한 부동 소수점 숫자가 동일한 지 비교하지 않도록 배웠습니다. 이제 Lua 유형 에 대한 프로그래밍을 Lua에서 읽는 동안 number다음을 발견했습니다. 숫자 유형은 실수 (배정 밀도 부동 소수점) 숫자를 나타냅니다. 루아는 필요하지 않기 때문에 정수 타입이 없습니다. 부동 소수점 산술 오류에 대한 오해가 널리 퍼져 있으며 일부 사람들은 …

11 lua  floating-point 

정규 분포 CDF를 계산하는 다른 프로그래머의 함수 구현을 검토하는 동안 전체 구현을 Python의 내장 함수로 대체하거나 일반적인 과학 라이브러리 인 SciPy를 사용 하도록 제안 했습니다. 다른 프로그래머는 문서에 정확한 보증을 제공 하지도 math.erfc()않습니다 scipy.stats.norm.cdf(). 따라서, 나는 (A에서 찍은 근사 알고리즘 교체에 대한 더 신중해야 존경 소스 , 그리고 한 오류 …

9 documentation  math  floating-point  numeric-precision