«floating-point» 태그된 질문

두 개 double또는 두 개의 float값 을 비교하는 가장 효율적인 방법은 무엇입니까 ? 단순히 이것을하는 것은 올바르지 않습니다 : bool CompareDoubles1 (double A, double B) { return A == B; } 그러나 다음과 같은 것 : bool CompareDoubles2 (double A, double B) { diff = A - B; return (diff …

524 c++  algorithm  optimization  floating-point 

64 비트 double은 정수 +/- 2 53을 정확하게 나타낼 수 있습니다 이 사실을 감안할 때 가장 큰 정수는 부호없는 32 비트이므로 모든 유형의 단일 유형으로 이중 유형을 사용하기로 선택했습니다. 그러나 이제 이러한 의사 정수를 인쇄해야하지만 문제는 실제 복식과 혼합되어 있다는 것입니다. Java 에서이 복식을 어떻게 잘 인쇄합니까? 나는 String.format("%f", value)작은 …

496 java  string  floating-point  format  double 

이 문제는 나를 죽이고있다. 파이썬에서 하나의 숫자를 어떻게 올립니까? round (number)를 시도했지만 숫자를 내림합니다. 예: round(2.3) = 2.0 and not 3, what I would like 나는 int (number + .5)를 시도했지만 숫자를 다시 내림합니다! 예: int(2.3 + .5) = 2 그런 다음 round (number + .5)를 시도했지만 가장자리가 작동하지 않습니다. …

486 python  floating-point  integer  rounding  python-2.x 

doubleprintf에서 올바른 형식 지정자는 무엇입니까 ? 그것은인가 %f또는 그 것이다 %lf? 나는 그것을 믿지만 %f확실하지 않습니다. 코드 샘플 #include <stdio.h> int main() { double d = 1.4; printf("%lf", d); // Is this wrong? }

480 c  floating-point  printf  double  format-specifiers 

JavaScript에서 부동 소수점을 문자열로 변환 할 때 소수점 이하 두 자리 만 얻는 방법은 무엇입니까? 예를 들어 0.3445434 대신 0.34입니다.

427 javascript  floating-point 

배정 밀도와 단 정밀도의 차이점에 대해 읽었습니다. 그러나 대부분의 경우, float그리고 double하나를 사용하여 즉, 상호 교환 보이거나 다른 하나는 결과에 영향을 미칠 것 같지 않습니다. 이것이 사실입니까? 수레와 복식은 언제 교환 할 수 있습니까? 그들 사이의 차이점은 무엇입니까?

420 c++  c  floating-point  precision 

randrange(start, stop)정수 인수 만 사용합니다. 그렇다면 두 부동 소수점 값 사이에 임의의 숫자를 어떻게 얻습니까?

414 python  random  floating-point 

다음 코드가 있습니다. price_result가 정수와 같으면 10이라고 말하고 소수점 이하 두 자리를 추가하고 싶습니다. 따라서 10은 10.00입니다. 또는 10.6과 같으면 10.60이됩니다. 방법을 잘 모르겠습니다. price_result = parseFloat(test_var.split('$')[1].slice(0,-1));

410 javascript  floating-point 

해상도 독립 좌표계로 인해 UIKit사용하는 것을 알고 CGFloat있습니다. 그러나 때마다 나는 예를 들어 있는지 확인하고자 frame.origin.x한다 0그것이 나를 아프게 느낄 수 있습니다 : if (theView.frame.origin.x == 0) { // do important operation } 하지인가 CGFloat와 비교할 때 잘못된 반응에 취약 ==, <=, >=, <, >? 부동 소수점이며 0.0000000000041예를 들어 정밀도 …

391 objective-c  ios  c  floating-point  floating-accuracy 

float를 int로 변환하기 위해 다음 줄을 사용했지만 원하는만큼 정확하지 않습니다. float a=8.61f; int b; b=(int)a; 그 결과는 다음과 같습니다 8(그것은해야한다 9) 때 a = -7.65f결과가 : -7(이 있어야한다 -8) 가장 좋은 방법은 무엇입니까?

342 java  floating-point  int 

그래서 나는 나의 마지막 질문에 대한 답을 얻었습니다 (왜 그런 생각을하지 않았는지 모르겠습니다). 나는 인쇄 된 double사용 cout나는 그것을 기대하지 않은 때 GOT가 반올림. 완전 정밀도로 cout인쇄하려면 어떻게 double해야합니까?

332 c++  floating-point  precision  iostream  cout 

플로팅을 평등에 대해 비교하는 것은 반올림 및 정밀도 문제로 인해 약간 미묘한 것으로 잘 알려져 있습니다. 예를 들면 다음과 같습니다. https://randomascii.wordpress.com/2012/02/25/comparing-floating-point-numbers-2012-edition/ 파이썬에서 이것을 처리하기 위해 권장되는 방법은 무엇입니까? 분명히 어딘가에 표준 라이브러리 기능이 있습니까?

331 python  floating-point 

소수점 이하 두 자리까지 숫자를 표시하고 싶었습니다. toPrecision(2)JavaScript에서 사용할 수 있다고 생각했습니다 . 그러나 숫자가 0.05인 경우을 얻습니다 0.0500. 차라리 그대로 유지하고 싶습니다. JSbin에서 참조하십시오 . 가장 좋은 방법은 무엇입니까? 몇 가지 솔루션을 코딩하는 것을 생각할 수 있지만 이와 같은 것이 내장되어 있다고 생각합니까?

315 javascript  floating-point  precision 

다양한 그래픽 헤더 파일 에서이 지속적인 팝업이 계속 나타납니다. 0.0039215689 아마도 색과 관련이있는 것 같습니다. 다음은 Google 의 첫 번째 히트입니다 . void RDP_G_SETFOGCOLOR(void) { Gfx.FogColor.R = _SHIFTR(w1, 24, 8) * 0.0039215689f; Gfx.FogColor.G = _SHIFTR(w1, 16, 8) * 0.0039215689f; Gfx.FogColor.B = _SHIFTR(w1, 8, 8) * 0.0039215689f; Gfx.FogColor.A = _SHIFTR(w1, 0, …

310 c  floating-point  constants  magic-numbers 

부동 소수점 변수를 계산해야하며 동료 가 더 정확하기 때문에 BigDecimal대신 사용할 것을 제안합니다 double. 그러나 나는 그것이 무엇인지, 어떻게 최대한 활용할 수 있는지 알고 싶습니다 BigDecimal.

303 java  floating-point  double  bigdecimal