«floating-point» 태그된 질문

На этот вопрос есть ответы на 스택 오버플로 на русском : Вычисления на числах с плавающей точкой не работают 다음 코드를 고려하십시오. 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 왜 이러한 부정확성이 발생합니까?

2983 math  language-agnostic  floating-point  floating-accuracy 

파이썬에서 어떻게 "545.2222"대응하는 float 값 과 같은 숫자 문자열을 구문 분석 할 수 545.2222있습니까? 또는 문자열 "31"을 정수로 구문 분석하십시오 31. 방금 float str 을 로 구문 분석하고 int 를 float(별도로) 구문 분석하는 방법을 알고 싶습니다 . strint

2251 python  parsing  floating-point  type-conversion  integer 

과학 응용 프로그램에서 수치 최적화를하고 있습니다. 내가 주목 한 것은 GCC가 호출 pow(a,2)을 컴파일 하여 호출 을 최적화 a*a하지만 호출 pow(a,6)이 최적화되지 않고 실제로 라이브러리 함수를 호출 pow하여 성능이 크게 저하 된다는 것 입니다. 반대로, 실행 가능한 Intel C ++ Compilericc 는 라이브러리 호출을 제거합니다 pow(a,6). 궁금한 점은 GCC 4.5.1 …

2120 gcc  assembly  floating-point  compiler-optimization  fast-math 

무엇 사이의 차이 decimal, float그리고 double.NET에? 누군가이 중 하나를 언제 사용합니까?

2085 .net  floating-point  double  decimal 

13.95a 로 반올림 하고 싶습니다 . >>> a 13.949999999999999 >>> round(a, 2) 13.949999999999999 round기능은 내가 예상대로 작동하지 않습니다.

1691 python  floating-point  rounding  precision 

파이썬에서 문자열을 숫자로 나타낼 수 있는지 확인하는 가장 좋은 방법은 무엇입니까? 현재 내가 가지고있는 기능은 다음과 같습니다. def is_number(s): try: float(s) return True except ValueError: return False 추악하고 느릴뿐만 아니라 어색한 것 같습니다. 그러나 float주 함수를 호출하는 것이 더 나쁘기 때문에 더 좋은 방법을 찾지 못했습니다 .

1607 python  casting  floating-point  type-conversion 

이 코드가 왜 const float x[16] = { 1.1, 1.2, 1.3, 1.4, 1.5, 1.6, 1.7, 1.8, 1.9, 2.0, 2.1, 2.2, 2.3, 2.4, 2.5, 2.6}; const float z[16] = {1.123, 1.234, 1.345, 156.467, 1.578, 1.689, 1.790, 1.812, 1.923, 2.034, 2.145, 2.256, 2.367, 2.478, 2.589, 2.690}; float y[16]; for (int i = …

1527 c++  performance  visual-studio-2010  compilation  floating-point 

나는 항상 돈 이나 유형 을 대표 하지 말라고 들었습니다. 이번에는 나는 당신에게 질문을 제기합니다 : 왜?doublefloat 나는 아주 좋은 이유가 있다고 확신합니다. 나는 그것이 무엇인지 모릅니다.

938 floating-point  currency 

html5.org 에 따르면 , "숫자"입력 유형의 "값 속성 (지정되고 비어 있지 않은 경우)은 유효한 부동 소수점 숫자 값을 가져야합니다." 그러나 그것은 (어쨌든 최신 버전의 Chrome에서), 수레가 아닌 정수가있는 "업다운"컨트롤입니다. <input type="number" id="totalAmt"></input> 코드 스 니펫 실행결과 숨기기스 니펫 확장 HTML5 고유의 부동 소수점 입력 요소가 있거나 숫자 입력 유형을 정수가 …

816 html  input  floating-point 

해당하는 경우 항상 반올림하여 소수점 이하 2 자리를 표시하도록 숫자 형식을 지정하고 싶습니다. 예 : number display ------ ------- 1 1.00 1.341 1.34 1.345 1.35 나는 이것을 사용했다 : parseFloat(num).toFixed(2); 그러나이 아닌으로 표시 1됩니다 .11.00

782 javascript  floating-point  number-formatting 

0과 1 사이에서 0.1 씩 단계를 밟는 방법이 있습니까? 나는 다음과 같이 할 수 있다고 생각했지만 실패했습니다. for i in range(0, 1, 0.1): print i 대신, 단계 인수는 0이 될 수 없으며 내가 기대하지 않았다고 말합니다.

744 python  floating-point  range 

나는 두 개의 정수 값을 a하고 b,하지만 난 부동 소수점에서의 비율이 필요합니다. 나는 그것을 알고 a < b계산하고 싶습니다 a / b. 따라서 정수 나누기를 사용하면 항상 나머지로 0을 얻습니다 a. c파이썬에서 강제 로 부동 소수점 숫자가되도록하려면 어떻게해야합니까? c = a / b

721 python  floating-point  integer  division  python-2.x 

의을 사용하여 불투명도 Track-Bar를 변경 하고 싶습니다 Form. 이것은 내 코드입니다. decimal trans = trackBar1.Value / 5000; this.Opacity = trans; 응용 프로그램을 빌드하면 다음 오류가 발생합니다. 암시 적으로 유형 decimal을 로 변환 할 수 없습니다double 내가 사용하는 시도 trans하고 double있지만 다음은 Control작동하지 않습니다. 이 코드는 과거 VB.NET 프로젝트에서 잘 작동했습니다.

673 c#  floating-point  type-conversion  double  decimal 

다음과 같은 더미 테스트 스크립트가 있습니다. function test() { var x = 0.1 * 0.2; document.write(x); } test(); 코드 스 니펫 실행결과 숨기기스 니펫 확장 이렇게하면 결과가 인쇄 0.020000000000000004되지만 인쇄하는 동안 0.02계산기가 사용됩니다. 내가 이해하는 한 이것은 부동 소수점 곱셈 정밀도의 오류 때문입니다. 그런 경우에 나는 올바른 결과를 얻을 수있는 …

617 javascript  floating-point 

다음 프로그램 .5에서를 제외하고 각 값 이 반올림 된 것보다 약간 작음을 알 수 있습니다 0.5. for (int i = 10; i >= 0; i--) { long l = Double.doubleToLongBits(i + 0.5); double x; do { x = Double.longBitsToDouble(l); System.out.println(x + " rounded is " + Math.round(x)); l--; } while …

567 java  floating-point  double  rounding