«floating-point» 태그된 질문

부동 소수점 숫자는 정수보다 큰 범위를 나타낼 수 있지만 정밀도는 떨어지지 만 동일한 양의 메모리를 사용하는 실수의 근사값입니다. 귀하의 질문이 작은 산술 오류 (예 : 0.2 + 0.1이 0.300000001과 같은 이유) 또는 십진수 변환 오류에 관한 것이라면, 게시하기 전에 아래에 링크 된 "정보"페이지를 읽으십시오.





8
JavaScript : 소수점 이하 자릿수로 반올림하지만 추가 0은 제거
여기에 시나리오입니다 : 내가지고있어 .9999999999999999내가 점점되어야 할 때 1.0. 소수점 이하 자릿수를 잃어 버릴 여유가 있으므로 .toFixed(15)어떤 종류의 작업을 사용하고 있습니다. 반올림이 작동하지만 문제는 내가 주어진 것 1.000000000000000입니다. 소수 자릿수로 반올림하는 방법이 있지만 여분의 공백을 제거하는 방법이 있습니까? 참고 : .toPrecision내가 원하는 것이 아닙니다. 소수점 뒤에 몇 개의 숫자 만 …

11
부동 소수점 비교는 어떻게해야합니까?
현재 다음과 같은 코드를 작성하고 있습니다. double a = SomeCalculation1(); double b = SomeCalculation2(); if (a < b) DoSomething2(); else if (a > b) DoSomething3(); 그리고 다른 곳에서는 평등을해야 할 수도 있습니다. double a = SomeCalculation3(); double b = SomeCalculation4(); if (a == 0.0) DoSomethingUseful(1 / a); if (b == …

3
Win32에서 unsigned int 로의 이중 캐스트가 2,147,483,648로 잘립니다.
다음 코드를 컴파일합니다. double getDouble() { double value = 2147483649.0; return value; } int main() { printf("INT_MAX: %u\n", INT_MAX); printf("UINT_MAX: %u\n", UINT_MAX); printf("Double value: %f\n", getDouble()); printf("Direct cast value: %u\n", (unsigned int) getDouble()); double d = getDouble(); printf("Indirect cast value: %u\n", (unsigned int) d); return 0; } 출력 (MSVC x86) …


12
부동 소수점 숫자를 특정 소수점 자리로 반올림하는 방법은 무엇입니까?
내가 가지고 8.8333333333333339있고 그것을 8.84. 파이썬에서 어떻게이 작업을 수행 할 수 있습니까? round(8.8333333333333339, 2)제공 8.83하지 않습니다 8.84. 저는 Python 또는 일반적으로 프로그래밍을 처음 사용합니다. 나는 그것을 문자열로 인쇄하고 싶지 않으며 그 결과는 더 많이 사용될 것입니다. 문제에 대한 자세한 내용은 Tim Wilson의 Python 프로그래밍 팁 : 대출 및 지불 계산기를 …

2
Linux 커널에서 부동 소수점 사용
나는 Robert Love의 "Linux Kernel Development"를 읽고 있는데, 다음 구절을 보았습니다. (쉬운) 부동 소수점 사용 없음 사용자 공간 프로세스가 부동 소수점 명령어를 사용할 때 커널은 정수에서 부동 소수점 모드로의 전환을 관리합니다. 부동 소수점 명령어를 사용할 때 커널이해야하는 일은 아키텍처에 따라 다르지만 커널은 일반적으로 트랩을 포착 한 다음 정수에서 부동 소수점 …

3
비정규 부동 소수점 숫자는 무엇입니까?
isnormal () 참조 페이지 는 다음을 알려줍니다. 주어진 부동 소수점 수 arg가 정상인지, 즉 0, 비정규, 무한 또는 NaN이 아닌지 판별합니다. 0, 무한 또는 NaN 인 숫자는 그 의미가 분명합니다. 그러나 그것은 또한 비정상이라고 말합니다. 숫자는 언제 비정규입니까?

6
Java에서 정수를 float로 어떻게 변환 할 수 있습니까?
두 개의 정수 x와 y. 나는 계산해야하고 x/y결과로 나는 부유물을 얻고 싶습니다. 예를 들어 3/2나는 1.5를 원합니다. 나는 쉬운 (또는 유일한) 방법은 그것을 변환하는 것입니다 할 생각 x과 y플로트 식으로. 안타깝게도 쉬운 방법을 찾을 수 없습니다. 저를 도와 주 시겠어요?


17
과학적 표기법없이 Double에서 문자열로 변환
.NET Framework에서 과학적 표기법없이 double을 부동 소수점 문자열 표현으로 변환하는 방법은 무엇입니까? "작은"샘플 (유효 숫자는 1.5E200또는 등의 크기가 될 수 있음 1e-200) : 3248971234698200000000000000000000000000000000 0.00000000000000000000000000000000000023897356978234562 의 없음 표준 숫자 형식은 다음과 같이 없습니다 및 사용자 지정 형식은 또한 소수 구분 자리수의 오픈 수를 가지고 허용하지 않는 것 같습니다. 주어진 대답이 …


당사 사이트를 사용함과 동시에 당사의 쿠키 정책개인정보 보호정책을 읽고 이해하였음을 인정하는 것으로 간주합니다.
Licensed under cc by-sa 3.0 with attribution required.