«floating-point» 태그된 질문

public class doublePrecision { public static void main(String[] args) { double total = 0; total += 5.6; total += 5.8; System.out.println(total); } } 위 코드는 다음과 같이 인쇄됩니다. 11.399999999999 11.4를 인쇄 (또는 그대로)하려면 어떻게해야합니까?

149 java  floating-point  double  precision 

내 코드는 다음과 같습니다. x = 1.0 y = 100000.0 print x/y 내 몫은로 표시됩니다 1.00000e-05. 과학적 표기법을 억제하고 다음과 같이 표시하는 방법이 0.00001있습니까? 결과를 문자열로 사용하겠습니다.

147 python  floating-point 

나는 gcc를 이해한다 --ffast-math 플래그가 플로트 op의 속도를 크게 높이고 IEEE 표준을 벗어나는 것을 알고 있지만 실제로 켜져있을 때 발생하는 정보에 대해서는 찾을 수 없습니다. 누구든지 세부 사항 중 일부를 설명하고 깃발이 켜져 있거나 꺼져 있으면 어떻게 변할 것인지에 대한 명확한 예를 제시 할 수 있습니까? 비슷한 질문에 대해 SO를 …

144 performance  math  gcc  floating-point  fast-math 

부동 소수점 숫자가 135.12345678910있습니다. 해당 값을 문자열에 연결하고 싶지만 만 원합니다 135.123456789. 인쇄하면 다음과 같은 작업을 수행하여 쉽게 수행 할 수 있습니다. print "%.9f" % numvar 와 numvar내 원래 수있는. 이 작업을 수행하는 쉬운 방법이 있습니까?

144 python  string  floating-point 

float 인수 (일반적으로 하나의 유효 숫자가있는 정수 또는 소수)를 취하는 함수가 있으며 소수점 이하 두 자리 (5-> 5.00, 5.5-> 5.50 등)가있는 문자열로 값을 출력해야합니다. 파이썬에서 어떻게 할 수 있습니까?

136 python  string  programming-languages  floating-point 

다음 예제에서 0 (또는 무한대)으로 나눌 수 있습니까? public double calculation(double a, double b) { if (a == b) { return 0; } else { return 2 / (a - b); } } 일반적인 경우에는 물론 그렇지 않습니다. 그러나 경우 a와 b매우 가까운 수 있습니다 (a-b)되는 결과 0계산의 정밀도 때문에? …

131 floating-point  double  floating-accuracy  ieee-754 

나는 그 질문이 이상해 보인다. 프로그래머는 때때로 너무 많이 생각합니다. 읽어주세요 ... CI의 사용 signed및 unsigned정수 많이. 부호없는 정수를 부호없는 변수에 할당하는 것과 같은 일을하면 컴파일러가 경고한다는 사실이 마음에 듭니다. 부호없는 정수와 훨씬 더 많은 부호를 비교하면 경고가 표시됩니다. 나는이 경고를 좋아한다. 그들은 내 코드를 올바르게 유지하도록 도와줍니다. 우리는 왜 …

131 c  types  floating-point  format  unsigned 

다음과 같은 간단한 코드가 있습니다. int speed1 = (int)(6.2f * 10); float tmp = 6.2f * 10; int speed2 = (int)tmp; speed1와 speed2같은 값을해야하지만 사실, 내가 가진 : speed1 = 61 speed2 = 62 캐스팅 대신 Math.Round를 사용해야한다는 것을 알고 있지만 왜 값이 다른지 이해하고 싶습니다. 생성 된 바이트 코드를 …

128 c#  casting  floating-point  int  expression 

주로 모바일 브라우저 용 웹 앱을 구축하고 있습니다. 숫자 유형의 입력 필드를 사용하므로 대부분의 모바일 브라우저는 더 나은 사용자 경험을 위해 숫자 키보드 만 호출합니다. 이 웹 응용 프로그램은 주로 소수점이 아닌 쉼표가있는 영역에서 사용되므로 소수점 구분 기호를 모두 처리해야합니다. 이 모든 혼란을 점과 쉼표로 덮는 방법은 무엇입니까? 내 발견 …

128 javascript  jquery  mobile  floating-point  html-input 

제목에서 알 수 있듯이 부동 소수점 숫자를 가장 가까운 정수로 내림하고 싶습니다. 그러나 전체가 아닌 경우 다음 정수에 얼마나 가까운 지에 관계없이 항상 변수를 반올림하고 싶습니다. 이를 수행하는 방법이 있습니까?

128 python  floating-point  integer  rounding 

Clang이이 코드에서 루프를 최적화하는 이유 #include <time.h> #include <stdio.h> static size_t const N = 1 << 27; static double arr[N] = { /* initialize to zero */ }; int main() { clock_t const start = clock(); for (int i = 0; i < N; ++i) { arr[i] *= 1.0; } …

125 c++  c  optimization  floating-point  clang 

round () 함수에 대한 문서 는 숫자를 전달하고 소수점 이하 자리를 반올림하도록 지정합니다. 따라서 다음 을 수행해야합니다. n = 5.59 round(n, 1) # 5.6 그러나 실제로는 오래된 부동 소수점 기이함이 들어와 다음과 같은 결과를 얻습니다. 5.5999999999999996 UI를 위해 5.6. 나는 인터넷을 샅샅이 뒤져서 이것이 파이썬 구현에 의존한다는 몇 가지 문서 …

123 python  floating-point  rounding 

소수점 뒤의 숫자는 어떻게 구합니까? 예를 들어, 내가있는 5.55경우 어떻게 얻을 수 .55있습니까?

123 python  floating-point  decimal 

float템플릿 매개 변수 로 사용하려고 하면 컴파일러가이 코드에 대해 울지 만 int잘 작동합니다. float템플릿 매개 변수로 사용할 수 없기 때문 입니까? #include<iostream> using namespace std; template <class T, T defaultValue> class GenericClass { private: T value; public: GenericClass() { value = defaultValue; } T returnVal() { return value; } }; …

120 c++  templates  generics  floating-point 

저는 PHP에 전혀 익숙하지 않고 빠른 질문이있었습니다. 2 개의 변수 pricePerUnit와 InvoicedUnits. 다음은이를 값으로 설정하는 코드입니다. $InvoicedUnits = ((string) $InvoiceLineItem->InvoicedUnits); $pricePerUnit = ((string) $InvoiceLineItem->PricePerUnit); 이것을 출력하면 올바른 값을 얻습니다. 말할 수 있습니다 5000청구 단위 및 1.00가격. 이제 총 지출 금액을 표시해야합니다. 이 두 가지를 곱하면 작동하지 않습니다 (예상대로 문자열입니다). 그러나 …

120 php  string  casting  floating-point