«floating-point» 태그된 질문

이것들 사이에 차이점이 있습니까? float foo1 = (int)(bar / 3.0); float foo2 = floor(bar / 3.0); 두 경우 모두 동일한 결과가 있음을 이해합니다. 컴파일 된 코드에 차이가 있습니까?

120 c++  c  floating-point 

John Carmack은 Quake III 소스 코드 (float)(1.0/sqrt(x))에서 이상한 0x5f3759df상수를 포함하여 regular보다 4 배 빠른 float의 역 제곱근을 계산하는 특수 함수를 가지고 있습니다. 아래 코드를 참조하십시오. 누군가 여기서 정확히 무슨 일이 일어나고 있으며 왜 이것이 일반 구현보다 훨씬 빠르게 작동하는지 한 줄씩 설명 할 수 있습니까? float Q_rsqrt( float number ) …

112 algorithm  floating-point  square-root 

점 다음에 고정 된 자릿수를 갖도록 부동 소수점에서 자릿수를 제거하고 싶습니다. 1.923328437452 -> 1.923 인쇄가 아닌 다른 함수에 문자열로 출력해야합니다. 또한 잃어버린 숫자를 반올림하지 않고 무시하고 싶습니다.

110 python  floating-point 

"41.00027357629127"과 같은 문자열을 변환하고 있으며 사용하고 있습니다. Convert.ToSingle("41.00027357629127"); 또는 float.Parse("41.00027357629127"); 이러한 메서드는 4.10002732E + 15를 반환 합니다. float로 변환 할 때 "41.00027357629127"을 원합니다. 이 문자열은 동일해야합니다 ...

108 c#  .net  string  floating-point  type-conversion 

저는 Intel Core Duo에서 핵심 수학의 일부를 프로파일 링했으며 제곱근에 대한 다양한 접근 방식을 살펴보면서 이상한 점을 발견했습니다. SSE 스칼라 연산을 사용하면 역 제곱근을 취하고 곱하는 것이 더 빠릅니다. 기본 sqrt opcode를 사용하는 것보다 sqrt를 얻으려면! 다음과 같은 루프로 테스트하고 있습니다. inline float TestSqrtFunction( float in ); void TestFunc() { …

106 performance  assembly  floating-point  x86  sse 

이것은 최근 인터뷰에서 물어 본 질문이었고 알고 싶습니다 (실제로 수치 분석 이론을 기억하지 못하므로 저를 도와주세요 :) 부동 소수점 숫자를 누적하는 함수가있는 경우 : std::accumulate(v.begin(), v.end(), 0.0); vA는 std::vector<float>, 예를 들면. 이 숫자를 누적하기 전에 정렬하는 것이 더 낫습니까? 어떤 순서가 가장 정확한 답을 줄까요? 나는 의심 정렬 오름차순으로 번호 …

105 c++  floating-point  precision 

문자열을 다시 스캔 할 때 원래 부동 소수점 값을 얻 printf도록 출력을 필요한 유효 자릿수 로 자동 형식화하는 부동 소수점 지정자에 적용 할 수 있는 너비 지정자가 있습니까? 예를 들어, 소수 자릿수 float의 정밀도로 a 를 인쇄한다고 가정 2합니다. float foobar = 0.9375; printf("%.2f", foobar); // prints out 0.94 출력을 …

103 c  floating-point  printf  c99  floating-point-precision 

f숫자 뒤에있는 것은 무엇을 의미합니까? 이것은 C 또는 Objective-C에서 온 것입니까? 이것을 상수에 추가하지 않는 데 차이가 있습니까? CGRect frame = CGRectMake(0.0f, 0.0f, 320.0f, 50.0f); 왜 내가 쓰지 않는지 설명해 주시겠습니까? CGRect frame = CGRectMake(0, 0, 320, 50);

102 objective-c  c  floating-point 

이 코드를 작성했습니다. float b = 3.6; 그리고 나는 이것을 얻는다 : 오류 : 해결되지 않은 컴파일 문제 : 유형 불일치 : double에서 float로 변환 할 수 없습니다. 왜? 의 정의는 float무엇입니까?

102 java  floating-point 

이것은 단지 내 자신의 호기심을 만족시키기위한 것입니다. 이것의 구현이 있습니까? float InvSqrt (float x) { float xhalf = 0.5f*x; int i = *(int*)&x; i = 0x5f3759df - (i>>1); x = *(float*)&i; x = x*(1.5f - xhalf*x*x); return x; } 녹에? 존재하는 경우 코드를 게시하십시오. 나는 그것을 시도하고 실패했다. 정수 형식을 …

101 rust  floating-point  sqrt  type-punning 

나는 UITextField에서 가져온 숫자를 실제로 String으로 변환하고 Float로 변환하여 곱할 수 있도록 노력하고 있습니다. UITextfield다음과 같이 선언 된 두 가지 가 있습니다. @IBOutlet var wage: UITextField @IBOutlet var hour: UITextField 사용자가 UIButton을 눌렀을 때 사용자가 벌어 들인 임금을 계산하고 싶지만, 사용하기 전에 먼저 수레로 변환해야하므로 계산할 수 없습니다. 이 작업을 …

101 string  floating-point  swift  string-parsing 

저는 C ++에서 성능에 중요한 작업을 수행하고 있으며 현재 "더 빠르기"때문에 본질적으로 부동 소수점 문제에 정수 계산을 사용하고 있습니다. 이로 인해 성가신 문제가 많이 발생하고 성가신 코드가 많이 추가됩니다. 이제 저는 부동 소수점 계산이 약 386 일 동안 얼마나 느 렸는지 읽은 기억이납니다. 여기서 (IIRC) 선택적 공동 프로세서가 있다고 믿습니다. …

100 c++  x86  floating-point  x86-64 

일반적으로 double 또는 decimal 유형 값 사이의 평등에 의존 할 수 없다는 것을 알고 있지만 0이 특별한 경우인지 궁금합니다. 0.00000000000001과 0.00000000000002 사이의 부정확성을 이해할 수 있지만 0 자체는 아무것도 아니기 때문에 엉망이되기가 꽤 어렵습니다. 아무것도 정확하지 않다면 더 이상 아무것도 아닙니다. 하지만 저는이 주제에 대해 잘 모르기 때문에 제가 말할 …

100 c#  .net  floating-point  precision  zero 

나는 파이썬 2.6 의 표준 json 모듈 을 사용하여 수레 목록을 직렬화하고 있습니다. 그러나 다음과 같은 결과가 나타납니다. >>> import json >>> json.dumps([23.67, 23.97, 23.87]) '[23.670000000000002, 23.969999999999999, 23.870000000000001]' 소수 두 자리로만 서식을 지정하고 싶습니다. 출력은 다음과 같아야합니다. >>> json.dumps([23.67, 23.97, 23.87]) '[23.67, 23.97, 23.87]' 내 자신의 JSON 인코더 클래스 정의를 …

100 python  json  formatting  floating-point 

사례 1 : #include <iostream> int main() { double d = 15.50; std::cout<<(d/0.0)<<std::endl; } 경고없이 컴파일되고 인쇄 inf됩니다. 좋아요, C ++는 0으로 나누기를 처리 할 수 ​​있습니다 ( 라이브 참조 ). 그러나, 사례 2 : #include <iostream> int main() { double d = 15.50; std::cout<<(d/0)<<std::endl; } 컴파일러는 다음 경고를 표시합니다 …

98 c++  gcc  floating-point  divide-by-zero