«floating-point» 태그된 질문

주석이있는 예는 다음과 같습니다. class Program { // first version of structure public struct D1 { public double d; public int f; } // during some changes in code then we got D2 from D1 // Field f type became double while it was int before public struct D2 { …

247 c#  .net  floating-point 

문서android:lineSpacingMultiplier 에서 사용하여 TextViews에 줄 사이에 약간의 공백을 추가하려고합니다 . 승수로 텍스트 줄 사이의 추가 간격. "1.2"와 같은 부동 소수점 값이어야합니다. 몇 가지 다른 TextViews에서이를 사용함에 따라 리소스에 전역 차원 / 값을 추가하고 싶지만 사용할 태그를 알지 못합니다. 나에게 맞는 모든 리소스 유형 을 시도했지만 그중 아무것도 작동하지 않습니다. 내가 …

243 android  resources  floating-point 

Bash 스크립트에서 두 이미지 너비를 나누려고하지만 bash는 나에게 0 결과를 제공합니다. RESULT=$(($IMG_WIDTH/$IMG2_WIDTH)) 나는 Bash 가이드를 공부 bc했고 인터넷에서 사용 하는 모든 예제에서 사용해야한다는 것을 알고있다 bc. 에echo 내에서 같은 일을 넣어 시도 SCALE했지만 작동하지 않았다. 튜토리얼에서 찾은 예제는 다음과 같습니다. echo "scale=2; ${userinput}" | bc Bash가 어떻게 플로트를 줄 수 …

242 bash  floating-point  arithmetic-expressions 

나는 Decimal('3.9')객체의 일부를 가지고 있으며 이것을 JSON 문자열로 인코딩하고 싶습니다.{'x': 3.9} . 나는 클라이언트 측의 정밀도에 관심이 없으므로 플로트가 좋습니다. 이것을 직렬화하는 좋은 방법이 있습니까? JSONDecoder는 Decimal 객체를 허용하지 않으며 사전에 float로 변환하면 {'x': 3.8999999999999999}잘못된 결과를 낳으며 대역폭을 크게 낭비하게됩니다.

242 python  json  floating-point  decimal 

파이썬에서 무한의 해시는 pi와 일치하는 숫자를 갖습니다 . >>> inf = float('inf') >>> hash(inf) 314159 >>> int(math.pi*1e5) 314159 우연의 일치 일까, 아니면 의도적 인 것일까?

241 python  math  hash  floating-point  pi 

간단한 부동 소수점 반올림 함수가 필요합니다. double round(double); round(0.1) = 0 round(-0.1) = 0 round(-0.9) = -1 내가 찾을 수 ceil()및 floor()math.h에 -하지만round() . 표준 C ++ 라이브러리에 다른 이름으로 존재합니까, 아니면 없습니까?

232 c++  floating-point  rounding 

CSV에서 가져온 데이터로 작업하고 있습니다. 팬더가 일부 열을 부동으로 변경 했으므로 이제이 열의 숫자가 부동 소수점으로 표시됩니다! 그러나 정수로 표시하거나 쉼표없이 표시해야합니다. 정수로 변환하거나 쉼표를 표시하지 않는 방법이 있습니까?

230 python  pandas  floating-point  integer  dataset 

정밀도를 잃지 않고 IEEE 754 이중 유형으로 저장할 수있는 가장 큰 "부동없는"정수는 무엇입니까?

225 types  floating-point  double  ieee-754 

부동 소수점을 "n"소수점으로 형식화해야합니다. BigDecimal을 시도했지만 리턴 값이 올바르지 않습니다 ... public static float Redondear(float pNumero, int pCantidadDecimales) { // the function is call with the values Redondear(625.3f, 2) BigDecimal value = new BigDecimal(pNumero); value = value.setScale(pCantidadDecimales, RoundingMode.HALF_EVEN); // here the value is correct (625.30) return value.floatValue(); // but here …

220 java  android  floating-point  numbers  format 

float 데이터 형식은 단 정밀도 32 비트 IEEE 754 부동 소수점이고 double 데이터 형식은 배정 밀도 64 비트 IEEE 754 부동 소수점입니다. 무슨 뜻인가요? 그리고 언제 double 대신 float를 사용해야합니까?

220 java  floating-point  double  ieee-754 

C에서 부동 소수점 값 (예 : 37.777779)을 소수점 이하 두 자리 (37.78)로 반올림하려면 어떻게해야합니까?

215 c  floating-point  decimal 

현재 고객 웹 사이트를위한 판매 모듈을 구축 중입니다. 지금까지 완벽하게 계산할 판매가를 얻었지만 결과는 소수점 이하 두 자리로 서식을 지정하는 것입니다. 현재 변수를 호출하여 결과를 목록보기에 바인딩 할 수 있습니다. Sale = float.Parse(((x.Sale_Price - (x.Sale_Price * (x.Discount_Price / 100))).ToString())), 누구나 소수점 이하 2 자리로 출력 형식을 지정하는 방법을 보여 줄 …

210 c#  variables  floating-point  decimal 

정수, 즉 12,000보다 작은 가장 큰 큐브 루트를 찾으려고합니다. processing = True n = 12000 while processing: n -= 1 if n ** (1/3) == #checks to see if this has decimals or not 정수인지 아닌지 확인하는 방법을 잘 모르겠습니다! 문자열로 변환 한 다음 색인을 사용하여 최종 값을 확인하고 값이 …

202 python  floating-point 

부동 소수점 숫자로 저장할 때 일부 숫자의 정확도가 떨어지는 이유는 무엇입니까? 예를 들어, 십진수 9.2는 두 개의 십진 정수 ( 92/10) 의 비율로 정확하게 표현 될 수 있으며 , 둘 모두 이진 ( 0b1011100/0b1010)으로 정확하게 표현 될 수 있습니다 . 그러나 부동 소수점 숫자로 저장된 동일한 비율은 정확히 다음과 같습니다 …

198 floating-point  language-agnostic  precision 

내 동료가 비트 또는 var a = 13.6 | 0; //a == 13 우리는 그것에 대해 이야기하고 몇 가지 궁금합니다. 어떻게 작동합니까? 우리의 이론은 그러한 연산자를 사용하면 숫자를 정수로 변환하여 소수 부분을 제거한다는 것입니다 그것보다 장점이 Math.floor있습니까? 좀 더 빠를까요? (말장난이 아닙니다) 단점이 있습니까? 경우에 따라 작동하지 않을 수 있습니까? …

193 javascript  floating-point  bit-manipulation