«dc» 태그된 질문

3
bash에서 부동 소수점 숫자를 정확히 2 자리의 유효 숫자로 포맷하는 방법은 무엇입니까?
bash에서 정확히 두 개의 유효 자릿수로 부동 소수점 숫자를 인쇄하고 싶습니다 (awk, bc, dc, perl 등과 같은 공통 도구를 사용할 수 있음). 예 : 76543은 76000으로 인쇄해야합니다 0.0076543은 0.0076으로 인쇄해야합니다 두 경우 모두 유효 숫자는 7과 6입니다. 비슷한 문제에 대한 답변을 읽었습니다. 쉘에서 부동 소수점 숫자를 반올림하는 방법은 무엇입니까? 부동 …
17 bash  awk  bc  floating-point  dc 

3
DC로 정밀도 손실
dc16 진수로 16 진수를 처리하는 데 사용하고 싶지만 정밀 문제가 발생합니다. 예를 들어, 아래 나는 곱 해요 F423F.FD로 100, 모두 진수를. 예상되는 대답은 F423FFD, 대신이주고 F423FFA.E1도 라운딩 후 가까운하지만, 정확한 충분히. $ dc 16 d i o F423F.FD 100 * p F423FFA.E1 나는 그것이 dc무제한 정밀 계산기 라는 것을 읽었 …
12 dc 
당사 사이트를 사용함과 동시에 당사의 쿠키 정책개인정보 보호정책을 읽고 이해하였음을 인정하는 것으로 간주합니다.
Licensed under cc by-sa 3.0 with attribution required.