2016년 3월 21일 월요일

헷갈렸던 유효숫자 계산



* (3.26x10^-3) – (7.88x10^-5) = (3.26x10^-3) - (0.0788x10^-3) = (3.182x10^-3) = (3.18x10^-3)
→ 뺄셈의 경우이므로 우선 같은 지수를 가지도록 맞춘 후(10^-3으로) 둘을 빼고, 가장 작은 소숫점상의 유효숫자가 2개이므로 결과도 소숫점상의 유효숫자가 2개가 되도록 맞춘다. 지수 두개를 늘리려면 소숫점을 오른쪽으로 두칸 움직여준다.

http://frontjang.info/286

567.000 - 12 = 555
555
  12 소숫점 아래 x
 
8597 - 0.1 = 8596.9
8597
  8597 소숫점 아래 x
 
(3.50×10^5) × [2.8 / (5.4 4.09)] = 748091.60305...
5.4 4.09 = 1.31
1.3
(3.50×10^5) × [2.8 / 1.3] = 753846.153846...
750000 or 7.5×10^5
혼합계산은 계산 순서 대로! 괄호 안부터, 곱셈 나눗셈 부터
유효숫자는 2개여야
 
(6.10×10^7) + (3×10^7)
= (6.10 + 3)×10^7 = 9.1×10^7
9×10^7
 덧셈 계산. 같은 지수를 가지도록!
 
787 × 3.0 = 2361
2400
 유효숫자는 2개여야