2005년05월29일 86번

[전자계산기 일반 및 무선설비기준]
부동소수점 표현으로 어떤 임의의 수치 자료를 합산하려고 한다. 이 때 두 자료의 베이스(Base)는 같고 지수 크기가 다르다면 지수를 어느 쪽에 일치시켜 계산하는가?

① 두 자료의 평균값에 일치시킨다.
② 지수가 큰 쪽에 일치시킨다.
③ 지수가 작은 쪽에 일치시킨다.
④ 어느 쪽에 일치시켜도 상관없다.

(정답률: 알수없음)

문제 해설

부동소수점 표현에서 지수는 해당 수치의 크기를 결정하는 중요한 요소이다. 따라서 두 자료의 베이스가 같고 지수 크기가 다르다면, 지수가 큰 쪽에 일치시켜 계산하는 것이 더욱 정확한 결과를 얻을 수 있다. 이는 지수가 작은 쪽에 일치시키면 작은 수치의 유효숫자들이 버려지기 때문이다. 예를 들어, 1.23 x 10^5와 4.56 x 10^3을 더할 때, 지수가 작은 4.56 x 10^3을 1.23 x 10^5와 같은 10^5로 일치시키면 4.56 x 10^3은 0.0456 x 10^5로 변환되어 유효숫자 0.0456이 버려지게 된다. 따라서 지수가 큰 쪽에 일치시켜 계산하는 것이 더욱 정확한 결과를 얻을 수 있다.

이전 문제 다음 문제