解決済み

有効数字についてお聞きしたいことがございます。足算・引き算は測定値の末位が最も高いくらいの物に合わせ、かけ算・割り算は計算する測定値の最も少ない有効数字の桁数に合わせると学校の授業で伺いました。下記の計算で有効数字が3桁ではなく、2桁になるのは何故でしょうか?有効数字は引き算の場合が適用されるのではなく、かけ算の場合が適用されるのでしょうか?また、もしそうなら何故そうなるのか条件等教えていただけると幸いです。

ベストアンサー

ベストアンサー

まず掛け算を行い、9.89.8×3.0=9.829.49.8-9.8×3.0=9.8-29.4になります。

引き算では少数点以下の桁数が少ない方に合わせるので、今回はどちらも1桁ですから、9.829.4=19.69.8-29.4=-19.6のままで大丈夫です。

そして、最後に「与えられた数値の有効数字に合わせる」という考え方のため、9.89.83.03.0が2桁ですから19.6-19.6を四捨五入して2桁の20-20にして20m/s-20m/sとなります。

実はこの考え方をするときとしない時があるのでこれ以外が間違いだとは言えませんが、桁数に特に指定がなく、加減と乗除が混合しているときは、問題文で与えられた数値で最も有効数字の桁数が少ないものに合わせるのが良いのではないでしょうか。

返信(1件)

とは言いましたが、先生に質問するのが一番だとは思います。

そのほかの回答(0件)

関連する質問

もっとみる