HOME計装士受験のための問題の解き方考え方>計装一般【有効数字(測定値)】


計装一般(故障と信頼性,保全)

計装士受験のための

問題の解き方考え方

 

計装一般【有効数字(測定値)

計装一般

 

 
7次の文の内に,適切な数値を記入しなさい。

 

ある直流機器の電力測定を行った。

 (10.3級の電圧計(フルスケール:120V)による直流電圧測定で,98.6Vを得た。

   この測定値の有効数字は, 桁である。

 (2)同様に,0.3級の電流計(フルスケール:25A)による直流電流測定で,21.8Aを得た。

   この測定値の有効数字は, 桁である。

 (3)両者の積で,2149.48Wを得た。

この電力測定結果の有効数字は, 桁である。

 

解答 ア:2  イ:2  ウ:2

解説.

10.3級なので、測定値(98.6V)には,フルスケール(120V)の±0.3

すなわち±0.36Vの誤差が含まれている可能性がある。

つまり,電圧の真の値は 98.96V98.24Vの間にあることになり,上から3桁目以下は確定出来ない。

よって,この測定値の有効数字は2桁である。

2)同様にして,電流の真の値は 21.875A21.725Aの間にある。

よって,有効数字は2桁である。

3)電力の真の値は,電圧・電流の+側誤差最大の値の積(2164.75W)と−側誤差最大の値の積(2134.264W)の間にある。

よって,有効数字は2桁である。

 

これで判るように,有効数字2桁までの測定は容易に出来るが,有効数字3桁の測定は誤差の要因(例えば温度などの環境条件)に注意する,校正表のよる補正を行うなどの必要がある。有効数字4桁の測定は,ごく特定の分野*以外は不可能である。

 *筆者の知る限りでは,熟練技術者が充分環境を整えて行う天秤による質量測定のみ。

  有効数字を明示する表記例

 ・2134.264 が有効数字2桁である場合:2.1×103

  ・(13=)0.3333が有効数字2桁である場合:3.3×101 

   (1の位の0は有効数字ではないことに注意)