DL30 FAQ9

Webロガー2（形式：DL30）のI/Oマッピング機能を利用して、アナログ演算レジスタ（MA）の値をアナログ出力（A0）へ割り付けたところ、MAの値が600ですが、AOの値は599となりました。なぜでしょうか？

<A>

アナログ演算レジスタ（MA）は単精度浮動小数点型のため、厳密な内部の値は近似値です。手計算した値が600でもMAの中の値は599.9999のようになることがあります。MAの値が599.9999のときに、Web画面にMAを表示すると下の桁を四捨五入して、600.0と表示します。

このときに、MAをAOにI/Oマッピングするとアナログ出力（AO）は整数型のため、小数点以下を切り捨ててAOの値が599.0になります。