誤差

コンピュータでは8ビットや32ビットといった決められた範囲のビット数で数を表さなければいけません。例えば、1.0000000004という数字を有効数字3桁で表さなければいけなかったら…1.00となるので、誤差が発生してしまいます。 ...