オイラーの贈物 26日目

2章57ページまで

電卓で数値計算した時の問題点の話。

計算順序の変更が許されない

桁落ち(オーバーフローとアンダーフロー)

計算精度 大きさの近い数同士の引き算は桁落ちが生じる

 

C言語で0.1だか0.01だかを足し続けても1にはならないんだっけか