2014-05-05から1日間の記事一覧

オイラーの贈物 26日目

2章57ページまで 電卓で数値計算した時の問題点の話。 計算順序の変更が許されない 桁落ち(オーバーフローとアンダーフロー) 計算精度 大きさの近い数同士の引き算は桁落ちが生じる C言語で0.1だか0.01だかを足し続けても1にはならないんだっけか