2011年1月7日金曜日

machine epsilon の謎

数値実験に関して machine epsilon を確認する必要があったので調べているが、ひとつ解からないことがある。
gcc で #define されている machine epsilon が IEEE の定義の2倍になっていることである。
gcc の場合には、

http://sugarpot.sakura.ne.jp/yuno/?gcc%2Fmacro

に書かれているとおり

$ gcc -xc -E -dM /dev/null | grep EPSILON

で 2.2204460492503131e-16 であるが、IEEE の定義はこの半分である。
なかなかに難しい。


あと、数値実験については予備実験と並行して本実験用の問題の選択を行っている。
基本的に本実験の問題数は予備実験の 10分の1から100分の1程度になるので、どういう問題であれば全体の傾向を掴みつつ論文としてまとまりができるか、が重要である。

今日の作業内容:数値実験+machine epsilon
今日のランチ:四川 鶏小松菜炒め
明日の予測作業時間:5h

0 件のコメント:

コメントを投稿