2006-09-16から1日間の記事一覧

C99 における浮動小数点演算の丸め方,例外の取り扱い

C言語の新しい規格であるISO C99では, 浮動小数点演算の丸め方 例外の取り扱い を制御するために,11個の関数を定義している. #include <fenv.h> // 例外関係 int feclearexcept(int excepts); int fegetexceptflag(fexcept_t *flagp, int excepts); int feraiseex</fenv.h>…

C99における浮動小数点演算の計算精度(その2)

C99では,FLT_EVAL_METHODの値で float型 や double型の計算精度を制御できるようになっている.では FLT_EVAL_METHOD の初期値はどうなっているのか? Linux環境で調べてみた. 結論: デフォルトでは FLT_EVAL_METHOD は 2.つまり float でも double でも …

C99における浮動小数点演算の計算精度(その1)

C99では,FLT_EVAL_METHOD というラベルの値で,浮動小数点演算の計算精度が制御できる.FLT_EVAL_METHODの値と保証される精度の関係は以下の表の様になる. FLT_EVAL_METHODの値 float型が保証する精度 double型が保証する精度 0 float double 1 double dou…