2006-09-18から1日間の記事一覧

double型 v.s. float型

浮動小数点演算を行う際に 浮動小数点型(floatかdoubleかlong doubleか) 計算精度 を変えると,実際にどれくらい計算速度が異なるのか測定してみた.測定した環境は fedora core 5 ベースのlinuxで,中身としては linux-2.6.17, glibc-2.4 Intel(R) Pentium(…