すごくメモ帳

すごくほぼメモ帳ぐらいなブログ

2020-09-06から1日間の記事一覧

frexp と ldexp で浮動小数点数を分数へ変換するアルゴリズム

倍精度浮動小数点数のおさらいから。 フォーマット 符号 指数部 仮数部 1 11 52 \[ val = (-1)^{s} \cdot (1 + f \cdot 2^{-52}) \cdot 2^{e - 1023} \] 例: 0.75 \[ 0.75 = (-1)^{0_{(2)}} \cdot (1 + 100000000000000000000000000000000000000000000000000…