2020-09-06から1日間の記事一覧
倍精度浮動小数点数のおさらいから。 フォーマット 符号 指数部 仮数部 1 11 52 \[ val = (-1)^{s} \cdot (1 + f \cdot 2^{-52}) \cdot 2^{e - 1023} \] 例: 0.75 \[ 0.75 = (-1)^{0_{(2)}} \cdot (1 + 100000000000000000000000000000000000000000000000000…
倍精度浮動小数点数のおさらいから。 フォーマット 符号 指数部 仮数部 1 11 52 \[ val = (-1)^{s} \cdot (1 + f \cdot 2^{-52}) \cdot 2^{e - 1023} \] 例: 0.75 \[ 0.75 = (-1)^{0_{(2)}} \cdot (1 + 100000000000000000000000000000000000000000000000000…