今日の授業の概要
-
数の表現
-
コンピュータ/プログラムでの数値の扱い
-
IEEE 754 binary64
-
丸め
-
-
課題4
- $ 2^i \pm {1, 1.5, 2} $
math.e
- ( e = \sum_{n=0}^\infty \frac 1 {n!} )
- ネイピア数の計算における誤差の改善
数の表現
コンピュータ/プログラムでの数値の扱い
IEEE 754 binary64
丸め
課題4
math.e