Day 5: 数の表現


今日の授業の概要

  1. 数の表現

  2. コンピュータ/プログラムでの数値の扱い

    • IEEE 754 binary64

    • 丸め

  3. 課題4

    • $ 2^i \pm {1, 1.5, 2} $
    • math.e
    • ( e = \sum_{n=0}^\infty \frac 1 {n!} )
    • ネイピア数の計算における誤差の改善