浮動小数点と誤差 ── 0.1＋0.2が0.3にならない理由【基本情報技術者試験 対策】｜ #ひとりLT #068

自分の学習ログとして、LT形式で話したものをそのまま録画しています。 赤神青空（Sora Akagami） X：https://x.com/SoraAkagami0709 今回のスライド：https://speakerdeck.com/akagami/kihon... 00:00:00 はじめに 00:00:15 前回のクイズの答えは「B」 00:00:48 今回の話 00:01:05 2進数の小数にも、桁の重みがある 00:01:45 小数を2進数にする 00:02:28 0.1は2進数で割り切れない 00:03:28 固定小数点と浮動小数点 00:04:22 浮動小数点の形 00:05:02 0.1を単精度で表すと 00:05:47 丸め誤差と打切り誤差 00:06:30 桁落ちと情報落ち 00:07:14 0.1＋0.2は0.3にならない 00:07:50 金額は整数か10進数型で持つ 00:08:27 比較は誤差を許して行う 00:08:59 まとめ 00:09:38 今回のクイズ