単精度実数 ただし、nは-126〜127 倍精度実数 ただし、nは-1022〜1023 漸化式の誤差 参考 http://www.misojiro.t.u-tokyo.ac.jp/~murota/lect-suchi/recrel131007.pdf 2次方程式での桁落ちによる誤差の拡散を防ぐ計算方法 定番 引き算(a-bなど)の桁落ちを防…
引用をストックしました
引用するにはまずログインしてください
引用をストックできませんでした。再度お試しください
限定公開記事のため引用できません。