2025年8月21日木曜日

sqrt(a^2+b^2) の計算の大変さ

ノルムを計算したりするときに sqrt(a^2+b^2) とプログラムを書いてしまうことがあるが、これをちゃんと精度よく計算する方法が

 An Improved Algorithm for hypot(a,b)
https://arxiv.org/pdf/1904.09481

で議論されている。 数値誤差に関しての議論は、こんな基礎のところにもあるんだな、と思ったりする。 

 

0 件のコメント:

コメントを投稿