SDPARA (半正定値計画問題用並列計算ソフトウェア)からスタートして、数理最適化について興味のあることを書いています。
ノルムを計算したりするときに sqrt(a^2+b^2) とプログラムを書いてしまうことがあるが、これをちゃんと精度よく計算する方法が
An Improved Algorithm for hypot(a,b)https://arxiv.org/pdf/1904.09481
で議論されている。 数値誤差に関しての議論は、こんな基礎のところにもあるんだな、と思ったりする。
0 件のコメント:
コメントを投稿