アカウント名:
パスワード:
計算がミスっていないことをどのように保証しましょう？
前からずっと気になっていたのだけどソフトウェア処理は正確で、ハードウェア処理は早いけどあまり正確じゃないのはなんでなんだろう。エミュレータで顕著だけど。DBにも同じことが言えるならいくら早くても何の役にも立たないとは思う。1分で1000の仕事だがミスは絶対にない奴と1分で100万の仕事をするが1/10000でミスをする奴なら前者の方がいいし。多少ミスっても許容できる仕事なら後者の方がいいけどさ。
float精度の話？
Firefoxだったか、doubleをfloatに変更する事で大幅に高速化とか
「結果が変わらない場合のみ無駄な倍精度演算の命令を生成しなくなった」って話がなぜか歪曲されてる件
内部的には倍精度演算しか出来ないのだが、あれはopenGLとかを高速化する時にfloatを使うのと同じ理由、メモリアクセスが半分になる。
最近ならハードウェアエンコーダとかじゃない、ソフトウェアより速いけど、質は良くない。バグがあっても直せないし。
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
物事のやり方は一つではない -- Perlな人
信頼性 (スコア:0)
計算がミスっていないことをどのように保証しましょう？
Re: (スコア:0)
前からずっと気になっていたのだけど
ソフトウェア処理は正確で、ハードウェア処理は早いけどあまり正確じゃないのはなんでなんだろう。
エミュレータで顕著だけど。
DBにも同じことが言えるならいくら早くても何の役にも立たないとは思う。
1分で1000の仕事だがミスは絶対にない奴と
1分で100万の仕事をするが1/10000でミスをする奴なら前者の方がいいし。
多少ミスっても許容できる仕事なら後者の方がいいけどさ。
Re:信頼性 (スコア:2)
float精度の話？
Re: (スコア:0)
Firefoxだったか、doubleをfloatに変更する事で大幅に高速化とか
Re: (スコア:0)
「結果が変わらない場合のみ無駄な倍精度演算の命令を生成しなくなった」って話がなぜか歪曲されてる件
Re: (スコア:0)
内部的には倍精度演算しか出来ないのだが、あれはopenGLとかを高速化する時にfloatを使うのと同じ理由、メモリアクセスが半分になる。
Re: (スコア:0)
最近ならハードウェアエンコーダとかじゃない、ソフトウェアより速いけど、質は良くない。バグがあっても直せないし。