パスワードを忘れた? アカウント作成
593857 journal

pascalの日記: 浮動小数点関連。

日記 by pascal

仕様書見てて思ったけど、有効桁数のあたりかなり資源に優しい仕様になっているみたいですね(*゚ー゚)
演算によって精度が違ったりするけど、なるほど、と。てことでちゃっちゃと書いたけど一応有効桁数の仕様を満たしているかどうかもう1回計算を見直ししとこう。

実際に自分で書いてみると、クロックも思ってた以上にかからないことが判明したり資源も使わないで済むことが判明したり。

この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。
typodupeerror

あと、僕は馬鹿なことをするのは嫌いですよ (わざとやるとき以外は)。-- Larry Wall

読み込み中...