pascalの日記: 浮動小数点関連。
日記 by
pascal
仕様書見てて思ったけど、有効桁数のあたりかなり資源に優しい仕様になっているみたいですね(*゚ー゚)
演算によって精度が違ったりするけど、なるほど、と。てことでちゃっちゃと書いたけど一応有効桁数の仕様を満たしているかどうかもう1回計算を見直ししとこう。
実際に自分で書いてみると、クロックも思ってた以上にかからないことが判明したり資源も使わないで済むことが判明したり。
仕様書見てて思ったけど、有効桁数のあたりかなり資源に優しい仕様になっているみたいですね(*゚ー゚)
演算によって精度が違ったりするけど、なるほど、と。てことでちゃっちゃと書いたけど一応有効桁数の仕様を満たしているかどうかもう1回計算を見直ししとこう。
実際に自分で書いてみると、クロックも思ってた以上にかからないことが判明したり資源も使わないで済むことが判明したり。
あと、僕は馬鹿なことをするのは嫌いですよ (わざとやるとき以外は)。-- Larry Wall
浮動小数点関連。 More ログイン