パスワードを忘れた? アカウント作成
この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。

Excelの統計機能は不正確」記事へのコメント

  • by Anonymous Coward
    なんかデジャブな感じがするんだが、Excelの算術関数・統計関数は精度が悪いとか、バグがあるとかいう話は昔からあったんじゃなかったっけ?(ソース忘れた)
    • Re: (スコア:1, 参考になる)

      by Anonymous Coward
      Excel2002だと、sinh(1e-19)がゼロになったりして駄目駄目なんですが、2007では直ってますか?

      # xがゼロの近傍で、sinh(x)≒xになる筈。
      • Re: (スコア:2, 参考になる)

        ただ単に、倍精度の浮動小数点で計算していて、0近傍の値を考慮していないなら、処理系を問わず、そうなります。内部的には、

        sinh(x)=(exp(x)-exp(-x))/2

        で計算していて、0近傍でexp(x)≒1+x、exp(-x)≒1-xとなるので、これらの値が倍精度で表現出来なくなったところで終わりです。パーセントオーダーの精度だと5e-15で終わりです。

        MzScheme(Schemeの処理系の1つ)でも試してみましたが、倍精度なので結果は同じです。sinhは無いので、上記の式を使いました。

        ただ、個人的には、この手の計算をするときにExcelを使う奴の方が間違っていると思う。
        • by deleted user (3911) on 2008年10月27日 21時25分 (#1445159)
          そういえば、N88-BASIC だったか、その頃の MS-BASIC でもそういった安直な
          関数計算をしていて有効桁が少ないという問題がありましたね。
          あと、sqrt(x) を x^0.5 で代用しているのでこれも有効桁が少ないという
          問題がありました。(真面目に計算するならニュートン法でも使うところ。)

          親コメント

にわかな奴ほど語りたがる -- あるハッカー

処理中...