パスワードを忘れた? アカウント作成
この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。

Excelの統計機能は不正確」記事へのコメント

  • by Anonymous Coward
    なんかデジャブな感じがするんだが、Excelの算術関数・統計関数は精度が悪いとか、バグがあるとかいう話は昔からあったんじゃなかったっけ?(ソース忘れた)
    • Re: (スコア:1, 参考になる)

      by Anonymous Coward
      Excel2002だと、sinh(1e-19)がゼロになったりして駄目駄目なんですが、2007では直ってますか?

      # xがゼロの近傍で、sinh(x)≒xになる筈。
      • by Anonymous Coward on 2008年10月27日 14時20分 (#1444857)
        =SINH(0.0000000000000000001)
        に自動変換され、セルには0とでますね。セルのプロパティから数値で小数点以下の桁数30にした状態でも0.0です。小数点以下に0が多く並んでるが数えるの面倒だから放置
        親コメント
        • by Anonymous Coward
          A1に"=sinh(1E-19)"を入力した状態で
          =IF(A1=0, "真", "偽")としてみると
          sinh(1E-16)までは偽で、sinh(1E-17)から真となりました。
          元コメントにあるとおり1E-16辺りから怪しいようです。
          # さらにsinh(6E-17)では偽、sinh(5E-17)では真……って何ヒマな事をやってるんだろ

          (*) 一応注意しておくと、sinh(6E-17)まで正しいという訳ではないです。

人生unstable -- あるハッカー

処理中...