パスワードを忘れた? アカウント作成
この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。

Excelの統計機能は不正確」記事へのコメント

  • by Anonymous Coward
    なんかデジャブな感じがするんだが、Excelの算術関数・統計関数は精度が悪いとか、バグがあるとかいう話は昔からあったんじゃなかったっけ?(ソース忘れた)
    • Re: (スコア:1, 参考になる)

      by Anonymous Coward
      Excel2002だと、sinh(1e-19)がゼロになったりして駄目駄目なんですが、2007では直ってますか?

      # xがゼロの近傍で、sinh(x)≒xになる筈。
      • 内部ではちゃんと値を保持してても、表示するところで安直に 0 にしている、というような話を聞いたことがあります。

        なんか設定でそういうのをいじれれば、良くなるかも。
        • Re:デジャブ? (スコア:2, 参考になる)

          by Anonymous Coward on 2008年10月27日 16時08分 (#1444921)
          >表示するところで安直に 0 にしている、というような話を聞いたことがあります。

          違うっぽいかも。
          セルの値を=Sinh(1E-19)/1E-19にしても0だから。
          1E-16前後あたりから値がおかしくなる。
          でもSin(x)/xだと(xが十分小さいところで)問答無用でちゃんと1になるから、内部的に
          どういう展開を使うかあたりで怪しいんかねぇ。
          親コメント
          • by Anonymous Coward
            sinh()の部分は偉い人が書いたからいじるにいじれないと云うオチだったらやだなぁ。

吾輩はリファレンスである。名前はまだ無い -- perlの中の人

処理中...