パスワードを忘れた? アカウント作成
この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。

スーパーコンピューター向けのExcel、開発中」記事へのコメント

  • 計算結果 (スコア:5, すばらしい洞察)

    いくら早くてもExcelなら結果が信用できない。
    • by nemui4 (20313) on 2009年11月17日 15時44分 (#1673870) 日記

      そういや前の会社の経理さんはいつもでっかい電卓で検算してました。

      Excelファイルでで元ネタが供給されるから、使わざるを得ないけどもうイヤだっていつもぼやいてたのを思い出した。

      Excelでの数値計算ってそういうレベルなの?

      #学生の頃は1-2-3使ってたっけ。

      親コメント
      • Re:計算結果 (スコア:1, 参考になる)

        by Anonymous Coward on 2009年11月17日 15時49分 (#1673874)

        こんな解説 [nikkeibp.co.jp]があります。

        親コメント
      • Re:計算結果 (スコア:1, 参考になる)

        by Anonymous Coward on 2009年11月17日 20時25分 (#1674079)
        経理の人が電卓で計算するのは、数式が数学的に正しかったとしても、

        ---
        計(円)
        ---
        100
        100
        100
        200
        300
        ---
        802
        ---

        のように、表示や印字が会計上、正しくないことが起こりえます。表示や印字だけを見ると、端数がありませんが、書式次第で、端数がある可能性があります。たとえば、実際にセルにある数値や数式の計算結果が、それぞれ、100.4、100.4、100.4、200.4、300.4であり、小数点以下を表示しない書式になっていた場合は、上記のようになります。

        そのような間違いを防ぐためには、検算をすることであり、数字を読み、電卓で打ち、計算結果を比較すると言うのは、最も確実な方法です。1桁打ち間違えたのも検出できますし。

        Excelの計算が正しくないと騒ぐ奴ほど、問題の核心を捉えていないような気がする。
        親コメント
        • Re:計算結果 (スコア:1, 興味深い)

          by Anonymous Coward on 2009年11月18日 6時07分 (#1674281)

          いいえ、単にそんなことでは説明できない意味不明の問題 [mie-u.ac.jp]があるだけです。
          というかどんなこじつけでも説明できればいいという問題ではありません。どういうアルゴリズムで端数処理をしているのかが明確でなければ、演算誤差を見込んで処理すること自体ができません。

          親コメント
          • by Anonymous Coward

            そういや前の会社の経理さんはいつもでっかい電卓で検算してました。

            Excelでの数値計算ってそういうレベルなの?

            に関して、問題の核心はあなたの提示したリンク先にありますか?

            リンク先の問題に関しては、仕様が明らかではなく、勝手に端数処理をするというところが問題なわけですが、そもそも、精度ぎりぎりの演算をさせている時点で、ユーザ側にも問題があるように思います。たとえ、Fortranであっても、そのような精度が期待できないような演算をさせること自体、問題だと思いますし、避けなければいけません。科学計算の専門家ならね。

            ただ、会計の場合でも、はまるところはあります。

        • by nemui4 (20313) on 2009年11月18日 8時29分 (#1674313) 日記

          そうですねぇ。
          学校で実験ばっかしてたときは、ひつこいくらいに有効桁数と単位系を確認してたけど会社に入るとその辺がめちゃくちゃイイカゲンで呆れてたっけ。
          今はもう慣れてしまって水は低きに流れる物だと体感。

          親コメント
        • by Anonymous Coward

          金額がかかわる処理をExcelで行う場合に、端数処理を「表示形式」で行うケースなんてあるんですか。
          その場合はROUND関数とかをはさむのが普通では。

          • Re:計算結果 (スコア:1, 参考になる)

            by Anonymous Coward on 2009年11月17日 23時07分 (#1674172)
            Excelを知らん人のようなので、解説しておくと、数値を3桁ごとにカンマで区切りたいとき、そういう書式指定をすれば、自ずと小数点以下は丸められます。表示を見るだけで信用してはいけないと言うのが鉄則。

            その他、範囲指定が間違っていたり、不可視の行があったり、不可視の様で不可視でなかったりと、落とし穴がいろいろあるわけで、そういったものを目視で全てチェックするとなると、見落としが生じます。

            余談ですが、Excelのシート関数のRound()は学校で習った四捨五入、VBAのRound()はISO式の丸めです。ISO式の場合、ちょうど中間の数字は末尾が偶数になるように丸められます。(例:1.5→2、2.5→2、3.5→4)
            親コメント
          • by Anonymous Coward
            端数処理を「表示形式」でするかしないかの問題ではなく、
            書式に頼っちゃいけないことを知っているかどうかの問題ではないでしょうか。
            ROUNDなんて普段意識しない人が作ったシートなら書式で解決されちゃいますし、
            そのシートがお客さんから指定されたものであれば尚更です。

            # 結構払いすぎてたんだろうなぁ
            # てかほんと、何で今まで誰も気付かなかったんだろう……
          • by Anonymous Coward
            >その場合はROUND関数とかをはさむのが普通では。
            それはあなたの普通です。世の中にはマネジャーレベルの普通とか犯罪者の普通とか酔っ払いの普通とかいろいろあるんですよ

Stableって古いって意味だっけ? -- Debian初級

処理中...