アカウント名:
パスワード:
そういや前の会社の経理さんはいつもでっかい電卓で検算してました。
Excelファイルでで元ネタが供給されるから、使わざるを得ないけどもうイヤだっていつもぼやいてたのを思い出した。
Excelでの数値計算ってそういうレベルなの？
#学生の頃は1-2-3使ってたっけ。
いいえ、単にそんなことでは説明できない意味不明の問題 [mie-u.ac.jp]があるだけです。というかどんなこじつけでも説明できればいいという問題ではありません。どういうアルゴリズムで端数処理をしているのかが明確でなければ、演算誤差を見込んで処理すること自体ができません。
に関して、問題の核心はあなたの提示したリンク先にありますか?
リンク先の問題に関しては、仕様が明らかではなく、勝手に端数処理をするというところが問題なわけですが、そもそも、精度ぎりぎりの演算をさせている時点で、ユーザ側にも問題があるように思います。たとえ、Fortranであっても、そのような精度が期待できないような演算をさせること自体、問題だと思いますし、避けなければいけません。科学計算の専門家ならね。
ただ、会計の場合でも、はまるところはあります。
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
開いた括弧は必ず閉じる -- あるプログラマー
計算結果 (スコア:5, すばらしい洞察)
Re: (スコア:1)
そういや前の会社の経理さんはいつもでっかい電卓で検算してました。
Excelファイルでで元ネタが供給されるから、使わざるを得ないけどもうイヤだっていつもぼやいてたのを思い出した。
Excelでの数値計算ってそういうレベルなの？
#学生の頃は1-2-3使ってたっけ。
Re: (スコア:1, 参考になる)
---
計(円)
---
100
100
100
200
300
---
802
---
のように、表示や印字が会計上、正しくないことが起こりえます。表示や印字だけを見ると、端数がありませんが、書式次第で、端数がある可能性があります。たとえば、実際にセルにある数値や数式の計算結果が、それぞれ、100.4、100.4、100.4、200.4、300.4であり、小数点以下を表示しない書式になっていた場合は、上記のようになります。
そのような間違いを防ぐためには、検算をすることであり、数字を読み、電卓で打ち、計算結果を比較すると言うのは、最も確実な方法です。1桁打ち間違えたのも検出できますし。
Excelの計算が正しくないと騒ぐ奴ほど、問題の核心を捉えていないような気がする。
Re:計算結果 (スコア:1, 興味深い)
いいえ、単にそんなことでは説明できない意味不明の問題 [mie-u.ac.jp]があるだけです。
というかどんなこじつけでも説明できればいいという問題ではありません。どういうアルゴリズムで端数処理をしているのかが明確でなければ、演算誤差を見込んで処理すること自体ができません。
Re: (スコア:0)
に関して、問題の核心はあなたの提示したリンク先にありますか?
リンク先の問題に関しては、仕様が明らかではなく、勝手に端数処理をするというところが問題なわけですが、そもそも、精度ぎりぎりの演算をさせている時点で、ユーザ側にも問題があるように思います。たとえ、Fortranであっても、そのような精度が期待できないような演算をさせること自体、問題だと思いますし、避けなければいけません。科学計算の専門家ならね。
ただ、会計の場合でも、はまるところはあります。