アカウント名:
パスワード:
コンピュータの性能が低かった時代は、2進数演算が必須だったが、いまじゃ、10進演算ライブラリとか使って、10進100桁とかで演算しとけばいいのに
COBOL「やれやれやっぱりオレがいないとダメだな」
『外れスキルと罵られた「10進演算」が実は神スキルだった。今さら開発現場に戻ってくれと言われてももう遅い。プログラマーは全員定年退職した』
文庫本一冊程度は書けそうだが、シリーズ化は苦しいのでは？
一方、他大陸では、不格好な親指を使わない「8進数」が普及していて、機械計算機との親和性が高いために文化発展において競争力を持ち・・・・・・・・・なんてのがアシモフになかったっけ
タイトルの内容は第1話で回収した後全然出てこない、みたいなタイトル詐欺もよくあるから大丈夫大丈夫。クリックさせる/手に取らせることができれば勝ちだが、そのためにアピールできる場所はタイトルしかないというのが長文タイトルの起こり
Multiplan「MeToo」
投資家が処理が遅いと文句言いそうよく東証のシステムはニューヨーク証券取引所に比べて～って言われてるやんマイクロ秒単位で取引の処理ができないといけないらしいから、遅いと駄目じゃない？
長くしていいなら2進でいいじゃん。
よし、2進100桁で
# 0x0〜0xF
2進ではどれだけ精度があっても10進小数を正確に表せない。金融では致命的
上限数値と精度を見れば分かるように整数型を一万分の一ドル単位で利用しているだけだから、わざわざ10進で計算する必要ないよ。精度が必要ならもっと細かい単位で管理すればいいし上限増やしたいなら整数型のビット数を増やせばいいだけ。10進100桁とかで～よりも修正作業は減るし取り扱える数値の幅も広がる。
x86にはその手の命令もあったもののamdがx64を定義するときにつぶしちゃいましたね。
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
弘法筆を選ばず、アレゲはキーボードを選ぶ -- アレゲ研究家
10進数演算すればいいのに (スコア:0)
コンピュータの性能が低かった時代は、2進数演算が必須だったが、
いまじゃ、10進演算ライブラリとか使って、10進100桁とかで演算しとけばいいのに
Re:10進数演算すればいいのに (スコア:2, おもしろおかしい)
COBOL「やれやれやっぱりオレがいないとダメだな」
Re:10進数演算すればいいのに (スコア:3, おもしろおかしい)
『外れスキルと罵られた「10進演算」が実は神スキルだった。今さら開発現場に戻ってくれと言われてももう遅い。プログラマーは全員定年退職した』
Re: (スコア:0)
文庫本一冊程度は書けそうだが、シリーズ化は苦しいのでは？
Re: (スコア:0)
一方、他大陸では、不格好な親指を使わない「8進数」が普及していて、
機械計算機との親和性が高いために文化発展において競争力を持ち・・・・・・・・・
なんてのがアシモフになかったっけ
Re: (スコア:0)
タイトルの内容は第1話で回収した後全然出てこない、みたいなタイトル詐欺もよくあるから大丈夫大丈夫。クリックさせる/手に取らせることができれば勝ちだが、そのためにアピールできる場所はタイトルしかないというのが長文タイトルの起こり
Re: (スコア:0)
Multiplan「MeToo」
Re: (スコア:0)
投資家が処理が遅いと文句言いそう
よく東証のシステムはニューヨーク証券取引所に比べて～って言われてるやん
マイクロ秒単位で取引の処理ができないといけないらしいから、遅いと駄目じゃない？
Re: (スコア:0)
長くしていいなら2進でいいじゃん。
Re: (スコア:0)
長くしていいなら2進でいいじゃん。
よし、2進100桁で
# 0x0〜0xF
Re: (スコア:0)
2進ではどれだけ精度があっても10進小数を正確に表せない。金融では致命的
Re: (スコア:0)
上限数値と精度を見れば分かるように整数型を一万分の一ドル単位で利用しているだけだから、わざわざ10進で計算する必要ないよ。
精度が必要ならもっと細かい単位で管理すればいいし上限増やしたいなら整数型のビット数を増やせばいいだけ。
10進100桁とかで～よりも修正作業は減るし取り扱える数値の幅も広がる。
Re: (スコア:0)
x86にはその手の命令もあったもののamdがx64を定義するときにつぶしちゃいましたね。