
m_nukazawaの日記: 重箱の隅 1
// 最初ツイッタに書いたのですが、アカウントの目的に合わないのでスラドへ移植。
https://www.jst.go.jp/crds/pdf/2023/RR/CRDS-FY2023-RR-02.pdf
> 最先端の基盤モデルは1回の学習に億 円超の計算費用を要する。その一方で、人間の脳の消費電力はわずか20ワット程度である。
Web上ですごいすごいと言われていたので(?)読んでみたけれど、ここはかなりミスリードな気がする。
『学習の計算コストが見るからに高いので安くしたい』という課題自体については異議ない し、1次近似レベルのごく簡単な理屈の上では『ヒト脳と同じ消費電力でヒト相当の推論が実行できるはず』なので『理論的に実現可能と思われる』実行時パフォーマンスとして目標にするのもありだとは思う。