「数千万円かかるコスト」と「山のような技術的課題」 開発者たちが語る、日本語LLMの現在地

コメント

選択しているユーザー

• YouTuber キノコード (浦上泰弘)

  Technology and Design Company CEO

  ・2024年04月12日

  日本語LLM開発について話されています。
  とても勉強になる。
  
  「GAFAとかは、数万台、数十万台、GPUを買い込んで実験していると言われているので（笑）。そんな中で弊社で並列で回しているのは、たかだか数百台だったりする」
  「Llama 2をベースとして作るんだとしたら、大規模なものだと、それでも数千万円ぐらいはかかる」
  「普通のクラウドサービスのものを使うと、5倍とかになる可能性はぜんぜんあります」
  「うちのSwallowもおそらく数千万円くらいの費用」