国産の日本語生成AIの無料デモ版が公開 ～「GPT-3.5 Turbo」に匹敵する性能を達成／東大初のELYZA社が700億パラメーターのLLM「ELYZA-japanese-Llama-2-70b」を開発
コメント
選択しているユーザー
国産LLMがGPT3.5turboよりも優れた性能という記事ですが、GPT4よりも圧倒的に良いアウトプットを出すClaude3に今月は下を巻いているので、国産LLMはかなり遅れている印象です。
Claude3がPerplexityで使えるようになったので、実際のアウトプットも含め、下記のNewsPicks Topicsにて解説しました。
【画期的】競合各社の高性能LLMを使い分けられる夢のツール
https://newspicks.com/topics/tech-biz/posts/22?fromNews=true
学習方法の要素もあるものの、主にAIモデルへの学習量（＝時間と資本の競争）が物を言う領域なので、後続参入組が勝機を見出すには、特定の領域（ex サイバーエージェントの広告特化型LLM）に特化したLLMにするべきだと思います。
トップレイヤーのClaude3 OpusやGPT4の日本語の性能は問題ないレベルなので、日本語に特化というのはあまり意味がないと見ています。
汎用的な領域のLLMであれば、LLMを作ることよりも、どう活用できるかにリソースを割いた方がビジネスインパクトが大きいと思います。
注目のコメント
グローバルモデルに匹敵する日本語LLMが登場
特に、初期のChatGPTのモデルであるGPT-3.5 Turboシリーズに匹敵しており、実用レベルに達していそうです。
今年の夏には、Meta社から次世代のオープンLLMであるLlama 3が発表される予定で、それをベースにすれば、さらなる性能向上も期待されます。
OpenAIの一強時代から、はたして群雄割拠の時代に入るのか、注目です。
以下、詳細なnote
https://newspicks.com/news/9702606生成AIは今後の技術の根幹となるため、国産のLLMを持つことは重要だと思います。独立国家としてのインフラとして持っておかなければならない様に思います。
今後は、誰に各企業のLLMが使われるかどうかがポイントの様に思います。全然サービスに盛り込まれないLLMを持っていても維持費ばかりかかってしまいます。現時点ではOpenAIが一歩リードしていて、最近ではClaud が発表され、跡を追っている様に見えます。
さまざまな企業がお金をかけてLLMを構築すると思いますが、オープン情報を全て読み込ませた場合、各企業のLLMに大きな差は生まれないものと考えます。
いずれにしても、ものすごい時代になりました。ELYZA のモデルはこれまでも話題になってましたが、これまでの7Bクラスのモデルから大きく発展して、より多くのGPU学習リソースを必要とする70Bクラスのモデルの開発に成功したようです。実際使ってみましたが、私がベンチマークで使っているいくつかの質問にも質の高い答えを返してきました。
また初めてChatGPTのようなプロンプト型のウェブアプリを安定して提供する仕組みを構築したことも、MLOps領域における高い技術力を示しています。
UIはちょっとわかりにくいですが、今後の展開が非常に楽しみです。
