AI inside、140億パラメータを持つ日本語LLMサービスのα版を提供開始
コメント
注目のコメント
各AI企業から日本語LLMの提供が増えそうですね。
事業会社にとっては、どう対応して、どこを選べば良いか悩ましいでしょう。オススメのやり方は、
1. まずは素のLLMを試す(ChatGPTや法人向けGPT製品など)
2. 素のLLMで足りないならカスタマイズに挑戦(各社の日本語LLMで検討)
日本企業は、伝統的にすぐITをカスタマイズしがちで、1で試さず、2の検討に時間をかけます。しかし、1で試してないから、検討すべき内容も曖昧で、なかなか進みません。
まずは試すことで、素のLLMの限界を見極め、本当にカスタマイズすべき要件を明確にする。そうすれば、要件を実現できるAI企業も絞られ、AI企業も最初から具体的な検討ができて、Win-Winだと思います。独自日本語LLMの選択肢が増えてきたのはとても良いことです。各社が
・どのようなデータセットで学習したか、
・InstructやRLHFはどうやったか、
・ベンチマークの結果はどうか、
あたりの情報があると選びやすいのですが。140億パラメータの日本語LLMを開発し、企業・団体のa版申し込みを受け付け始めたようです。
プレスリリース：https://prtimes.jp/main/html/rd/p/000000128.000024457.html
今、日本語に特化したLLMを開発している企業は以下
・LINE/NAVER（2022/1）
67億、130億、390億パラメータの3つのモデルに加え、890億のモデルを開発中
https://clova.line.me/hyper-clova/
・オルツ（2月）
10億パラメータと1600億パラメータのモデル
https://prtimes.jp/main/html/rd/p/000000007.000111359.html
・ABEJA （3月）
最大130億パラメータ
https://www.abejainc.com/news/20230316/1
・rinna（5月）
36億パラメーターの汎用言語モデルと対話言語モデル
https://prtimes.jp/main/html/rd/p/000000042.000070041.html
・サイバーエージェント（5月）
最大68億パラメータ
https://www.cyberagent.co.jp/news/detail/id=28817
