【独占取材】AI業界を騒がせる、話題の半導体ベンチャー
コメント
選択しているユーザー
このくだり好き。まさにクロッシング。
＞グーグルのAI半導体（TPU）開発は、職務の範囲外のアイデアを追求していいという20%ルールのもと、2013年ごろに私が興味本位で始めたプロジェクトです。
当時私が働いていたニューヨークオフィスでは、近くに音声認識チームが座っていました。彼らとランチをしていたところ、こんな悩みを共有してくれたんです。
機械学習によって、非常に高い精度の音声認識ができることが分かった。でも、それを実行するには金がかかりすぎる。必要な計算能力が莫大すぎて、今あるデータセンターを2倍、3倍にしても足りないのだと。
そこで私は「その処理に適した半導体をデザインしてみようか」と提案しました。
ぜひやってほしいとのことで、頓挫した他のプロジェクトで余った予算を使って始まったのが、TPU第一世代の開発です。
正直、誰も成功するとは思っていなかった。だからとても自由に開発できました。そこで開発した半導体を使ってみたところ、これが予想外に良い性能だった。
注目のコメント
Groqのジョナサンにインタビューしたの,
NP凄すぎるな..
シリコンバレーはNvidiaとAIのお陰で半導体スタートアップに投資関心が寄せられており、まさにシリコンにVCが戻ってきたというジョークが語られてる。Groqの他にエッジ推論のHailoなども今生成AI界隈で話題のスタートアップ、Groqをご存じですか。AI半導体を手掛ける会社で、最大の特徴はスピード。「Groqを体験すると、ChatGPTが爺ちゃんに思えてくる」と言われるほど、AIのレスのスピードが速くなります。
とはいえ、「性能が良い」というだけで売れるほど甘くはないんじゃないか…AI半導体市場は、エヌビディアがほぼ独占しています。そこにスタートアップが入り込む余地はあるのか。
そんな疑問をぶつけるべく、Groq創業者にインタビューしました。顧客が簡単に試せるようにした売り方の工夫や、エヌビディアが押さえているサプライチェーンと競合しないための作戦、そして世界中にデータセンターを建設するための戦略。ひとつひとつに納得感があり、イメージが変わりました。
しかも、データセンターの候補地として日本を有力視しており、すでにいくつかの企業と話をしているとのこと。
少し長めのインタビューですが、色々なヒントが詰まったインタビューなので、ぜひともお読み頂けたら嬉しいです。AIモデルのカーネルソフトウェアをGroqのGPU(彼らはLPUと呼ぶ)に合わせてコンパイル(最適化)する。この発想が新しいです。
GPT-4の最大の弱点は遅くて高いこと。各社がAIモデルの代替品を求めています。GeminiやClaudeはかなり速く安く魅力的になってきました。
一方、エヌビディア はAIチップは高いけど速いと思われていました。これを高くて遅いと位置付けるようなGroqは破壊的です。
