【実録】アマゾンが5900億円をぶちこんだ「謎のAI企業」の正体
NewsPicks編集部
389Picks
コメント
注目のコメント
「私達のAIシステムは他を圧倒しており、社会を終末に導くほどの破壊力を持っている。故に、私達自身が、AIを正しい方向に導くルールを作る必要がある。故に、私達へ投資してください。」というロジック。果たして、このスタートアップは本気でそう考えているのか、それとも投資家を欺く口実か?
Anthropicは、もちろん前者であると、信じていますし素晴らしい取り組みと思います。しかしながら、後者の手口の詐欺であったとしても、信じてしまう投資家はいるかも?と思ったりしました。
既存モデルをファインチューニングし、私たちのモデルはこれだけ安全ですと示されたものを見て、どれだけの人が偽物と気付くか?
終末論をくいものにした商売には、要注意です。AnthropicのAI開発における立場・スタンスについての考察記事。
独自の憲法を発表した時、ハルシネーションなどのAIの危険性を軽減しうる良い施策だなと感じていました。
一方で今回の記事が指摘する効果的な利他主義(EA)や危険性を煽ることでプロダクトを使ってもらう手法は気がつけなかった点です。
多様な視点から物事を見る必要があるなと実感しました。