OpenAI、AGI(人間より賢いAI)へのロードマップを公表 「世界に深刻な害を及ぼす可能性」回避のために
コメント
注目のコメント
AGIとかシンギュラリティとかまるでSFのようだけど、何度もフィードバックと学習の行い調整を怠らずに進化を続けていくこと、社会での合意を形成しながらすすめること、みたいな話って何もAIに限らずすべての社会活動にも当てはまるし人類いままでもずっとやってきたなぁーと思うと案外達成できたときは気づかないぐらいの小さなインパクトなのかも。
今回の記事のベースとなった投稿 https://openai.com/blog/planning-for-agi-and-beyond/ の本文では、
this is the best way to carefully steward AGI into existence—a gradual transition to a world with AGI is better than a sudden one.
「いきなりAGIを導入するよりも、徐々にAGIのある世界へ移行していく方が良いのです。」
同脚注では、
a slower takeoff gives us more time to figure out empirically how to solve the safety problem and how to adapt.
「遅い離陸は安全問題をどう解決しどう適応するかを経験的に解明する時間を与えてくれるからです。」
と述べていることから、OpenAI(あるいはサム・アルトマン)は「スピードよりも一度立ち止まる」ことの大切さを訴えているようですね。Chat GPT使ってみて思うのは、シンギュラリティとは機械が人間を超えるんじゃなくて、人間が機械以下に退化することなんじゃないかと思えてきた。
Chat GPTは確かに良くできてるけど、回答内容は一見よくできているものの、はっきり言って「ありきたり」のことばかり。従来の方法で自分でネット検索した方が深い思索ができる。
ただ、そのレベルでも有り難がる人はいるわけで、ChatGPTが出す回答レベルの情報、というかインサイトで満足する人が増えていったらどうなるのか、怖い気もする。