ザッカーバーグvsイーロン・マスク。AIの未来をめぐる本音
コメント
注目のコメント
これはイデオロギー対立、イデオロギーとは根本的な立場であって理屈ではないので、保守とリベラル、巨人と阪神くらい、永遠に嚙み合う事はありません。
一般人にとってはざっくり、ここでいうスーパーインテリジェンスとはシンギュラリティと同義と考えて差支えないでしょう。
シンギュラリティはもともと未来学者で今はGoogleに所属するレイカーツワイルが唱えたものですが、そもそもその論に理屈はあって無きがごとく、「このままの技術発展が続けばそうなるだろう」という予測に過ぎないと言って言い過ぎでない。
マスクはじめ危険視派は、大なり小なりその議論に同様です。
対してザッカーバーグはじめ推進論者は、現在のAI周りの技術、理屈をもってして、そもそも超知性が生まれる見通しは当面の長期において無い事、あったとしても人間に制御不能なそれが生まれる合理的な理由が見当たらないことを論拠として、脅威可能性より人類に与える効用に焦点をあてよう、という立場です。
原発の議論と似ていて「有事の被害が甚大なものはゼロリスクじゃないとダメ」という立場と、「そもそも世の中ゼロリスクは論理的に存在しない、効用の大きさとの天秤だ」という立場は永遠にかみ合いません。I know what I don't know. が実はとても大切です。自分の理解が到達しないアイディアに出会うことはとても良いことであり、なぜかを考え続けるからこそアイディアがやってくる瞬間があります。
で、こと本件について言うと、今なお世界を変え続けている天才マスクが、なぜAIをここまで危険と説き続けているのかという根本の理解がまったくできていません。あらゆる説明を読んでも、それを書いている人もほとんどはその境地にいるとも思えず。もちろん何となくはわかるけど、なんでなのか。（ただのポジショントークとも思えない）
蛯原さんの言うようなA対Bの宗教戦争的な意味、原発論争はおっしゃる通りであり、わかりやすい。しかしその対立するマスクが言う「AIが世界を終わらせる」というロジックが皆目理解できない。人間の制御下を超えるイメージができない。
