グーグルＣＥＯ、ＡＩ技術の拙速な導入に警鐘－規制の必要性を強調
コメント
選択しているユーザー
GoogleのBardがShareGPTでホストされるOpenAIのChatGPTの出力で一部学習されており，OpenAIの利用規約に違反しているのではないかと懸念するGoogleエンジニア達の内部論争をテック系ニュースサイト「The Information」が報じていたが(Googleは否定している)，昔Googleの検索結果がBingを強化するのに用いられていると非難していたことがあった．AlpacaはOPTのライセンスを継承しているが，非明示的に迂回したデータの権利を保護する方法はなく，法整備は追いついていない．
こうした一部の企業が知を独占する構図にBerkleyのKoala，StanfordのAlpacaなどが応じいつかのバークリーのRISCを思い出させるが，メインフレームやARPANETの時代から続くオープンな文化の転換点を主張するDenis Hasabisのような人もいる．これは人智における本質的問題である．
フェイクニュースそれ自体は些細だが問題はモデルが人間の行動をシミュレーションできるようになり，システムコールを自由に動かせるようになり，大規模な人間行動の「最適化」を実現したときである．
トビー・オードの試算では人類の破滅のシナリオが起きる潜在的可能性17%(1/6)のうち核兵器は1%, 自然災害は0.1%に対し実にアンアラインドなAI(人工知能)の暴走が10%となっている．
世界が重要な局面にある中，皆利己心で動いていると邪推しかできない集団というのは恥ずかしいと思うべきだろう．
さてChatGPTに「What was the term used when someone guesses other persons way of thinking the way to infer represents his own thinking pattern」を聞いてみたが知らないようだ．
注目のコメント
私自身はどちらかというとAI推進派ですが、たしかにこのピチャイ氏の警鐘は重要かもしれません。
これまでの「製品」「サービス」というものは、販売時、” 完成品 ”である必要があったため、メーカーやプロバイダーが入念に品質検査やルール作りをした上で販売することが必須でしたし、私たちもそこに一定の信頼を置いていました。
ですが、AIという技術は、継続的に学習することで精度を上げるその特性から、基本的に完成することはなく、”未完成品”が前提になる技術です。常に未完成だからこそ、十分な品質検査がされていないとしても展開ができてしまいますし、UIがしっかりしていればそれなりにも見え、私たちもその半端なプロダクトを受け入れてしまいます。
ChatGPTをはじめとしたLLM（大規模言語モデル）が、これまでGoogleやApple、Amazonなどによって世に放たれてきたAIプロダクトと異なる最大の点は、一般消費者に広く展開され、かつ無償利用可能であるという点です。これは、私たちは入力データを代償として払っているということで、無償展開というビジネスモデルによって利用者が爆発的に増えるほど、OpenAIらは多くの学習データを手に入れることができ、AIモデルの精度をさらに高めることが可能になります。
もちろんこれを裏返せば、利用者が多いほど、自分の情報が悪用・漏洩された際のリスクも爆発的に大きくなっていくわけです。私たちには「世界中が使っているツール＝完成品」のような信頼性をイメージしてしまう癖が染み付いているかもしれません。「AI＝常に未完成のツール」という認識をもって、疑いの目を持ちつつ、これらの新しい技術と対峙していく必要があるように思います。一般論を使ったポジショントークでは？GoogleもOpenAIに追いつくために次々に新たな製品を投入しているようです。これまで先駆けて先進的技術の発表に切磋琢磨してきたのに、「社会が準備できるまで製品発表は行いません」とはあまり説得力を感じません。新たな技術をどう使うかを決めるのはGoogleだけではなくてそれを使うユーザーだと思う。
私のスタンスとしてはAIは自転車のようなものなので、転ぶリスクはありながらもどんどん乗りこなし、自転車に乗らない一流の方々と互角以上に戦えるようになるべきだと思っていますが、マスクやピチャイに対して思うのは、警鐘をもっと具体的に鳴らさないと、何故そう思うのか、他の人にはあまり響かないということです。
ピチャイの主張として、ディープフェイクのことが記事には載っていますが、本人がやっていないことをやっているように拡散されることと、ChatGPTによって学生の能力の伸び代を奪うのではないか、先生が見抜けない、社会において情報収集を仕事にしている人やライターの仕事がなくなるようなChatAIは、別次元の話なので、ChatGPT vs Bardで鎬を削っているいまのタイミングでディープフェイクの危険性を訴えるのは的外れだと感じました。
