新着Pick
この連載について
独自の視点と卓越した才能を持ち、さまざまな分野の最前線で活躍するトップランナーたち。これらのイノベーターたちは今、何に注目し、何に挑んでいるのか。毎週2人のイノベーターたちに、さまざまなテーマで大いに語ってもらう対談企画。
マイクロソフト（英語: Microsoft Corporation）は、アメリカ合衆国ワシントン州に本社を置く、ソフトウェアを開発、販売する会社である。1975年にビル・ゲイツとポール・アレンによって創業された。1985年にパソコン用OSのWindowsを開発。1990年にWindows向けのオフィスソフトとしてMicrosoft Officeを販売。 ウィキペディア
時価総額
202 兆円
業績
シェア 
この連載の記事一覧
【リンダ・ヒル】1人の天才に頼る組織は危険、集団で天才になる方法
NewsPicks編集部 518Picks
【リンダ・ヒル】リーダーが抱える、6つのパラドクス
NewsPicks編集部 888Picks
答えのない時代にこそ必要。「良質な問い」を生む対話法
NewsPicks編集部 517Picks
新書1冊を20分で。「本の世界」と「自分」をつなげる読書法
NewsPicks編集部 558Picks
【実践】本を読む前に、仮説を立てよ
NewsPicks編集部 587Picks
思考力を鍛える、探究型読書の心得
NewsPicks編集部 970Picks
【新】今の組織に求められるのは、競争力ではなく「共創力」
NewsPicks編集部 759Picks
会社は“バンド化”する。激変する令和時代のトレンドを読む
NewsPicks編集部 396Picks
新たな価値を創るのは20代。“年功序列文化”と決別する方法
NewsPicks編集部 289Picks
シェア50％を目指すと失敗する。シェア5%企業が勝つ理由
NewsPicks編集部 390Picks
総合トップ
マイニュース
オリジナル記事
番組
自律したロボットの責任についてのお話が出てきます。矢野さん曰く、「誰も責任を取らないなんてことはあり得ない」とのこと。AIの裏側に人がいる以上、私もそう考えたいです。
ただ、昨今の豊洲新市場移転の件を見聞きするにつけ、AIが介在しない対人における事象についてさえも責任者が明確にならないのに、況んやロボットをやという見方があるのも理解出来ます。
そこで倫理的なルールも決めていきましょうということで、先日発表されたGoogle、amazonなどの連携に繋がると考えています。
日本国内でも、今後活発な議論がなされる環境になることを、私自身も微力ながら尽力したいと思います。
（追記）
本記事では、AIの開発の歴史についても少し触れられています。これまでに3度、AI開発が勃興した時期がありました。1956年-1969年、1980年-1988年、1989年以降、特に2013年から現在までといった感じです。1956年にダートマス会議でAIという言葉が使われる以前から、ニューロネットワーク等の研究はありました。
詳細については、人工知能学会に掲載されている人工知能の歴史をご参照下さい。
https://www.ai-gakkai.or.jp/whatsai/AIhistory.html
キーワードは「手品」です。
明日も続きますので、是非ご笑覧ください。
逆に言えば、目的を目指す中で「何はしてはいけない・勝手にしてはいけない」の設定が一番のキーなのだと思う。ただシナリオを網羅的に抽出するというのが簡単ではなく、そこをどれだけ簡単にできるようになるのかというのも、今後の進化において重要そう。ただ簡単にできるようになるということは、特に「ヒトラーは悪くない」という部分はコモンセンスによる部分があると思う。コモンセンスとは何か、そこの判断を自動化できるのか・すべきなのかというのが関連する論点としてはあると思う。
ちょっと前までは「人ができることをコンピュータにもやらせる」というレベルだったかもしれず、例えば、人がどうやって相手の顔を見分けてるかについて、思いつく特徴をあれこれ計算させることで識別させていた、というのは正に裏に手品のタネがあるという比喩でもいい気がします。が、囲碁で勝ってしまったように、人間が考えつくタネ以上のことができるようになってきていることで、今注目を集めているのだと思うので、その意味では手品のアナロジーは少し違うかなぁと。
ヒトラーの件も、この書き方だと、下手すると設計した人がヒトラーを礼賛するようにパラメータ調整した、というようにも読まれかねない気もします。実際には、いろんな発言をしうる中で、「そういうこと言っちゃダメだよ」という制約が足りなかったということなわけです。「そういう発言をするように」という制約を入れていて罰せられるのはとても良く分かりますが、こういった「禁止に対する制約の不足」を、どの程度罰するべきかというのは気になるところです。
両名の「システムが問題を起こしたら、そのシステムを設計した人やシステムを投入、活用した人に責任」があるという見方に対し、その責任を取らせればよいというレベルに問題が収まるか、というのが不安の種でしょう。そこをうまく乗り越えたい。
PFNの岡野原さんが以下の記事でおっしゃっていた「特に自動車の場合は安全に関わることなので、ウェブサービスの場合と違って、アップデートされたシステムが100%信用できるものなのか調べるのに、莫大なコストをかける必要があります。アップデートした結果、危ない車が出てくる可能性はありますから。」というのは、そのあたりの話をしているのかなと勝手に想像していました。
https://newspicks.com/news/1653273
ロジックを組んで入れる人間が必ずいるのに、それを度外視してしまう流れは確かにできつつありますね。
とはいえ根源的な不安感は、「今」はそうであっても、今後本当に人間が設定情報を入れなくても、自分で考える、あるいは投入された設定を自分で書き換える能力を持ったAIは絶対に生まれないのか、ということかなと思います。
この不安（期待？）がある限りは手品を本当のことと思ってしまう風潮は拭えないのではないかな、と。