Picks
189フォロー
16837フォロワー
「AI裁判官」は黒人に死刑を宣告しがち…差別的な行動を取るAIの登場で問題視されていること
山崎 俊彦東京大学 大学院情報理工学系研究科電子情報学専攻 教授
何もバイアスがない状態に持っていくことは難しく、我々も「AIにどんな潜在的なバイアスがあるのか」を抽出する取り組みをしているところです。
多くの場合、問題があったときだけ大きく取り上げられます。しかし、そのあと当該企業の方の話を伺うと、ものすごい努力をして問題解決を実現していることも多いのです。しかし、いつも取り上げられるのは最初に問題があったことだけ。その後の努力も、問題が解決したことも取り上げられることは皆無です。報道の皆さん、また、記事を書かれる専門家の皆さん、もう少しそこを掘り下げて取材いただくともっと深みのある、そしてフェアな報道になると思うのですが、ご検討いただけないでしょうか。
朝食の有無で「人生の収支」が変わる…東北大の調査でわかった「朝食と年収&就職先」の驚きの相関関係
山崎 俊彦東京大学 大学院情報理工学系研究科電子情報学専攻 教授
記事でもすでに「これらは相関関係であり、因果関係(=成績が良い原因は朝食摂取)ではありません」と指摘されているので注意が必要です。
ただ、相関だとしても疑似相関の可能性は?と疑ってみたくなります。
「相関値が高く出たから相関があるのだろう」と言いたくなりますが、例えば小学生全学年を対象に共通試験を行い、身長と成績の関係を調べたら相関値は高く出ます。「うちのコも身長が高くなるように牛乳を飲ませなければ!」となるとしたら早計です。これは、身長と身体の成長・学年に相関があり、また成長・学年と成績には相関があります。そのため、身長と成績にも相関があるように見えますが、これは関係ないのが明らかなので疑似相関と呼びます。
【総括】シャープもついに大幅縮小、今こそ問う液晶の未来
電力会社の送電容量を40%増強するノルウェー企業の「マジックボール」
初任給賃上げ続々、院卒は30万超え多数も「博士はスルー」されるワケ
山崎 俊彦東京大学 大学院情報理工学系研究科電子情報学専攻 教授
「30%以上の人が博士課程に進学しない理由として、就職の心配や生涯賃金に対する懸念があることを指摘している。」
なぜ実情を調べないで、世間でまことしやかにいわれている噂やネット記事の情報だけで判断するのだろうか?と思うことがあります。この発言をする方は実際に博士人材に就職の経験を聞いたのでしょうか、給与明細などを見せてもらったことがあるのでしょうか。
私の経験上、この手の「噂」の8割は間違っているか、特定の個人にしか当てはまらない場合が多いです。私自身、冷やかしではなく本気で大学教員になりたい人には確定申告書を見せてます(給与明細だけだと・・・以下省略)。
ただ、特定の企業とか特定の職種につきたいと、自分の可能性を限定してしまうと困難が伴います。例えば、大学教員になるのは、少子化の影響もあり、狭き門になるかもしれません。ただし、大学と同じように研究を行っている国の研究機関や企業の研究所もそれなりにあるのでそちらも選択肢にすれば可能性は広がります。
「めちゃくちゃ上がっていますね」なぜ高い?ホテル価格を徹底調査【Nスタ解説】
山崎 俊彦東京大学 大学院情報理工学系研究科電子情報学専攻 教授
プライベートなのか、ビジネスなのかで話が変わってくると思うので、ビジネスの立場でちょっと違う視点の話をします。以前も同じ話をNPで書きました。
辺鄙な場所にあるホテル併設の会場で学会が開催されたときのことです。誰もが知る大企業の研究員の方々は社内規定の金額を超えるので宿泊禁止、かわりに会社の系列の旅行代理店が手配した片道1時間のところにあるホテルに宿泊されていました。差額を自己負担して自由に宿泊先を決めるのもNGとのこと。費用を安く抑えるという理念は理解するものの、私は逆に「ああ、徒歩1分で移動できるホテルがあるのに、連日往復で2時間も無駄な時間を費やすことを社員に強いている事実をなんとも思わない会社なのだな」と残念に思いました。
人はなぜ間違えるのかーヒューマンエラーの危険性
山崎 俊彦東京大学 大学院情報理工学系研究科電子情報学専攻 教授
様々な報道で、なにかトラブルがあったときに「「間違いが起きないようにもっと頑張らせます」「間違いが起きたときの罰則をもっと厳しくします」という報道がなされるのをいつも残念な思いで見ています。
この記事にあるように、人は間違いを犯すものです。間違いがおきたときには、なぜそれが起きたのか、またそれが再度起きないようにするにはどうしたらよいのかをもっと積極的に考えるべきだと思います。
私の尊敬する研究者は、人命に関わる設備・装置の管理を長年されているのですが、「間違いが起きたら起こした人が悪いのではない、間違いが起こるようになっていた仕組みが悪い」と徹底して仕組みの改善に腐心されています。例えば、装置の使い方で間違いが起こるときには「もっとマニュアルを読み込んでください」ではなく、装置に①、②とテプラで貼っていき、どうやっても手順を間違えないようにするなどの工夫をされています。
生成AIに不可能な人間固有の能力とは何か? ミュンヘン工大と東大が世界に問う「新しい創造性」
山崎 俊彦東京大学 大学院情報理工学系研究科電子情報学専攻 教授
AIも錯視に騙されますよ。下記は2018年頃の研究成果。
ただし、錯視を再現できたからどうというつもりはありません。錯視は、本来人間が自然界で生き抜いていくために得られた経験的知覚だったりするわけです。それが何らかの知性の裏付けとするにはもっと議論が必要です。
静止画なのに回って見える AIも「錯視」 ディープラーニングで再現に成功
https://www.itmedia.co.jp/news/articles/1803/22/news061.html
AI も錯視を起こす
https://autonomous.jp/ai-%E3%82%82%E9%8C%AF%E8%A6%96%E3%82%92%E8%B5%B7%E3%81%93%E3%81%99/
NORMAL
投稿したコメント