AIに「忘れさせる」ことで間違いを正せ、マシンアンラーニングが重要な課題に
日本経済新聞
72Picks
コメント
選択しているユーザー
シンプルな疑問。
間違いを忘れさせる。
では無く、間違いを間違いとして覚え直してもらう。
の方が同じ間違いが再度学習されるの防げないかな?
人間だってそうでしょ? 間違い忘れたら同じ間違い繰り返すかと。
注目のコメント
マシンアンラーニングは聞き慣れない言葉ですが、大規模AIモデルから特定のデータだけを削除する技術です。今後重要になる技術です。特に、個人情報、誤情報、非倫理的情報の削除要請に対応するには欠かせません。
その背景には、AIモデルが超大規模化したため、訓練データから削除して再学習するコストが莫大になってきたことがあります。
一つの訓練データがどこにあるか特定が難しく、薄く広く存在するので、簡単には削除できません。難しい問題です。このようなプログラムレベルの感覚がなくて恐縮なのですが、間違いを忘れさせた場合に、また同じ間違いをする可能性がありますよね。
それを「間違いだと覚える」ことが重要だと考えていますし、間違いだと覚えることによって、同じような間違いが起こりにくくなる仕組みが良いと思います。
データなどのレイヤーの話になるとすごくこのプログラムの精度が重要になってくると思います!