新着Pick

不適切な「自撮り」できないスマホを…政府、事業者に要請

読売新聞
政府は、青少年のインターネット利用に関する第5次基本計画を決定した。スマートフォンで裸の写真を送らされる「自画撮り」の被害が拡大していることを受け、不適切な写真を撮影できない技術をスマホに取り入れるなどの取り組みを事業
57Picks
Pick に失敗しました

選択しているユーザー
機能の問題より、教育の問題でしょう。
裸自撮りを完全に不可にすることは現実的ではない。ダイエットの記録とか、シンプルに必要な場面もあるだろうし。注意文を出すだけじゃ、大した効果はないと思う。
人気 Picker
AIを使ってポルノ性を判定するエンジンはそれなりにあるので、それを使えばその領域の「不適切な」画像は警告を出すなどすることができます。ただ、一方で自分の娘が庭で自家用プールに入っている写真を撮影したら不適切判定された、なんて話もたまにネットに出てくるくらいなので線引は難しいところ。

このような話を聞くたびに思い出すエピソードがあります。深層学習が登場するよりも10年ほど前。当時とても仲良くしていた研究者さんがとある企業で社命により不適切画像の検出の研究をされていました。印象的な一言が。「関取の画像を不適切判定しちゃうんだよねぇ。。。」

試しにMicrosoft Azureのcomputer visionライブラリに関取の写真をアップしてみました。不適切スコアはかなり低かったです。さすが深層学習。

Computer Vision
https://azure.microsoft.com/ja-jp/services/cognitive-services/computer-vision/
iPhoneが日本で発売されているモデルだけ消音モードにしてもシャッター音が消えない、というのを思い出しました。
ある意味”臭いものに蓋”をしているだけの対応です。
技術的に可能なのでしょうか?

「注意表示」が出る程度の機能なら、たいした効果はないと思います。

教育の徹底が必要でしょう。
事業者では対応に限界がある、抜け道もたくさん作れそうだし。罰則などを強めていく、性犯罪者をオープンにしていくなどの対応しか思いつかない。色々と難しいですね。