AI投稿監視、「グレー」に苦慮
日本経済新聞
26Picks
コメント
注目のコメント
ルールベース、AI、人の判断、の三つを組み合わせるのが現在のベストプラクティスです。人間の判断の結果を元に徐々にAIの精度を上げていく。全自動にすることを目的にするよりも、人のリソースを人でしか解決できない問題にフォーカスさせる視点が求められる。
それ以前にどのようなポリシーで投稿の可否を決めていくのかはもっと難しい問題。【結局主観】
誹謗中傷かどうかも結局”その人がどう感じるか”でしかないので,明確な線引きは難しいという問題があると思います.
AIを活用するうえでは,明らかにダメなものを発見させ非表示にして,危険度が高そうだがグレーな部分を検知して人間に報告するというシステムになるのではないでしょうか.AIが判断する定量的な統計的手法と、感情が判断する定性的要素を掛け合わせて総合的な判断をするのは難しいところです。
全自動化プロセスは現状では難しく、人がある程度介在・目視しながら判断をし、徐々に最適化(ラベル付け)していくという地道な作業が必要になります。
尚、文中AIと謳っている感情分析には、大きく分けて以下3種の分類が存在します。
・感情コーパスを用いて、文単位に感情を抽出
・辞書を用い、品詞単位に感情を推定
・構文・形態素解析を行い感情をスコアリング