Googleの失敗から学ぶ、AIツールを医療現場へ適用することの難しさ
コメント
注目のコメント
医療へのAIの活用は、同じ医療でも、分野によってAIとの親和性はピンキリ。
コストかけてでもAIを導入する意義があるのは、
・AIの方が精度が高い
・時間とマンパワーを節約できる
ようなもの。
たとえば、一部の画像診断はAIと親和性が高く、人間だとどうしても見逃しがあるところ、AIの方がクオリティが高いとなれば、実用化の可能性は十分にあると思う。
これについては、医療の質が高くない国にとっては心強い補助ツールにもなりうると思います。
時短、マンパワーの節約という意味では、問診システムをAIで、というのは、秀逸なシステムが開発さえされれば可能性あると思うけれど、
中途半端なシステムだと、結局もう一度ドクターがいろいろ確認することになり、二度手間となる可能性はありうるかなという印象です。「環境条件とプロセスがばらばらであったため、サーバーへ送信された画像もアルゴリズムで要求される高いレベルを満たしていなかった。」
これは各業界の「あるある」です。特に医療では機器の違い、機器の使い方の違いなどによって見え方が様々あり、その差を吸収するだけでも大変です。そのため、GANやimage transferなどを使った各種data augmentationや現場で追加学習するためのtransfer learningなど、いまでも盛んに研究が行われています。そのような研究をするたび、「人間の認識能力、汎化能力ってすごい！」と実感せざるを得ません。
よく、DNNは人間の認識能力を超えたと言われますが、「(ちゃんとコントロールされよく設計された)ある条件の下では」という注釈がつくことにご注意ください。
我々の笑い話にもならない失敗例も共有。我々もうっすらと医療画像の認識に関わっています。その中で、とんでもなくうまくいく例やものすごく駄目な例にぶち当たりました。「なんでだろう？カメラと被写体の距離の違いか？明るさか？」結構悩みました。そんなある日。「先生！原因がわかりました！一部の医師がつけてるマークや書き込みにAIが反応しています！」AIは判定してほしい部位ではなく、周辺の人間の書き込みを見ていました。これは、本質を捉えていない解析です。
ことの本質は、過去のデータで未来の現象を予測しようとした点にあります。しかし、それは「錬金術」と同じ原理的に不可能なことだったのです。
このAIによる未来の予測を前提にした議論や適用は、何度やっても同じことになるでしょう。
AIやデータの捉え方は、オーバーホールが必要です。
