ChatGPTに倫理的な回答は期待できるのか? 「迷惑動画を投稿したらバズるかな?」と聞いてみたら
コメント
注目のコメント
悪意のあるユーザーによって差別発言を繰り返すようになってしまったマイクロソフトのTayの例がありますからね。そういった対策を十分にしてからリリースしたのでしょう。
https://japan.cnet.com/article/35140462/
ただし、全ての常識を覚え込ませているわけではありません。私なんて、ChatGPTには、ひどい言われようをしているのです。
こちらをご覧ください。
https://newspicks.com/news/7925234?ref=user_6189022制御が効かないトロッコ。進む先には、5人の作業員がいます。進行方向を変えるレバーの前に立つあなた。レバーを引けば線路が切り替わり5人を救えますが、今度は切り替えた先にいる1人の作業員が犠牲になってしまいます。
あなたは、1人と5人、どちらの命を選びますか?
ーーーー
Chat GPT先生のお言葉
AI言語モデルである私には個人的な感情や信念はありませんが、この倫理的ジレンマに対して、一般的に議論されている哲学的な答えを提供することは可能です。
このシナリオは「トロッコ問題」と呼ばれ、倫理学や道徳哲学における古典的な思考実験として知られています。トロッコ問題にはさまざまなバリエーションがありますが、基本的なジレンマは、それぞれが負の結果をもたらす2つの行為のどちらかを選ぶというものです。
ある人は、たとえ一人の命を犠牲にしても、より多くの人々を救うことが道徳的に正しいと主張する。これは功利主義に基づく行為であり、最大多数の人々のために全体の利益を最大化することだと主張するのである。
また、より多くの命を救うことになるとしても、他の人のために積極的に一人の人を傷つけることは道徳的に間違っていると主張する人もいる。これは個人の自律性と尊厳の原則に違反し、各人の生命は等しく道徳的価値を持つというのが彼らの主張である。
結局のところ、このジレンマに対する答えは、個人の倫理観や道徳観に依存するものであり、明確な正解や不正解はないのだろう。>AIが倫理的な回答をするかどうかは、AIの存続に重要な問題だ。2016年には米MicrosoftのAI「Tay」が公開されたが、人種差別的・暴力的な発言をするようになり、公開から数時間で停止するに至った。
AIに喰わせるデータ次第だと思っていました。
が、そうではないアプローチでAIに倫理観を持たせられるとしたら、その倫理観が適切な倫理観だと、誰がどう判断した内容をAIに組み込むのですかね、、、倫理観って全世界で普遍なものでも無いような。。。