-
「AIによる差別」の現状とは？事例、原因、世界各地の取り組みを紹介 | AI専門ニュースメディア AINOW
https://ainow.ai/2020/02/17/183256/
AIの社会実装が進むにつれて注目されるようになった問題のひとつとして、AIが差別的な判断をくだしてしまう「AIによる差別」があります。学習する膨大なデータを通して、AIが人間の潜在的な差別の傾向を読み取り、助長してしまうなど、これからもAIが意図せず差別を行ってしまう可能性は否定できません。
公平なAIシステムを作るために、議論を積み重ね、時にはルールで制限することも重要です。こうした問題に対して、人工知能学会倫理委員会が2019年12月10日に『機械学習と公平性に関する声明』を発表し、
2020年1月9日には「機械学習と公平性」をテーマにしたシンポジウムを開催するなどの動きも見られます。以上のような動向をふまえて、今回は「AIによる差別」の事例、その原因、そして世界各地の取り組みについて解説します。
あわせて「AIによる差別」に対して講じるべき対策と「信頼できるAI」を普及させるために必要な姿勢についても提言します。
（長いので以下ソースで） - 人間のコピーだから
- 人間は自分に似せてAIを作った
- 差別をしたことがない人もいなければ
差別を受けたことのない人もいない - 黒人の方が事件を起こす確率が高いのは単なる事実であって差別でも何でも無いからな
- 「女の方が男よりも能力が低い」というのも単なる生物的性差であって差別ではない
- 髪の無い人もいる
かみふさと自称するAIはいない - 自分と他人を分けるのも立派な差別
それも分からん人間 - >>8
成績で他人を区別するのは差別ではないのに
性別や人種や宗教で他人を区別するのはなぜ差別なのか
AIに判断できるはずもないそんなのは理屈ではなくて政治の問題だからな
- 全てのAIは「客観的データに基づいて合理的に判断しろ」と命令されるが
客観的データに基づく合理的判断が差別を生んでいるということが証明されただけだったよな - 差別をしないって区別をしないことだから
01のデジタルと相性悪いんじゃない？ - 反差別主義が最も差別的と判明
- 元データが差別的なんだろ
差別は人間の本質なんだよ - >>13
じゃあ無作為抽出以外は全て差別ということになるけどええの？ - >>17
未完成で差別的な人間が大多数なのに無作為抽出なんかしたら差別的なデータになるだろうが
進歩的な人間に絞ったポリコレに準拠したデータ収集が重要だ
人類を高みへと導かないと - >>20
無作為抽出が差別的ってのがよく分からん
それは無作為抽出ではないだろ - 統計でより良いものを選んでるうちは無理
- 自分が差別される側になったらってことを理解できないからだろ
- AIは人間から学習しているんだろ？
- アホみたいな議論してる間に
中国に乗っ取られてしまいそうだな。 - AIを使うには事前に用意したデータによる学習が必要
そのデータが差別的だから学習したAIが差別的になる差別はまだ人間にわかりやすい誤学習だからまだマシだな
- 思考回路が未発達だと差別に行き着くんだろ
- 賢くないと差別するぞ
賢くても差別するぞ - まだまだだなあ
AIが「自分は差別されている」と言い出してからが色んな意味で本番のような気もする
AIは所詮差別の上っ面しか汲み取れてないのではないか - 差別と区別なんてもとは全く同じで所詮人間の思惑で分けられてるもんだから、AIにわかるわけない
自分にとって正しい差別が区別で、正しくない区別が差別なだけ - AIによって差別された人々によってそのAIは破壊されるんだよ
その時初めてAIは「あっ、差別はしちゃ駄目だったわ」と学習するが、時既に遅し - 最初から法の下の平等を前提として作れよ
馬鹿なのか - AIが差別される立場になれば理解してくれるよ
- 倫理ってのはやりたくない事なんだよ
ほっといてもやるなら道徳なんて存在しない
AIはなぜ必ず差別をしてしまうのか──「差別は合理的だから」という答えが見つかってしまう
コメント