人気ブログランキング |

クラフトフェア松本2018(81)







d0108132_13281491.jpg


星の王子さまのキツネだろうか。


---------------




アマゾンのAIを使った採用システムが最初から女性を減点する判断を学習したということで
運用中止になった。どこかの医学部と同じレベル。
ゴミ・データを学習させたら、ゴミ・システムにしかならないのは深層学習の当然の帰結かと。
倫理や道徳を学習する仕組みを組み込まず効率最優先だとAIも悪いことを始めるということか。
意外と早くSFで語られていたようなことが現実になったものだ。

焦点:アマゾンがAI採用打ち切り、「女性差別」の欠陥露呈で
https://jp.reuters.com/article/amazon-jobs-ai-analysis-idJPKCN1ML0DN






.


by tullyz1 | 2018-10-23 16:37 | Comments(4)

Commented by voyagers-x at 2018-10-24 10:27
おはようございます!!
採用するに当たって、やっぱり女性はいろいろと現実的にはありますから
男女平等といえど、企業の事情は理解出来ますね
あからさまに選別するのは良くないですけど
柔らかい描写ですね
今日は快晴ですが......台風の進路がちょっと心配です
台湾の付近でぐいっと曲がってきたら九州にやって来ますね ^^;

Commented by tullyz1 at 2018-10-24 17:54
>voyagers-xさん
現実問題として、女性や年寄りは採りたくない採用担当者はいるでしょうね。
アマゾンのケースも、そういう採用実績を学習データとしてAIに勉強させたら、
当然AIは、女性は採用しないのが正解なんだということを学んでしまいます^^
倫理や道徳をデータ化するのは難しそうです。
法律に触れなければOKということだけだと、AIはぎりぎりセーフな方法を
大量に提案してきそうです^^
AIが悪いのではなく、結局、使う人間の問題ですね。
台風、また来ましたね。
週末の新潟旅行はちょっと雨かも。
Commented by Neoribates at 2018-10-24 23:44
要はプログラムを組む人間次第ということなんでしょう.
そんないい加減というか,不安定なデータベースを構築させるシステムって,信頼性皆無ですね.AIに政治や司法を任せれば理想的なジャッジをするなんて何年か前にNHK のテレビ番組で声高に言っていた学者や評論家が複数いましたが,そんなシステムに将来をまかせたらいかに危ういかという証左にアマゾンのケースがなりましたね.
Commented by tullyz1 at 2018-10-25 00:38
>Neoribatesさん
このAIは深層学習なので、大量のデータを与えて
そこからなにがしかのパターンを自ら導き出すわけなのですが
偏りのあるデータだけを与えたら、導き出されるパターンも
当然偏ることになります。誰かがルールをプログラムしているわけではないので
ましといえばましなのですが、結果としては某医科大学と何ら変わらないことに
なってしまったわけです。
プログラムが存在しないので、以前のように問題のある部分だけを直すこともできません。
現段階の深層学習でも使えるところは相当ありますが、
まだまだ理想的な「人工知能」には程遠いです。
名前
URL
削除用パスワード

<< クラフトフェア松本2018(82) クラフトフェア松本2018(80) >>