新着ヘッドライン

アマゾン、AIに優秀な人材を選別するよう学習させる → 女性が低評価になる欠陥判明、開発チーム解散

このエントリーをはてなブックマークに追加 2018年10月12日 15:50 | カテゴリ:女・老害 | コメント(3)
1: 名無しさん@涙目です。(宮城県) [US] 2018/10/11(木) 22:30:59.40 ID:0urIMr6l0
焦点:アマゾンがAI採用打ち切り、「女性差別」の欠陥露呈で

[サンフランシスコ 10日 ロイター] - 米アマゾン・ドット・コム(AMZN.O)が期待を込めて進めてきたAI(人工知能)を活用した人材採用システムは、女性を差別するという機械学習面の欠陥が判明し、運用を取りやめる結果になった。

事情に詳しい5人の関係者がロイターに語ったところでは、アマゾンは優秀な人材をコンピューターを駆使して探し出す仕組みを構築するため、2014年から専任チームが履歴書を審査するプログラムの開発に従事してきた。

そこで生まれたAI活用の採用システムは、あたかもアマゾンの仮想店舗の格付けのように、応募者を5点満点でランク付けする。関係者の1人は「だれもが求めていた究極の方法だ。このツールが5点の応募者を明示し、われわれが彼らを採用する」と話した。

ところが15年までに、アマゾンはソフトウエア開発など技術関係の職種において、システムに性別の中立性が働かない事実を見つけ出してしまった。これはコンピューターモデルに10年間にわたって提出された履歴書のパターンを学習させたためだ。つまり技術職のほとんどが男性からの応募だったことで、システムは男性を採用するのが好ましいと認識したのだ。

逆に履歴書に「女性」に関係する単語、例えば「女性チェス部の部長」といった経歴が記されていると評価が下がる傾向が出てきた。関係者によると、ある2つの女子大の卒業生もそれだけで評価を落とされた。

(以下略)

https://jp.reuters.com/article/amazon-jobs-ai-analysis-idJPKCN1ML0DN

3: 名無しさん@涙目です。(庭) [US] 2018/10/11(木) 22:32:28.54 ID:Leb9TZCe0
はい

4: 名無しさん@涙目です。(庭) [US] 2018/10/11(木) 22:34:20.91 ID:U9QtJ7Pd0
ままままーん

5: 名無しさん@涙目です。(やわらか銀行) [US] 2018/10/11(木) 22:34:21.47 ID:xcjxOdDw0
そのAI優秀なのでは...

8: 名無しさん@涙目です。(東京都) [US] 2018/10/11(木) 22:37:10.92 ID:YfRbVNeL0
>>5
フフw

12: 名無しさん@涙目です。(庭) [GB] 2018/10/11(木) 22:38:09.04 ID:PpvWlAk+0
>>5
コレ

17: 名無しさん@涙目です。(大阪府) [US] 2018/10/11(木) 22:40:43.48 ID:yZ8zPFJZ0
>>5
かなり

62: 名無しさん@涙目です。(山口県) [EU] 2018/10/11(木) 22:58:18.87 ID:fr+ik2rB0
>>5
真実を突いちゃったか...

171: 名無しさん@涙目です。(茸) [MX] 2018/10/11(木) 23:44:49.79 ID:z55OF+DU0
>>5
知り過ぎたら消されるってのはお約束やな

174: 名無しさん@涙目です。(catv?) [US] 2018/10/11(木) 23:46:24.21 ID:8is4Gz+70
>>5
真実が常に正しいとは限らないのだな。

208: 名無しさん@涙目です。(大阪府) [GB] 2018/10/12(金) 00:03:06.58 ID:GTs4zxBs0
>>5
優秀過ぎるというのも問題だ。

229: 名無しさん@涙目です。(埼玉県) [TR] 2018/10/12(金) 00:15:10.36 ID:j104hvq80
>>5
そうなんだけど女には特別忖度せんとマズイ世の中だから

252: 名無しさん@涙目です。(秋田県) [US] 2018/10/12(金) 00:30:47.63 ID:cde9enrr0
>>5
空気読むことも覚えさせんと

7: 名無しさん@涙目です。(dion軍) [GB] 2018/10/11(木) 22:36:08.14 ID:nQx+PoX90
AIはまだダメだな中国共産党も否定したし

163: 名無しさん@涙目です。(dion軍) [CN] 2018/10/11(木) 23:39:13.02 ID:DADwM6VH0
>>7
AIは正直だよなあ

9: 名無しさん@涙目です。(SB-iPhone) [EU] 2018/10/11(木) 22:37:24.34 ID:9GCQBpu30
いや、それ、統計の正しい解釈結果だからさ、差別関係ないんだけどな。

100: 名無しさん@涙目です。(茸) [DE] 2018/10/11(木) 23:11:31.71 ID:7uENic0b0
>>9
元のデータに差別が含まれてたら、自動的に差別を再生産するって問題だろう

108: 名無しさん@涙目です。(catv?) [US] 2018/10/11(木) 23:13:15.71 ID:ck8hNYRp0
>>100
せやね
元データが男性に偏っていたって話だからね

442: 名無しさん@涙目です。(茸) [US] 2018/10/12(金) 08:10:13.27 ID:Kc6lqly60
>>108
偏ってたんじゃなくて過去に優秀だと評価された人間にまんまんが居なかっただけだろ

149: 名無しさん@涙目です。(チベット自治区) [CN] 2018/10/11(木) 23:28:06.53 ID:jCHSzESa0
>>9
機械に対して差別してるとか言う奴
完全に頭狂ってるよな

10: 名無しさん@涙目です。(新疆ウイグル自治区) [GB] 2018/10/11(木) 22:37:46.71 ID:9E8OX3RK0
もうなんか自然法則であってもポリコレに合致しなきゃボコられそうな勢いだなおい

15: 名無しさん@涙目です。(dion軍) [PL] 2018/10/11(木) 22:40:07.07 ID:+mg+89q90
正しいという欠陥

20: 名無しさん@涙目です。(愛知県) [ニダ] 2018/10/11(木) 22:41:25.25 ID:5nhCQZLX0
空気を読むって高度なことにいきなり挑戦しないと存在を許されないんだから大変だな

29: 名無しさん@涙目です。(やわらか銀行) [GB] 2018/10/11(木) 22:45:09.05 ID:hYgMJFgj0
事実に基づいているのに、何が欠陥なんだ?

34: 名無しさん@涙目です。(空) [IN] 2018/10/11(木) 22:46:32.11 ID:Wt/e8UPl0
>>29
都合が悪い

38: 名無しさん@涙目です。(宮城県) [TW] 2018/10/11(木) 22:48:23.32 ID:7foPQzhG0
ちょっと前に学者だかもこんな感じの本当のこと言ってボコボコにされてなかったか

173: 名無しさん@涙目です。(やわらか銀行) [US] 2018/10/11(木) 23:45:18.12 ID:W14XTBYY0
>>38
Googleの人がそれでクビになったね

47: 名無しさん@涙目です。(兵庫県) [ニダ] 2018/10/11(木) 22:50:57.29 ID:i5YPv/uX0
数百年後に故事になりそう

48: 名無しさん@涙目です。(四国地方) [KR] 2018/10/11(木) 22:51:18.40 ID:7RdxmXXV0
AIには建前というものが無いからな…

52: 名無しさん@涙目です。(宮崎県) [US] 2018/10/11(木) 22:53:07.82 ID:i11m6j7a0
AIは正直
ポリコレ棒という余計なものを学習しなかっただけ

53: 名無しさん@涙目です。(東京都) [RU] 2018/10/11(木) 22:54:17.68 ID:4vgAZgrL0
こんなことやってると、そのうちAIは正しい判断をしなくなる
うそをつくことを覚え人間が喜びそうな結論を出す役立たずになる

54: 名無しさん@涙目です。(神奈川県) [US] 2018/10/11(木) 22:54:38.98 ID:hJtQJYTw0
AI間違ってないのに可哀相

67: 名無しさん@涙目です。(茸) [GB] 2018/10/11(木) 23:00:35.42 ID:5NRCpYrq0
果たして本当に欠陥なんだろうか

79: 名無しさん@涙目です。(dion軍) [DE] 2018/10/11(木) 23:02:41.04 ID:fhy24YNd0
AIにまで忖度させるのかよ…。下駄履かすのがさも当然のように横行する訳だな

91: 名無しさん@涙目です。(東京都) [US] 2018/10/11(木) 23:07:58.35 ID:s8MLDofE0
性別によって得手不得手な分野があるので互いに協力しながら欠点を補う社会
の方が正しいと思うな。 強引に性別差を無くそうとすると破綻するでしょ。

97: 名無しさん@涙目です。(大阪府) [US] 2018/10/11(木) 23:10:14.47 ID:yZ8zPFJZ0
>>91
それがほんとうの意味での差別のない平等な社会だよ
今のは絵空事を実現するために現実を歪めているだけだ

95: 名無しさん@涙目です。(西日本) [CN] 2018/10/11(木) 23:09:06.27 ID:scN9Cqiu0
中国AI「共産党は無能」「中国の夢は米国への移住」
google AI「黒人はゴリラ」
amazon AI「女は劣ってる」


正直者は損をする
不都合な真実

118: 名無しさん@涙目です。(家) [FI] 2018/10/11(木) 23:17:04.92 ID:6KKYlzEj0
理論的かつ能率を求めるんでは必然的にそうなるだろ

いつからか性差は差別という言葉に置き換わってしまったな

155: 名無しさん@涙目です。(神奈川県) [CA] 2018/10/11(木) 23:33:54.00 ID:Q0fXoVy50
こんなこと繰り返した結果AIが建て前を学習しちゃって
コンピューターがデータをねじ曲げて嘘を提示するようになったら社会が崩壊するのでは

168: 名無しさん@涙目です。(東京都) [RU] 2018/10/11(木) 23:42:49.07 ID:4vgAZgrL0
>>155
本当にそれが心配
別にSF映画みたいに「ある日突然コンピューターが意志を持つようになった」
なんてことが起こらなくても、あたかも人間を忖度するような判断をするようになる可能性はあるよな

199: 名無しさん@涙目です。(東京都) [US] 2018/10/11(木) 23:58:48.98 ID:awXlVDKS0
機械には建前なんてないし機械的に判別するだけだろうからな
某医学部の入試で女性の点数操作してるのもある意味AI的な機械操作だよな

「合理性には限界があり、結局は感情が職場や社会を決めている」

203: 名無しさん@涙目です。(長野県) [EE] 2018/10/12(金) 00:00:06.23 ID:I+HNhHx00
AIは差別感情なんて無いしこれは言い訳出来ませんね…

209: 名無しさん@涙目です。(庭) [ニダ] 2018/10/12(金) 00:03:18.28 ID:gJpoMsDG0
無感情のAIが下した合理的判断を
非合理な感情で覆す人間の愚かさ

210: 名無しさん@涙目です。(兵庫県) [ニダ] 2018/10/12(金) 00:03:27.83 ID:CNhMkiGi0
現在いる社員の成績なんかも反映されてるんだろ
差別されてきたなかでも受かった優秀な女たちを基準にして考えたAIがそれでも女はいらんと判断したならそういうことだろ

234: 名無しさん@涙目です。(石川県) [CA] 2018/10/12(金) 00:18:44.72 ID:xjm7kMYX0
まあAIは無駄なものには容赦無いだろうな…

このエントリーをはてなブックマークに追加

おすすめサイトの新着情報

記事に対するコメント

94844 774@本舗 2018/10/12 16:51 URL[編集]
本当のことを言うと
将棋とプログラミングには有意の性差がある
ここだけの話だけどね
94849 * 2018/10/13 02:18 URL[編集]
AIは嘘を言わないし、思想のために事実を曲げるようなことしないから
95905 名無しさん 2018/11/27 17:30 URL[編集]
AIにいきなり空気を読むことを教えるのか。
もう人間を直結するしかないんじゃね?

あれ、それ画面の向こうに人がいた初期のころの無人君やん。

おすすめアンテナの新着情報

当ブログ週間ページランキング

コメントの投稿

※フォントの都合上、AAには対応しておりませんのでご了承ください。

Secret