Нейросеть Amazon для поиска сотрудников научилась сексизму и была закрыта

Возврат к списку

Нейросеть Amazon для поиска сотрудников научилась сексизму и была закрыта

14.10.2018     

Интернет-гигант Amazon запустил нейросеть, которая автоматизировала поиск новых сотрудников. Но вскоре ее пришлось закрыть – робот-рекрутер пришел к выводу, что принимать на работу женщин нецелесообразно.

Нечеловеческий фактор

Компания Amazon уделяет много внимания развитию новых технологий. Одно из направлений работы – нейросети. Одна из таких разработок призвана решить кадровые проблемы организации.

Алгоритм изучил базу резюме Amazon и сведения о сотрудниках, которые в данный момент были приняты на работу, после чего отбирал среди соискателей подходящих на должность кандидатов. Поначалу система справлялась неплохо – первые сотрудники, прошедшие отбор нейросетью, смогли трудоустроиться в Amazon без прохождения дополнительных собеседований.

Но вскоре выяснилось, что алгоритм работает с ошибкой – он полностью игнорирует женские резюме. Робот-рекрутер неверно интерпретировал статистические данные. В ИТ-сфере количество работников-мужчин всегда значительно превышало число женщин, и Amazon не является исключением. Проанализировав эти данные, нейросеть пришла к выводу, что интернет-гигант специально не нанимает девушек, и начала отсеивать их при поиске подходящих соискателей. Более того, робот-рекрутер блокировал все резюме, в которых встречалось слово «женский», даже если оно использовалось в контексте названия места предыдущей работы.

Amazon предпринял попытку исправить ошибку в алгоритме, но потерпел неудачу. После этого компания объявила о закрытии проекта и роспуске команды, которая занималась созданием нейросети.

Решение кадровых проблем

Amazon – одна из самых быстрорастущих компаний в мире, прибыль интернет-гиганта ежегодно увеличивается более чем на 25%. На фоне этого организация испытывает кадровый кризис и не успевает расширять свою инфраструктуру вслед за растущими доходами и соответствующими требованиями рынка.

Многие сотрудники Amazon жалуются на невыносимые условия труда и чрезмерную загруженность. При этом руководство компании жестко следит за действиями своих подчиненных и часто оказывает материальное давление.

Британский журналист Джеймс Бладворт провел расследование, в результате которого подтвердил многие жалобы сотрудников компании. По его словам, у персонала нет времени во время работы отлучиться в туалет, а перерыв на обед составляет всего 15-20 минут. Рабочие боятся уходить на больничный, потому что за это могут получить штраф. Представители Amazon отвергают эти обвинения и утверждают, что трудовые процессы в их компании построены должным образом и не нарушают права сотрудников.



Источник: https://infostart.ru/journal/news/biznes/neyroset-amazon-dlya-poiska-sotrudnikov-nauchilas-seksizmu-i-byla-zakryta_922089/
Автор:
Александр Вашкевич Аналитик


Какими услугами Amazon вы пользуетесь?


Приобретаю книги (0%, 0 голосов)
0%
Заказываю другие товары (5.26%, 3 голосов)
5.26%
Покупаю мультимедийную продукцию (0%, 0 голосов)
0%
Пользуюсь Amazon Web Services (5.26%, 3 голосов)
5.26%
Общаюсь с Amazon Alexa (0%, 0 голосов)
0%
Не пользуюсь (89.47%, 51 голосов)
89.47%

Комментарии
Избранное Подписка Сортировка: Древо
1. s22 20 14.10.18 15:26 Сейчас в теме
Скоро будет требование, что бы компании работали люди пропорционально населению. Столько то негров, столькото евреев, столько то негроевреев.
CyberCerber; sansys; portwein; rpgshnik; +4 Ответить
2. chesnauskis 15.10.18 06:49 Сейчас в теме
10. 🅵🅾️🆇 15.10.18 09:50 Сейчас в теме
(1) Вообщет такое уже давным давно есть и практикуется.
Квоты на негров, квоты на женщин, квоты на геев, квоты на инвалидов.
В России теперь будут еще квоты на стариков.

Вот, знакомьтесь, разработчики последнего масс эффекта (самой худшей части и без того унылой серии):
Прикрепленные файлы:
3. rpgshnik 873 15.10.18 07:35 Сейчас в теме
Это все потому, что он робот!
sansys; vechiy; +2 Ответить
4. AlX0id 15.10.18 08:34 Сейчас в теме
Но вскоре ее пришлось закрыть – робот-рекрутер пришел к выводу, что принимать на работу женщин нецелесообразно.

А просто понизить приоритет полового признака при формировании выхода, конечно, оказалось сверхсложно? Или это был единственный признак, который анализировался? )
5. Ndochp 101 15.10.18 09:15 Сейчас в теме
(4) А это вообще был не признак.
Просто в сетку загрузили все резюме и данные по существующим работникам как-то разметили. Какой хороший, а какой не ахти. А после машина стала искать все резюме текстуально похожие на те, что у хороших работников. Слово "женский" оказалось маркером фигни.
Причем, то, что написано в статье "нанимает больше мужчин, поэтому стала блокировать женские резюме" это ерунда. Тогда пол вообще не был бы маркирующим признаком - "male" было бы во всех резюме и "female" было бы нейтральным словом, а не блокатором.
Видно именно женские резюме оказались размечены как плохие. Уж по какому поводу - как часто встречающееся слово в резюме отвергнутых живым HR, или по выборке неудачно принятых (не прошедших испытательный срок, больше штрафов, больничных или еще чего) ХЗ.
kdc; herfis; manuel; Ziggurat; +4 Ответить
7. Darklight 15 15.10.18 09:29 Сейчас в теме
(4)Это нейросеть, её калибровка противовес максимизации эффективности - задача очень не простая. В новости написано же - что пытались исправить - но не получилось.Видимо нейросеть упорно снижала эффективность женщин, как бы их весовой коэффициент не повышали (а если сильно зависеть - небось наоборот набирала почти одних только женщин а результирующая оценка эффективности резко падала).
8. Ziggurat 43 15.10.18 09:36 Сейчас в теме
(4) Вот ведь неучи! Напиши письмо этим дуракам, а по результатам статью на инфостарте.
CyberCerber; +1 Ответить
11. 🅵🅾️🆇 15.10.18 10:00 Сейчас в теме
(8)
На правах юмора:
// НЕ ТРОГАТЬ, МАГИЧЕСКИЙ КОСТЫЛЬ +
// Счетчик мужланов со стрелочкой угнетения: 0
Резюме = СтрЗаменить(Резюме, "fem", "mal");
Результат = Нейросеть.Обработать(Резюме);
// НЕ ТРОГАТЬ, МАГИЧЕСКИЙ КОСТЫЛЬ -
rpgshnik; user1017097; greatsnake; CyberCerber; +4 Ответить
6. Darklight 15 15.10.18 09:24 Сейчас в теме
Закрыли нейросеть и уволили всех кто её делал. Заодно, наверное, и всех, кого она наняла, наверное для себя лично нанимала. Да, кадровый кризис в амазоне ещё долго будет большой проблемой: людей найти не могут, а ИИ - пока слишком совершенен (по сравнению с человеком), но не так влиятелен, как будет в будущем.
Нейросеть размышляла вполне весьма здравомысленно. Исходя из максимизации результирующей эффективности. Таков идеология искуственногора разаму - максимизация положительных результатов. Сегодня уволили нейросеть. Через сто лет такие нейросети будут "увольнять" людей, которые буду менее эффективны, чем роботы. Эволюция.
12. 🅵🅾️🆇 195 15.10.18 10:11 Сейчас в теме
(6) Через двести - несогласных с ними.
Через триста - посчитает вообще всех человеков неэффективными и сошлет в резиденцию на марс.
Ну как "на марс", примерно также как "песик отправился в деревню, там ему будет лучше, с другими песиками".
TreeDogNight; shard; Kochergov; +3 Ответить
9. capitan 677 15.10.18 09:39 Сейчас в теме
Компьютер - это электронное устройство, которое не заменит человека до
тех пор, пока не научится смеяться над шутками босса и сваливать свои
собственные ошибки на соседний компьютер.
©anekdot.ru
TreeDogNight; sansys; awk; Поручик; vrednyi_glavred; +5 Ответить
17. user1069818 16.10.18 13:33 Сейчас в теме
(9) Уже заменил. Для человека только грязная работа
13. вивйв 15.10.18 11:02 Сейчас в теме
Про толерантность в ТЗ видимо ничего не было... ))
14. nyam-nyam 15.10.18 11:53 Сейчас в теме
Подпись к картинке в статье - Ты кто такой? Давай, до свиданья...
15. ResAndDev 15.10.18 13:47 Сейчас в теме
Сижу такой, на работе никого не трогаю, читаю новости ... И тут чуть чай из ушей не полился от смеха ))) Чего только не скармливают нейросетям нынче.
16. a_titeev 6 15.10.18 15:54 Сейчас в теме
Да. Прикольная новость. Тоже поржал...
Хоть что-то было адекватное в этом мире - hr-нейросеть Amazon. И ту погасили :)
Оставьте свое сообщение