Amazon пересмотрел внутренний и экспериментальный приведенный в действие искусственным интеллектом инструмент пополнения после того, как он учил себя предпочитать заявления о приеме на работу, появляющиеся от мужчин, штрафуя резюме, представленные женщинами, как сообщается Агентством Рейтер.

Инструмент пополнения был результатом желания Amazon автоматизировать процесс пополнения с их усилием, начинающимся в 2014, когда группа разработчиков была собрана, чтобы создать программное обеспечение, способное к просеиванию через, и рейтинг резюме самостоятельно.

“Все хотели этот Святой Грааль”, говорится в сообщении Агентства Рейтер. “Они буквально хотели, чтобы он был двигателем, куда я собираюсь дать Вам 100 резюме, это выложит лучшие пять, и мы наймем тех”.

Хотя команде удалось разработать основанный на машинном обучении двигатель пополнения, который оценит резюме с очками на основе пятизвездочного масштаба, Amazon, понятый когда-то в течение 2015, что их новый автоматизированный рекрутер показывал очевидный уклон, штрафуя резюме, кто вошел от женщин.

Согласно отчету, инструмент пополнения учил себя быть оказанным влияние против женщин после анализа образцов в заявлениях, поданных в течение 10-летнего длительного периода.

Amazon по сообщениям пересмотрел свой предубежденный двигатель пополнения прежде на самом деле использовать его во время процесса пополнения

Видение, что большинство резюме получалось от мужчин - претендентов, включение AI, Amazon исключил двигатель пополнения, пришло к заключению, что мужчины должны были быть предпочтены.

Кроме того, программное обеспечение пополнения эффективно штрафовало резюме, содержащие "женский” термин и дающие более низкие очки женщинам, которые учились в двух школах только для женщин.

Хотя Amazon пытался щипнуть двигатель пополнения, чтобы быть нейтральным, это в конечном счете сдалось, учитывая, что было не гарантировано, что основанный на машинном обучении автоматизированный рекрутер не попадет в те же дурные привычки когда-то в будущем.

«Рекрутеры Amazon посмотрели на рекомендации, произведенные инструментом, ища новые наймы, но никогда не полагались только на те рейтинги», указали анонимные источники Агентства Рейтер также.