Amazon без да иска създала изкуствен интелект, който се оказало, че дискриминира жени. Алгоритъмът трябвало да анализира документите на кандидати за работа в компанията, съобщава Reuters като се позовава на свои източници в компанията.
Шпионират ли ИТ гиганти чрез тайни чипове
Тим Бърнърс-Лий работи по спасител на Интернет
Системата е разработвана от 2014 г. с цел да автоматизира и ускори първоначалното пресяване на кандидатите. Тя давала оценка от една до пет звезди на всеки кандидат, като идеята е да помогне в процеса по подбор на подходящите хора за интервюта. Според един от източниците крайната цел е била системата да може да отсее петте най-добри кандидати, които след това да бъдат наети.
Още през 2015 г., обаче компанията забелязала странно поведение на изкуствения интелект. Той е бил трениран чрез документите, които вече са били подадени в Amazon през последните 10 години. Преобладаващата част от тях са от мъже, което алгоритъмът приел като знак, че мъжете са предпочитани кандидати.
Интернет няма нищо общо с оригиналната си идея
Три проблема застрашават бъдещето на Интернет
Amazon коригирала поведението на изкуствения интелект, но компанията така и не му се доверила напълно отново. Останало съмнението, че алгоритъмът може да си създаде някакви други критерии, които също да са дискриминиращи. Затова системата така и не влязла в употреба, а миналата година разработката ѝ била прекратена.
Компанията не дава особен коментар по темата. Тя казва единствено, че системата никога не е била използвана реално за преценка на кандидатите, а само за експерименти.
Пентагонът инвестира 2 млрд. във военен изкуствен интелект
Бот с изкуствен интелект помага срещу депресия
Според източниците на Reuters усилията по разработка на изкуствения интелект не са отишли напразно. Някои елементи от системата са били преработени и се използват. Един от тях например е откриване на дублирани кандидатури, както и помощ в други подобни рутинни задачи. Въпреки това Amazon все още не се отказва от крайната цел. С научените уроци досега, компанията обмисля да направи нова платформа, която този път да бъде специално научена да не дискриминира.
Следете ни навсякъде и по всяко време с мобилното приложение на Vesti.bg. Можете да го изтеглите от Google Play и AppStore.
За още актуални новини от Vesti.bg последвайте страницата ни в Instagram.
