Unealta de recrutare dezvoltată de Amazon, bazată pe inteligența artificială, discrimina femeile

Categorie: IT & C

Între 2014 și 2017 Amazon a încercat să construiască o unealtă bazată pe inteligența artificială care să contribuie la procesul de recrutare a noilor angajați. Unealta urma să ofere între 1 și 5 stele bazându-se pe un algoritm, scrie QZ.com.

La un an după demararea proiectului, programatorii implicați și-au dat seama că algoritmul nu identifica potențialul unui candidat pentru un anume job în cadrul companiei, ci reușea să identifice bărbații.

Sistemele de inteligență artificială, precum cel pe care încerca Amazon să-l construiască, au nevoie de un volum foarte mare de date din care să poată învăța. Pentru ca un sistem de inteligență artificială să poată deosebi o oaie de un cal, de exemplu, are nevoie de un volum imens de imagini cu cele două animale pentru ca în final să reușească să le distingă. La rândul său, algoritmul Amazon avea nevoie de o cantitate enormă de date pentru a reuși să evalueze candidații pentru poziții deschise în cadrul companiei.

Unul dintre angajații Amazon, citați de Reuters spune că se dorea ca acest sistem să fie atât de eficient încât, în momentul în care primește 100 de CV-uri să reușească imediat să realizeze un top 5.

Pentru ca sistemul să aibă „material didactic” au fost introduse CV-urile candidaților la poziții în cadrul Amazon din ultimii 10 ani. Majoritatea candidaților erau bărbați, așa că sistemul a învățat că bărbații sunt candidații preferați, așa că a început să excludă femeile. Mai mult, a ajuns atât de departe încât să penalizeze doar apariția cuvântului „femeie” într-un CV.

S-au făcut eforturi pentru ca sistemul să fie neutru, dar nu se știe cu certitudine că nu mai discriminează, așa că proiectul a fost suspendat.


Alte articole

Adauga comentariu