Kodėl Atėjo laikas sustabdyti aklai tiki didelis duomenų
Gyvenimas / / December 19, 2019
algoritmai nuspręsti dabar kas patvirtinti už paskolą, draudimą arba kurie gauna už interviu kvietimą, bet dažnai jie tai daro neteisingai. Ir tai tik padidina tarp gyventojų sluoksnių spragą.
Katie O'Neillas (Cathy O'Neil)
Matematikas, remiantis finansų rinkų specialistas, autorius knygos analize "ginklų matematinės pralaimėjimo."
Konstruoti algoritmą, turime du dalykus: duomenų (kas atsitiko praeityje) ir sėkmingo rezultato apibrėžimas (tai, ką norite rasti, naudojant šį algoritmą). tada ji nustato, kokiais kriterijais sukelti sėkmingo rezultato. Bet sėkmės apibrėžimas negali būti universalus.
Algoritmas - tai kažkieno nuomonė, built-in kodą.
Mes naudojome galvoti, kad algoritmai yra objektyvūs ir patikimi, bet tai tik marketingo gudrybė skirta įbauginti su mumis ir mums pasitikėti algoritmų ir matematinės duomenų.
O'Neillas cituoja pavyzdžių, kai algoritmai gali sukelti didelę žalą. Tai atsitinka, kai vertinant darbuotojų. Pavyzdžiui, 2011 metais Vašingtono apskrities mokykloje buvo atleistas daugiau nei 200 mokytojų po jų
išretinti algoritmasNors jie turėjo puikias rekomendacijas iš savo tėvų ir bendraamžių.Be to, algoritmai dažnai pašalinimo šališko nuosprendžių priežastis. Naujienos organizacija ProPublica neseniai atliko tyrimą ir rastiKad algoritmai, kurie lemia recidyvo riziką, dirbti objektyviai. Tuo pačiu nusikaltimų sakiniai dažnai paimtas juodos amerikiečiai.
Mes visi esame taikomos paklaidų, ir mes juos į algoritmų, nusprendusių kurie duomenys turi būti atsižvelgta.
Algoritmai yra tiesiog kartoti mūsų praeities klaidų, automatizuoti esamą tvarką. Taigi mes negalime aklai pasitikėti juos, mes turime juos išbandyti, kad būtų tikslas: permąstyti sėkmingo rezultato apibrėžimas, klaida, nėra apdrausti bet algoritmas. Kaip dažnai jie atsiranda ir kas nukentėjo? Kas yra tokių klaidų kaina?
Specialistų, dirbančių su duomenimis, turėtų būti ne Teisingumo arbitrų. Atėjo laikas sustabdyti aklai tikėti dideli duomenų.