Tvrtke imaju moralnu dužnost objasniti kako algoritmi donose odluke koje utječu na ljude
Tvrtke se sve više oslanjaju na algoritme koji koriste podatke korisnika kako bi donosili odluke koje u konačnici utječu na ljude. Primjerice, Amazon, Google i Facebook koriste algoritme za prilagođavanje sadržaja korisnicima, a Uber i Lyft koriste ih za usklađivanje putnika s vozačima i određivanje cijena.
Imaju li korisnici, kupci, zaposlenici i drugi pravo znati kako tvrtke koje koriste algoritme donose svoje odluke? Analiza koju su proveli istraživači sa Sveučilišta Carnegie Mellon istražuje moralne i etičke temelje takvog prava.
"U većini slučajeva tvrtke ne nude nikakva objašnjenja o tome kako dobivaju pristup korisničkim profilima, odakle prikupljaju podatke i s kime trguju svojim podacima", objašnjava Tae Wan Kim, izvanredni profesor poslovne etike na Sveučilištu Carnegie Mellon, koji je napisao analizu. "Nije u pitanju samo poštenje, radi se i o povjerenju."
U digitalnoj eri, pišu autori, neki kažu da informirani pristanak - dobivanje prethodnog dopuštenja za otkrivanje podataka uz puno znanje o mogućim posljedicama - više nije moguć zbog kontinuiranosti transakcija. Umjesto toga, autori konceptualiziraju informirani pristanak kao jamstvo povjerenja za nepotpune algoritamske procese.
Dobivanje informiranog pristanka, posebno kada tvrtke prikupljaju i obrađuju osobne podatke, etički je potrebno, osim ako se on prethodno poništi iz specifičnih, prihvatljivih razloga, tvrde autori. Štoviše, informirani pristanak u kontekstu algoritamskog odlučivanja, posebno za nekontekstualne i nepredvidive svrhe, nepotpun je bez osiguranja povjerenja.
U tom kontekstu, zaključuju autori, tvrtke imaju moralnu dužnost pružiti objašnjenje ne samo prije nego što se dogodi automatizirano donošenje odluka, već i nakon toga, tako da se objašnjenje može odnositi i na funkcionalnost sustava i na obrazloženje određene odluke.
Autori napominju da su se mnoge tvrtke već uhvatile u koštac s ovim izazovima. Neki od njih tako zapošljavanju ‘tumače podataka’, odnosno ljude koji premošćuju rad informacijskih znanstvenika i onih na koje utječu odluke kompanija.
Izvor: Carnegie Mellon University