Biometrisestä tunnistautumisesta, joka ei erota tummia ihmisiä toisistaan, äänen tunnistukseen, joka ei osaa tunnistaa aksentilla puhuvia, tekoälyllä on vielä pitkä matka kohti reiluutta ja avoimuutta.
Ongelmana ovat yleensä jo olemassa olevat ennakkoluulot eli bias, joka tekoälyn tapauksessa tulee ilmi entistä voimmakkaammin. Erityisesti, kun kyse on pankki- ja talouspalveluista.
Tekoäly on lopulta vain yhtä hyvä, kuin sille annettu data. Puutteellinen tai vääristynyt data ei anna tekoälyn olla objektiivinen vaan kehittyy bias, jonka kautta tekoäly oppii aina vain uudelleen toimimaan syrjivästi tai muuten epäeettisesti.
Pankkipalveluiden tekoälyongelma
Twitterin entinen koneoppimisen etiikan, läpinäkyvyyden ja vastuullisuuden päällikkö Rumman Chowdhury on sanonut, että lainaneuvottelut ovat yksi esimerkki siitä, kuinka tekoälyn bias voi johtaa tiettyjen ihmisryhmien huonompaan kohteluun. Hän sanoo, että “syypäätä” on vaikeaa löytää, kun tekoäly piilottelee laskelmien takana.
Viimeaikainen Posti
