© Getty Images

Myytin käyttäminen tekoälyn vaarojen selittämiseen -

Kreikkalaisessa tarinassa Pandoran lippaasta Zeus loi Pandoran, kauniin savesta tehdyn naisen, joka oli täynnä useita jumalten lahjoja.

© Getty Images

Jumalten lahja -

Afrodite antoi hänelle kauneuden, Athene viisauden ja Hermes uteliaisuuden. Pandora lähetettiin Maahan lahjaksi Epimetheukselle.

© Getty Images

Pandorasta tulee Epimetheuksen vaimo -

Epimetheuksen veli Prometheus varoitti Zeuksen lahjoista. Pandoran kauneus kuitenkin lumosi hänet, ja hän otti hänet vaimokseen.

© Getty Images

Pandoran lipas -

Pandora ei tullut Maahan yksin. Zeus antoi Pandoralle lippaan varoittaen häntä avaamasta sitä, sillä se sisälsi kaikki maailman pahuudet.

© Getty Images

Ihmiskunta muuttui ikuisesti -

Mutta yksi Pandoran jumalilta saamista lahjoista oli uteliaisuus. Lopulta hän avasi lippaan, ja tuon yhden teon myötä kaikki sen sisälle varastoitu paha pakeni maapallolle ja muutti ihmiskunnan ikuisesti.

© Getty Images

Yksi asia lukittuna sisälle -

Pandora, joka tajusi virheensä, sulki nopeasti lippaan ja vangitsi sen sisälle jääneen esineen. Kyseessä oli toivo.

© Getty Images

Pandoran lipas ja tekoäly -

Mitä tekemistä Pandoran tarinalla on tekoälyn ja sen riskien kanssa? Olemme tällä hetkellä massiivisten teknologisten läpimurtojen äärellä, mutta monet tekoälyyn liittyvät asiat perustuvat spekulaatioihin.

© Getty Images

Tekoäly nykyaikaisena versiona Pandoran lippaasta -

Tekoäly on monella tapaa nykypäivän versio Pandoran lippaasta. Tämä ei tarkoita sitä, että tekoäly olisi luonnostaan paha tai vaarallinen, vaan sitä, että kun lipas on avattu vaikka asiantuntijat ovat varoittaneet hidastamaan sen kehitystä, jotta tekoälystä ei aiheutuisi tahattomia seurauksia.

© Getty Images

Innovaatioiden edistäminen -

Haasteena on edistää innovointia, erityisesti koneiden autonomiaa, suurella nopeudella, mikä altistaa meidät monille riskeille ja mahdollisille puutteille, erityisesti kun teknologia on yhä tiiviimmin läsnä elämässämme.

© Getty Images

Tiedostot -

Erityisesti koneoppimismallit tukeutuvat usein tietokokonaisuuksiin sekä oppimisessa ja päätöksentekoprosessien edistämisessä.

© Getty Images

Vahvistaa ennakkoluuloja -

Sen lisäksi, että tekoälyjärjestelmät toistavat näitä ennakkoluuloja, ne voivat jopa vahvistaa näihin tietokokonaisuuksiin sisältyviä ennakkoluuloja.

© Getty Images

Kasvojentunnistus -

Esimerkiksi kasvontunnistusjärjestelmien, joita hallitukset, teknologiayritykset ja instituutiot käyttävät, on todettu olevan puolueellisia.

© Getty Images

Heikko monimuotoisuus -

Monissa yhteyksissä on havaittu, että kasvojentunnistusjärjestelmät, jotka kärsivät järjestelmien kouluttamiseen käytettävien tietokokonaisuuksien vähäisestä monimuotoisuudesta, omaksuvat rotuvääristymiä.

© Getty Images

Ero tarkkuudessa -

American Civil Liberties Union (ACLU) raportoi, että tutkimukset osoittavat miten vaaleaihoisten virheprosentti on alle yhden prosentin.

© Getty Images

Teknologian puutteet -

Sen sijaan tummemman ihonvärin omaavilla henkilöillä virheprosentti on lähes 35 prosenttia. Yhdysvaltojen hallituksen tekemä testi osoittaa, että teknologia tunnisti parhaiten keski-ikäiset valkoiset miehet. Tummemman ihon omaavien henkilöiden kohdalla tarkkuusprosentti laski merkittävästi.

© Getty Images

Rikosoikeusjärjestelmä -

Tämän teknologian käyttö on erityisen haitallista Yhdysvaltojen kaltaisissa olosuhteissa, joissa rikosoikeusjärjestelmä jo nyt kohdistuu suhteettomasti syrjäytyneisiin ryhmiin ja vangitsee niitä.

© Getty Images

Algoritminen puolueellisuus -

Algoritmit, jotka ovat useimpien tekoälyjärjestelmien selkäranka, voivat edistää tätä syrjintää sekä tietokokonaisuuksien syötteen ja niiden suunnittelun ansiosta.

© Getty Images

Päätöksentekoprosessit -

Monien tutkijoiden ongelmana on, että syväoppimiseen perustuvia tekoälyjärjestelmiä on erityisen vaikea ymmärtää niiden päätöksentekoprosessien kannalta.

© Getty Images

Läpinäkyvyys -

Näistä järjestelmistä puuttuu avoimuus, ja siksi on vaikea määritellä tarkasti missä ja miten syrjintää käytännössä tapahtuu.

© Getty Images

Haastava väliintulo -

Tämä tekee väliintulon strategioista melko haastavia. Tekoälyä käytetään yhä enemmän institutionaalisessa päätöksenteossa, kuten lainojen hyväksymisessä, terveydenhuollon prosesseissa ja palkkauskäytännöissä.

© Getty Images

Syrjintä -

Monet näistä tilanteista ovat jo historiallisesti aiheuttaneet syrjintää syrjäytyneille ryhmille, erityisesti värillisille ihmisille.

© Getty Images

Terveydenhuolto -

Tekoälyn päätöksenteon lisääminen voi pahentaa syrjintää entisestään tai ylläpitää sitä. Tekoälyä voidaan hyödyntää esimerkiksi terveydenhuollon yhteydessä hoitosuositusten antamiseen.

© Getty Images

Tietojen monimuotoisuus -

Suositellut hoidot eivät välttämättä ole yhtä tehokkaita tietyille ihmisryhmille, mutta jos järjestelmän perustana olevassa tietokannassa ei ole monipuolisia tietoja, malli saattaa suositella hoitotavan, joka ei todellisuudessa ole henkilölle paras mahdollinen.

© Getty Images

Pankkilainat -

Pankkilainojen osalta algoritmeja käytetään määrittämään sen onko asuntolainaa hakeva henkilö sopiva ehdokas.

© Getty Images

Lainauskäytännöt -

Hyväksymisprosessissa saattaa esiintyä historiallisia lainakäytäntöjä, jotka suosivat tiettyjä ryhmiä tai jotka ovat historiallisesti syrjineet muita.

© Getty Images

Stereotypiat -

Olemassa olevia stereotypioita voidaan puolestaan ylläpitää entisestään, kun järjestelmä oppii yhdistämään tietyt ominaisuudet tiettyihin käyttäytymistapoihin.

© Getty Images

Monimuotoinen ja edustava -

Tekoälyjärjestelmien on vaadittava, että niiden oppimisprosessit ovat monipuolisia ja populaatiota edustavia, jotta ennakkoluuloja voidaan lieventää mahdollisimman paljon.

Lähteet: (ACLU) (The Guardian) (‘Race After Technology’) (MIT Media Lab)

© Getty Images