Q:
Kan AI oppdage din seksuelle eller politiske orientering bare ved å se på bildene dine gjennom ansiktsgjenkjenning?
EN:Kort sagt: Ja, det kan de, og de er enda bedre enn mennesker til å gjøre det. I følge en svært foruroligende studie fra Stanford University, inneholder bilder av menneskelige ansikter et vell av informasjon som den menneskelige hjernen ganske enkelt ikke kan behandle, mens kunstig intelligens kan. I følge forskningen deres, var et dypt nevralt nettverk i stand til å skille mellom homofile og heterofile menn i 81 prosent av tilfellene, og i 74 prosent av tilfellene for kvinner, mot bare 61 prosent for menn og 54 prosent for kvinner for menneskelige dommere. Hvis algoritmen hadde minst fem bilder av en person å skanne, steg suksessprosenten til henholdsvis 91 og 83 prosent.
Ikke bare var AI i stand til å skille noen "kjønn-atypiske" funksjoner som stellestil og motevalg, maskinen identifiserte også noen spesifikke fenotypiske trekk i ansiktsegenskapene, som at homofile menn hadde smalere kjever, større panner og lengre nese. Uavhengig av de potensielle implikasjonene av denne oppdagelsen (som ideen om at kjønnsorientering kan være knyttet til noen genetiske egenskaper), er det ganske skremmende hvor skadelig bruken av denne teknologien kan være. For eksempel kan det brukes av de regjeringene som straffeforfølger LHBT-personer for å "skjerm" dem, eller bare for å krenke personvernet til utallige brukere for alle slags ondsinnede formål - målrettet markedsføring er det minst onde av dem alle.
Det som imidlertid gjør det enda mer ubehagelig er at lignende teknologier allerede er tilgjengelige og allerede brukes. AI kan oppdage mye mer enn bare seksualitet ved å se på et bilde av et menneskelig ansikt: Det kan oppdage følelser, IQ og til og med politiske preferanser. Lignende AI-drevet psykometrisk profileringsteknologi har blitt brukt til å trekke data fra Facebook-profiler og lage konklusjoner om personlige preferanser og livsstilsvalg. På denne måten ville velgerne bare se et spesifikt underett av målrettede politiske annonser som subtilt kunne styre deres politiske valg.
Skaperen av dette eksperimentet, psykologen Michal Kosinski, uttrykte sin bekymring for mulige risikoer hvis denne teknologien ble brukt til onde formål, til det punktet at han og teamet hans brukte mye tid på å vurdere om resultatene i det hele tatt skulle bli offentliggjort. Det politiske konsulentfirmaet Cambridge Analytica brukte faktisk angivelig informasjon samlet inn fra sosiale nettverk for å publisere annonser som påvirket det amerikanske presidentvalget i 2016, og muligens til og med den britiske Brexit-kampanjen. I følge den pågående etterforskningen begynte en enorm hær av boter å spre en rekke nøyaktig målrettede falske nyheter om Hillary Clinton for å styre hennes potensielle valgmenn til å stemme for Donald Trump. Mange av disse annonsene ble bygget på stedet av de intelligente algoritmene, for å vises for folk under større begivenheter eller valgdebatter. AI målte også folks reaksjoner, for å styrke effektiviteten deres i å påvirke Clintons velgere til å tro at hun var en ond og avskrekket person.
Etter skandalen ble byrået stengt, men lignende teknologier eksisterer fortsatt og kan fremdeles brukes med ondsinnede formål. Kosinski holdt mange taler som advarte om denne risikoen lenge før skandalen, men dessverre kan ikke menneskets natur endres. I et upublisert eksperiment hevdet han at AI var i stand til å skille mellom ansiktene til republikanere og demokrater, selv om han innrømmet at skjegg kunne utgjøre en forskjell. Så for alle konspirasjonsteoretikere (og personlige kunnskapsrike mennesker) der ute, her er et stort hint - hvis du vil forhindre at regjeringen pirker inn i privatlivet ditt, bare vokse skjegg. En enorm en, om mulig.
