Q:
Hvorfor sier noen eksperter at AI vil "ødelegge digital autentisitet"?
EN:Maskinlæring og kunstig intelligens endrer raskt mange bransjer, og omformer virkelig måtene vi tenker om teknologisk fremgang. Men de engasjerer også interessante dikotomier og motsetninger angående hvordan vi forholder oss til datamaskiner og smarttelefonenheter eller andre nye grensesnitt som tilfeldigvis følger med.
Et av de store spørsmålene med kunstig intelligens er hvordan det vil påvirke "ektheten" - eller hvordan folk verifiserer og bekrefter virkeligheten som eksisterer, i "meatspace" eller i den digitale verden. Når du virkelig graver deg inn i hvordan dette fungerer, ser du en iboende motsetning mellom begrensningene i vår teknologi og måtene vi stoler på teknologien til disposisjon.
Et av de beste eksemplene kan bli funnet i en nylig Wired-artikkel som viser hvordan mennesker med kunstig intelligens og maskinlæringsressurser er i stand til å ta et bilde av en hest i bevegelse og overlegge sebra striper i en prosess forfatteren kaller "sebrafication."
Det er ryddig og nytt, men det kan også være et problem. Når du ser en sebra på en digital skjerm, hvordan vet du at det er en sebra, og ikke bare en hest med seberstriper som er smart lagt på den av en teknisk kunnskapsrik person?
Det kan virke som et teoretisk spørsmål, men de samme spørsmålene kommer snart til å gjelde nyhetene vi får i digital form - fra politikk til økonomi til religion, alt sammen vil stole på vår evne til å sile gjennom informasjon, for å sjekke og skille mellom sannhet og fiksjon, mellom myte og virkelighet. Ettersom nye kunstige intelligensverktøy tilbyr flere måter å manipulere bilde og video på, vil dette bli mye vanskeligere.
Et annet utmerket eksempel er nye taleteknologier. I en artikkel for noen år siden dekket vi et spirende IT-prosjekt som tok stemmene fra kjente mennesker og bygde stemmemodellmotorer som kunne få de berømte personene til å si noe fra bortenfor graven.
Igjen, dette er ryddig og interessant teknologi - det virker som en morsom måte å bruke taleprosesseringsteknologier på. Men det kommer virkelig til å by på et problem når vi tar hoppet fra gammel analog og udoktert digital taleteknologi til ny syntetisk og prefabrikert stemme. Hvordan vil du vite hvem som snakker med deg - på telefon, på TV eller rett i øret?
Konkret kan ideen om å endre lyd, bilde og video på sofistikerte måter oppfylle noen av våre mest verdsatte ideer som samfunn. Hvordan vil folk stole på det de hører og ser i den politiske verden? Hva med loven - vil de som er anklaget for forbrytelser få nye typer klagesett basert på potensiell endring av bevis?
En annen måte å forstå noen av disse problemene på er å se på science-fiction-forfatterskap - fra Ray Bradburys "Fahrenheit 451" til George Orwells "1984" og utover, har fortellere fra tidligere aldre gjentatte ganger advart oss om at teknologi kan brukes til både nyttig og problematiske ender. En grunn til at så mange eksperter og sjefer for IT-selskaper krever "forklarbar kunstig intelligens" og etiske paneler, er at de forstår problemet - at hvis vi ikke kontrollerer teknologiene grundig, ikke vil vi kunne stole på dem til noen utstrekning. I stedet for å hjelpe oss med å oppnå våre mål, kan de ende med å skade oss, delvis ved å forårsake den slags sosiale kaos som eksisterer når vi ikke virkelig får tak i sannhet og virkelighet. En del av den gode nyheten er at teknologier som blockchain, som gir transaksjonsautentisering, kan hjelpe når de brukes på digitale poster.
