Q:
Hvorfor er noen mennesker bekymret for kunstig intelligens?
EN:Endring er ikke lett, og mange har vanskeligheter med å tilpasse seg det. Dette gjelder særlig teknologisk endring. Den bemerkede Harvard-professoren Calestous Juma skrev en bok om emnet "Innovasjon og dets fiender: Hvorfor mennesker motstår nye teknologier." Boken skisserer spenningen mellom innovasjon og den sosiale ordenen, og bygger på 600 års historie. Effekten av teknologi er spesielt plagsom når det gjelder kunstig intelligens.
Ikke alle er ugunstige for disse fremskrittene. Ray Kurzweil, forfatter av “The Singularity is Near” og “The Age of Spiritual Machines, ” er intet mindre enn en evangelist som fremmer fordelene ved genetikk, nanoteknologi og robotikk (et begrep brukt om ikke-biologisk intelligens). Men dette er de samme problemene - og Kurzweil den samme personen - som forårsaket stor bekymring i år 2000 for Bill Joy, sjefforsker ved Sun Microsystems.
Joy skrev om bekymringene sine i en nå berømt artikkel i magasinet Wired kalt “Why the Future Not Need Us.” Han trodde at selve fremtiden til den menneskelige rase sto på spill. Med henvisning til konkurransen i evolusjonshistorien, skrev Joy, “Biologiske arter overlever nesten aldri møter med overlegne konkurrenter.” Vitenskapelige gjennombrudd som resulterer i at maskiner som overgår mennesker har en betydelig risiko. Visjoner om en dystopisk fremtid kommer til tankene.
Anta at forskere er i stand til å utvikle maskiner med kunstig superintelligens (ASI), et nivå av intelligens som er høyere enn mennesker. Joy sier at en av to ting kan oppstå: Enten vil maskinene få lov til å ta sine egne beslutninger, eller så vil mennesker opprettholde kontrollen over dem. Hva skjer hvis du overleverer strømmen til maskinene? Hva kan være resultatene?
Bill Joy er ikke den eneste som gir uttrykk for bekymringer. Teknisk guru Elon Musk sa, "Med kunstig intelligens tilkaller vi demonen." Han kalte det "vår største eksistensielle trussel." Fysiker Stephen Hawking sa til deltakerne på en teknologikonferanse at "vi kan ikke vite om vi vil bli hjulpet uendelig av AI, eller ignorert av det og sidefôret, eller tenkes ødelagt av det. ”Og han sa til Wired magazine, “ Jeg frykter at AI kan erstatte mennesker helt. ”
Er denne frykten rettferdiggjort? Sci-fi-filmer som "Transcendence", der Johnny Depps karakter binder seg til kunstig intelligens og skaper ødeleggelser, minner om Kurzweils spådommer om hvordan mennesker kan smelte sammen med maskiner. Fantasier løper løpsk rundt alle måtene som kunstig intelligens kan gå galt. Hva skjer når maskinene tar kontroll?
To eksempler fra det virkelige liv illustrerer hvor bekymring for kunstig intelligens kan være forståelig. I 2007 drepte en robotkanon ni mennesker og såret 14. Noen avanserte militære våpen plukker automatisk målene sine, men venter på at et menneske skal dra i avtrekkeren. Hvem tok beslutningene her? I 2016 slo en sikkerhetsrobot på 300 pund ned og løp over en seksten måneder gammel pjokk. Hvem hadde kontrollen i dette tilfellet: mann eller maskin?
Årsaken til at noen mennesker er bekymret for kunstig intelligens, er at risikoen er reell. Neste spørsmål: Hvordan skal vi håndtere disse risikoene?
