Q:
Hvorfor forsker DARPA på "forklarbar AI"?
EN:Generelt sett er forklarbar kunstig intelligens blitt en mye innbåret del av det nyskapende arbeidet innen datavitenskap. Det hjelper med å veilede menneskelig kontroll over en iboende flyktig og dynamisk type teknologi - forklarbar AI hjelper deg med å svare på mange av våre kollektive spørsmål om hvordan kunstig intelligens vil fungere.
For å forstå forklarbar AI hjelper det å forstå hvordan "vanlig AI" ser ut. Tradisjonelt, når AI begynner å ta form, består det typiske prosjektet av en fancy ny programvareevne, gjemt i algoritmer og treningssett og lineær kode, det er en slags "blokkboks" for brukerne. De vet at det fungerer - de vet bare ikke helt hvordan.
Dette kan føre til "tillitsproblemer" der brukere kan stille spørsmål ved grunnlaget som en teknologi tar beslutninger om. Det er det forklarbare AI skal ta for seg: Forklarbare AI-prosjekter kommer med tilleggsinfrastruktur for å vise sluttbrukere intensjonen og strukturen til AI - hvorfor de gjør det den gjør.
I en tid der topp innovatører som Bill Gates og Elon Musk uttrykker bekymring for hvordan kunstig intelligens vil fungere, virker forklarbar AI ekstremt attraktiv. Eksperter hevder at god forklarbar AI kan hjelpe sluttbrukere til å forstå hvorfor teknologier gjør det de gjør, øke tilliten og også øke brukervennligheten og utnyttelsen av disse teknologiene.
Helt konkret forklarer DARPA på egenhånd konkret hvorfor den er interessert i de nye prosjektene. En side på DARPA viser at forsvarsdepartementet forventer en "torrent" av kunstig intelligensapplikasjoner, og en viss grad av kaos i utviklingen.
"Fortsatte fremskritt lover å produsere autonome systemer som vil oppfatte, lære, bestemme og handle på egen hånd, " skriver David Gunning. “Effektiviteten av disse systemene er imidlertid begrenset av maskinens nåværende manglende evne til å forklare sine beslutninger og handlinger for menneskelige brukere. … Forklarbar AI - spesielt forklarbar maskinlæring - vil være essensiell hvis fremtidige krigere skal forstå, pålitelig og effektivt styre en fremvoksende generasjon kunstig intelligente maskinpartnere. ”
Gunnings online essay antyder at forklarbare AI-systemer vil bidra til å "gi begrunnelsen" for teknologier, vise styrke og svakheter og gjøre brukssaker mer oversiktlige. En grafikk på siden viser hvordan en enkel ledning av kunstig intelligensfunksjonalitet fra treningsdata vil bli forsterket av noe som kalles en forklarbar modell og et forklarbart grensesnitt som vil hjelpe brukeren å svare på spørsmål. Gunning antyder videre at et forklarbart AI-program vil ha to hovedfokusområder - det ene vil være å sile gjennom multimediedata for å finne det som er nyttig for brukerne, og et andre fokus vil være å simulere beslutningsprosesser for beslutningsstøtte.
DARPA håper å kunne tilby et “verktøysett” som kan bidra til å utvikle fremtidige forklarbare AI-systemer.
