Q:
Hvorfor er det viktig for dataforskere å søke åpenhet?
EN:Åpenhet er vesentlig viktig i datavitenskapelige prosjekter og maskinlæringsprogrammer, delvis på grunn av kompleksiteten og sofistikasjonen som driver dem - fordi disse programmene er "læring" (genererer sannsynlige resultater) snarere enn å følge forhåndsbestemte lineære programmeringsinstruksjoner, og fordi det som et resultat, det kan være vanskelig å forstå hvordan teknologien når konklusjoner. "Black box" -problemet med maskinlæringsalgoritmer som ikke fullt ut kan forklares for menneskelige beslutningstakere, er stort på dette feltet.
Med det i bakhodet, vil det å kunne mestre forklarbar maskinlæring eller “forklarbar AI” sannsynligvis være et hovedfokus i hvordan selskaper driver talentinnsamling for en dataforsker. Allerede DARPA, institusjonen som brakte oss internett, finansierer en studie på flere millioner dollar i forklarbar AI, og prøver å fremme ferdighetene og ressursene som trengs for å lage maskinlæring og kunstig intelligens teknologier som er transparente for mennesker.
En måte å tenke på det er at det ofte er et "literacy stadium" av talentutvikling og et "hyperliteracy stage". For en dataforsker ville det tradisjonelle literacy stadium være kunnskap om hvordan man setter sammen maskinlæringsprogrammer og hvordan man bygger algoritmer med språk som Python; hvordan man konstruerer nevrale nettverk og jobber med dem. Hyperlitteraturfasen ville være evnen til å mestre forklarbar AI, til å gi åpenhet i bruken av maskinlæringsalgoritmer og å bevare åpenhet når disse programmene arbeider mot sine mål og målene til deres behandlere.
En annen måte å forklare viktigheten av åpenhet i datavitenskapen er at datasettene som blir brukt blir stadig mer sofistikerte, og derfor mer potensielt påtrengende i folks liv. En annen viktig driver for forklarbar maskinlæring og datavitenskap er den europeiske generelle databeskyttelsesforordningen som nylig ble implementert for å prøve å dempe uetisk bruk av personopplysninger. Ved å bruke GDPR som testsak kan eksperter se hvordan behovet for å forklare datavitenskapelige prosjekter passer inn i personvern- og sikkerhetshensyn, så vel som forretningsetikk.
