Q:
Hvorfor kan et selskap legge ned et chatbot AI-prosjekt?
EN:Bedrifter kan legge ned chatbot-prosjekter av kunstig intelligens av mange grunner, men de mest sannsynlige kan grupperes i et par kategorier. For det første kan selskaper slå av chatbot-teknologiene hvis de opptrer på måter som kan gjøre selskapet ubehagelig, for eksempel å fremme kritikkverdig tale. Alternativt kan bedrifter stenge et chatbot-prosjekt hvis det begynner å demonstrere oppmerksomhet og evne som enten ikke lett kan kontrolleres, eller kan utgjøre en slags eventuell trussel mot folkehelse og sikkerhet.
Vi har begge disse scenariene dokumentert i nyere historie. Microsofts eksperiment med Tay chatbot ble avsluttet da Tay begynte å ta på seg noen av de verste egenskapene til sine menneskelige kolleger - rasistiske og aggressive kommentarer, og generelt kritikkverdige aktiviteter, hvorav mye tydelig ble lært eller til og med papegøye direkte fra brukere.
I en veldig annen casestudie ble et chatbot-oppsett pioner av Facebook stengt ned da forskere observerte to chatbots som kommuniserte med hverandre på en måte som var noe eksklusiv for menneskelig observasjon. Det var en påstand om at chatbot-enhetene hadde begynt å "snakke i en slags kode" som var mer praktisk for dem og mindre gjennomsiktige for deres menneskelige håndterere. Dette er et eksempel på den veldig virkelige bekymringen rundt kunstig intelligens generelt - at når vi gjør store fremskritt i utviklingen av sterk kunstig intelligens, må mennesker handle for å inneholde og kontrollere alle eksempler på AI-implementering for å sikre at de ikke krysser gitt grenser. Det er et stort antall etiske bekymringer og sikkerhetsspørsmål som må løses med sterk kunstig intelligens, og dette er en av de viktigste grunnene til at noen chatbots eller andre kunstige intelligensprosjekter i fremtiden kan bli lagt ned av interessentene som har bygget og støttet dem gjennom en viss prosess.
