Nema sumnje da veštačka inteligencija predstavlja visoko tehnološku oblast jer se od samog početka oslanja na računare, obradu podataka i programiranje. Zato se sa pravom očekuje da će i izazovi sa kojima se ona susreće takođe biti tehnički. No, stvarnost je znatno komplikovanija. U stvari, neki od najvećih izazova za VI predstavljaju duboko moralna pitanja. To se pre svega odnosi na odgovornost prema korisnicima i usklađivanje sa pravilima koja važe u poslovanju savremenih kompanija. Ukoliko se ozbiljno ne posvetite ovim problemima, šansa da vaš rad bude odbačen zbog etičkih pitanja je mnogo veća od onih koji vrebaju sa tehničke strane.
Za VI, glavni etički izazovi su sledeći: vrednosna usklađenost, algoritamska sledljivost, autorska prava i pouzdanost. Kao što sam već pomenuo, prvi veliki izazov predstavlja vrednosna usklađenost jer se ona pominje u mnogim naučnofantastičnim pričama. U njima VI jednostavno dođe do zaključka da najveću pretnju po nju predstavlja čovečanstvo pa kao u poznatom romanu „2001: Odiseja u svemiru“ ubije posadu da bi nastavila svoju misiju.
Problem neusklađenosti se javlja kada kreirate VI sistem koji treba da obavlja neki konkretan zadatak i pri tome očekujete da će se on ponašati i razmišljati kao ljudsko biće. To znači da sistem veštačke inteligencije radi upravo ono što mu je rečeno, ali ne na način na koji bi to čovek uradio.
Zamislite da radite za kompaniju koja se bavi zdravstvenim osiguranjem i da je vaš tim razvio VI sistem za smanjenje troškova. Njegov glavni cilj je da pronađe dobre klijente, pa se može očekivati da će zanemariti one koji su stariji od 50 godina, pošto se smatra da stariji korisnici zahtevaju viši stepen zdravstvene zaštite. To bi sigurno snizilo vaše troškove, ali bi istovremeno neki od vaših dugogodišnjih klijenata ostali bez osiguranja. Sistem je uradio ono što ste od njega tražili, ali ne i ono što ste želeli. On je marljivo radio na smanjenju troškova i pri tome potpuno zanemario sva moralna pitanja.
Među najglasnijim protivnicima veštačke inteligencije se nalaze upravo oni koji izražavaju zabrinutost da će ovakvi sistemi u određenom trenutku dobiti neki oblik svesti. Ali u realnosti se ispostavilo da najveću opasnost predstavljaju sistemi koji služe za donošenje odluka. Pošto njihov broj raste, postoji realna šansa da te odluke ne budu u skladu da ljudskim vrednostima. Napredan sistem veštačke inteligencije može da donese mnogo moralnih odluka pre nego što to bilo ko primeti. On će najveći deo svog vremena posvetiti postizanju unapred postavljenog cilja što u prethodnom primeru predstavlja smanjenje troškova, a ljudi moraju da vode računa da li je to u skladu sa moralnim vrednostima.
Poseban problem predstavljaju slučajevi u kojima ciljevi nisu precizno definisani. U postupku koji vodi ka smanjenju troškova, sistem veštačke inteligencije mora biti u stanju da prepozna važnost dugogodišnjih klijenata a ne da ih smatra suviše rizičnim za dalje osiguravanje. Zato je neophodno da on bude u stanju da razume ljudske odnose i da ih koristi za postizanje postavljenih ciljeva. Ovakav sistem može da i dalje donosi odluke, ali u isto vreme i da izbegne neočekivane rezultate.