Kunstig intelligens er et ofte misforstået begreb. Det lyder som at hævde, at maskiner - hvad enten det er robotter eller din vaskemaskine - er følsomme og i stand til at tænke for sig selv, men det er ikke rigtig tilfældet. Maskinindlæring (en anden forkert betegnelse i sig selv) er et værktøj, hvor programmører kan indstille softwaren til at genkende en mønster, som en form eller en farve eller en bestemt sætning - ring derefter til en handling, der skal ske, hvis den "ser" det mønster en gang til.
Maskiner er ikke smarte. De er bare programmeret til at genkende mønstre.
Et godt eksempel var hvordan en NVIDIA-ingeniør "lærte" en af sine AI-maskiner ved at give den fotos af katte. Alle slags katte i alle mulige forskellige situationer. Til sidst kunne maskinen genkende en kat på ethvert foto eller endda et live feed. Det behøvede ikke mere programmering for at finde en kat, uanset situationen, fordi den "lærte", hvad en kat var, og hvordan den så ud.
Verizon tilbyder Pixel 4a for kun $ 10 / mo på nye ubegrænsede linjer
Vi har bevæget os langt ud over katte, og som Googles administrerende direktør Sundar Pichai nævner i sin Financial Times redaktionel, idet Google kan forudsige vejret i Indien bedre end en meteorolog, og nogle virksomheder eller grupper af mennesker har trænet maskiner til at gøre ting, når et ansigt genkendes.
Identifikation af en person i en Facebook foto kan for eksempel tillade en maskine at få et navn, adresse, telefonnummer, økonomiske oplysninger og en e-mail-adresse. Hvis det er en berømt person, kan den sandsynligvis finde endnu flere oplysninger, herunder ting, som man helst ikke ville blive offentliggjort.
Du har ikke brug for terminatorer for at gøre dårlige ting med AI.
Dette er dårligt. Måske er det ikke det samme dårlige niveau som en Terminator, der bevæger sig gennem tiden, som vi ser i fiktive film, men stadig gør det du ønsker nogen at finde ud af ting om dig, fordi din ven indsendte et foto med dit ansigt på det på sociale medier?
Og det er ikke det værste af det. AI, der har lært nøjagtigt, hvordan en person ser ud og lyder, kan skabe et elektronisk duplikat (kaldet en dyb falsk) på et foto eller en video. Forestil dig en 90-sekunders video af statsoverhovedet i en eller anden form for kompromisposition eller at sige noget off-color, men det er 100% falsk og computergenereret, og du kunne ikke fortælle, at det ikke var rigtigt.
Undskyld alle sammen, men disse "voksne" film fra Hermoine og Harry er ikke rigtige. De er bare dybe forfalskninger.
Disse er reelle problemer. Uanset om det er nogen, der får din kredit score og sælger den til fly-by-night kreditorer (hader du ikke at få dem breve?) eller en filmstjerne i en falsk pornofilm eller en præsidentkandidat, der holder en falsk tale, der har millioner af synspunkter på Facebook. Bare fordi AI kan opdage kræft rigtig godt betyder ikke alt gjort med det vil være gavnligt.
Der skal være en form for tilsyn. Det er indlysende. Det er også indlysende, at virksomheder, der bygger maskinerne eller enkeltpersoner, der skriver software, ikke er i stand til at holde det hele i skak. Men at have "regeringen" som vagthund er sindssyg.
Regeringer er skabt for at tage sig af mennesker, men eksisterer for bedre at tage sig af nogle mennesker. Selv de mest velvillige regeringer i verden er bemandet med mennesker, og mennesker kan ikke stole på, at de altid gør det rigtige. I en perfekt verden fungerer det muligvis, men i den virkelige verden er regeringsembedsmænd bekymrede for at blive genvalgt mere end at rette hullerne på vejene eller ikke starte tredje verdenskrig.
Regeringer skulle være nødt til at bryde loven for at såre mennesker. Lav ikke nye love, der siger, at det er OK at gøre det.
Dette er ikke de mennesker, der skal regulere noget, der potentielt er stærkere end noget andet værktøj (eller våben), verden nogensinde har set. Vil du have Pentagon eller NSA til at have teknologi, der kan køre 24/7 for at holde borgerne under endnu mere overvågning eller for at bestemme, hvem der er en trussel mod vores frihed? Eller et "fjendtligt" land for at have et system på plads, der kan genkende det rigtige tidspunkt til at foretage en første strejke, og hvordan man påberåber sig mest frygt og kaos i dit daglige liv? Og har det hele været i orden under loven, fordi ræven bevogter hønsehuset?
Jeg er blevet mindet om, at ikke alle embedsmænd er onde. E.U. Konkurrencekommissær Margrethe Vestager er et godt eksempel. Det er hendes job at sørge for, at virksomhederne er store og små - inklusive Google, Apple, Amazon, Microsoft, Facebook og Volkswagen - spil retfærdigt og følg E.U. lovgivning, når det kommer til data, ærlighed og privatliv. Og til dato har hun gjort et fremragende stykke arbejde og foretaget værdifulde ændringer.
Volkswagen ville ikke have haft problemer med sandheden i reklamer, hvis det havde hovedkontor i USA
Men ting der sker i EU har ikke altid en så vidtrækkende effekt. Især når det kommer til teknologi, der kan udnyttes. Jeg forventer ikke, at Syrien eller Libyen eller USA tager en velmenende E.U. regulering af AI-teknologi seriøst, når lederne af disse lande ved, hvor magtfulde ikke efter enhver regulering kan være. Dette fører til en verden, hvor magtfulde og afhængigt af dit synspunkt, aggressive nationer har mere magt til at være mere aggressive. Eller lande, der bryder deres egne love og udvikler de samme typer smarte våben som lande uden lignende love vil.