Kunstig intelligens er et ofte misforstått begrep. Det høres ut som å hevde at maskiner - enten det er roboter eller vaskemaskinen din - er følsomme og i stand til å tenke selv, men det er egentlig ikke tilfelle. Maskinlæring (en annen feilbetegnelse i seg selv) er et verktøy der programmerere kan sette opp programvaren for å gjenkjenne en mønster, som en form eller en farge eller en bestemt setning - så be om at en handling skal skje hvis den "ser" det mønsteret en gang til.
Maskiner er ikke smarte. De er bare programmert til å gjenkjenne mønstre.
Et godt eksempel var hvordan en NVIDIA-ingeniør "lærte" en av sine AI-maskiner ved å mate den bilder av katter. Alle slags katter i alle slags forskjellige situasjoner. Til slutt klarte maskinen å gjenkjenne en katt på et hvilket som helst bilde eller til og med en live feed. Det trengte ikke mer programmering for å finne en katt, uansett situasjon fordi den "lærte" hvordan en katt var og hvordan den så ut.
Verizon tilbyr Pixel 4a for bare $ 10 / mo på nye ubegrensede linjer
Vi har gått langt utover katter, og som Googles administrerende direktør Sundar Pichai nevner i sitt Financial Times redaksjonell ved at Google kan forutsi været i India bedre enn en meteorolog, og noen selskaper eller grupper av mennesker har trent maskiner til å gjøre ting når et ansikt blir gjenkjent.
Identifisere en person i en Facebook bilde, for eksempel, kan tillate at en maskin får navn, adresse, telefonnummer, finansiell informasjon og en e-postadresse. Hvis det er en kjent person, kan den sannsynligvis finne enda mer informasjon, inkludert ting som man helst ikke vil bli offentliggjort.
Du trenger ikke terminatorer for å gjøre dårlige ting med AI.
Dette er dårlig. Kanskje det ikke er det samme dårlige som en Terminator som beveger seg gjennom tiden som vi ser i fiktive filmer, men fortsatt gjør det du vil du at noen skal finne ut ting om deg fordi vennen din la ut et bilde med ansiktet ditt på sosiale medier?
Og det er ikke det verste av det. AI som har lært nøyaktig hvordan en person ser ut og høres ut, kan skape et elektronisk duplikat (kalt deep fake) på et bilde eller en video. Se for deg en 90 sekunders video av statsoverhodet i en slags kompromissløs stilling eller si noe off-color, men det er 100% falskt og datamaskingenerert, og du kunne ikke fortelle at det ikke var ekte.
Beklager alle sammen, men de "voksne" filmene fra Hermoine og Harry er ikke ekte. De er bare dype forfalskninger.
Dette er reelle problemer. Enten det er noen som får kredittpoengene dine og selger den til fly-by-night-kreditorer (hater ikke du å få dem? brev?) eller en filmstjerne i en falsk pornofilm eller en presidentkandidat som holder en falsk tale som har millioner av synspunkter på Facebook. Bare fordi AI kan oppdage kreft veldig bra betyr ikke at alt gjort med det vil være gunstig.
Det må være en slags tilsyn. Det er åpenbart. Det er også åpenbart at selskapene som bygger maskiner eller enkeltpersoner som skriver programvare ikke er i stand til å holde alt i sjakk. Men å ha "regjeringen" som vakthund er gal.
Regjeringer er skapt for å ta vare på mennesker, men eksisterer for å ta bedre vare på noen mennesker. Selv de mest velvillige regjeringene i verden er bemannet av mennesker, og mennesker kan ikke stole på at de alltid gjør det rette. I en perfekt verden kan det fungere, men i den virkelige verden er myndighetspersoner bekymret for å bli gjenvalgt mer enn å fikse hullene i veiene eller ikke starte tredje verdenskrig.
Regjeringer burde måtte bryte loven for å skade mennesker. Ikke lag nye lover som sier at det er OK å gjøre det.
Dette er ikke menneskene som burde regulere noe som potensielt er kraftigere enn noe annet verktøy (eller våpen) verden noensinne har sett. Vil du at Pentagon eller NSA skal ha teknologi som kan kjøre 24/7 for å holde innbyggerne under enda mer overvåking eller for å avgjøre hvem som er en trussel mot vår frihet? Eller et "fiendeland" som har et system på plass som kan gjenkjenne riktig tidspunkt for en første streik og hvordan man kan påkalle mest frykt og kaos i ditt daglige liv? Og har alt vært i orden under loven fordi reven vokter hønsehuset?
Jeg har blitt påminnet om at ikke alle myndigheter er onde. E.U. Konkurransekommisjonær Margrethe Vestager er et godt eksempel. Det er hennes jobb å sørge for at store og små bedrifter - inkludert Google, Apple, Amazon, Microsoft, Facebook og Volkswagen - spill rettferdig og følg E.U. lov når det gjelder data, ærlighet og personvern. Og til dags dato har hun gjort en utmerket jobb og gjort verdifulle endringer.
Volkswagen ville ikke hatt noen problemer med sannheten i reklame hvis det hadde hovedkontor i USA.
Men ting som skjer i E.U. ikke alltid ha en så vidtrekkende effekt. Spesielt når det gjelder teknologi som kan brukes. Jeg forventer ikke at Syria eller Libya eller USA tar en velmenende EU. regulering om AI-teknologi seriøst når hodene til disse landene vet hvor kraftig ikke følge enhver regulering kan være. Dette fører til en verden der mektige og, avhengig av ditt synspunkt, aggressive nasjoner har mer makt til å være mer aggressive. Eller land som bryter sine egne lover og utvikler de samme typene smarte våpen som land uten lignende lover.