Google test een nieuwe AI-tool genaamd Genesis, ontworpen om journalisten te helpen bij het schrijven van nieuwsartikelen. Een artikel in de New York Times zegt dat de tool nieuwsartikelen kan bevatten. Degenen die dicht bij het onderwerp stonden, vertelden de publicatie dat Genesis "informatie zou opnemen - details van actuele gebeurtenissen, bijvoorbeeld - en nieuwsinhoud zou genereren" en zou optreden als een persoonlijke assistent.
Sommige mensen die de tool zogenaamd in actie hebben gezien, hebben het als verontrustend beschreven, omdat het lijkt alsof het werk dat mensen in het schrijven van nieuwsartikelen steken, als vanzelfsprekend wordt beschouwd.
Ik heb het niet in actie gezien, maar ik weet dat het veel werk zal vergen voordat je iets kunt vertrouwen dat door AI is geschreven.
Android en chillen
Een van de langstlopende technische columns op het web, Android en chillen is je zaterdagbespreking van Android, Google en alles wat met technologie te maken heeft.
Google probeert gerust te stellen en een officiële woordvoerder van het bedrijf zegt: "In samenwerking met nieuwsuitgevers, met name kleinere uitgevers, we bevinden ons in de eerste stadia van het verkennen van ideeën om mogelijk AI-ondersteunde tools te bieden om hun journalisten te helpen met hun werk. Simpel gezegd, deze tools zijn niet bedoeld om, en kunnen niet, de essentiële rol te vervangen die journalisten spelen bij het rapporteren, creëren en factchecken van hun artikelen."
Maar die boodschap zal vrijwel onmiddellijk verloren gaan zodra deze tools direct beschikbaar zijn, en een internet dat al vol staat met valse informatie, al dan niet opzettelijk, zal onmiddellijk erger worden.
Ik heb bij elke beurt hetzelfde geschreven over hoe AI nog niet klaar is omdat het nog niet betrouwbaar is. Met het risico te klinken als een kapotte plaat, doe ik het hier opnieuw.
Het is omdat ik wil dat een op AI gebaseerde toekomst slaagt, niet omdat ik een hekel heb aan het idee dat een computeralgoritme mijn baan steelt - het kan het hebben, en ik zal mijn dagen doorbrengen vliegvissen over de hele wereld zoals Les Claypool.
Wil AI succesvol zijn, dan moet het ergens goed in zijn. Als mensen het proberen om dingen te doen waar het niet klaar voor is, zal de onvermijdelijke mislukking het idee van een toekomst bezoedelen waarin de technologie echt nuttig is. Als het internet me iets heeft geleerd, gaan mensen voor de kortere weg en doen ze zo snel mogelijk schoenlepels.
Afgezien van spectaculaire mislukkingen, is er plaats voor AI in zijn huidige vorm in een redactiekamer. AI kan de tekst van een nieuw artikel nemen en nuttige suggesties voor een titel geven of als hulpmiddel voor spellingcontrole en grammaticacontrole fungeren, zoals Grammarly doet. Ja, dat is AI aan het werk. Het kan ook helpen bij het maken en bewerken van media, en iedereen die de nieuwe AI-tools in Adobe Photoshop heeft gebruikt, zal je vertellen dat ze geweldig zijn.
Wat AI in zijn huidige vorm niet kan, is een artikel schrijven dat feitelijk correct is, de bronnen vermeldt en niet klinkt als een robot. Google weet dit, maar het weet ook hoe vaak het ons waarschuwt voor de tekortkomingen van AI, sommige mensen zullen het toch doen.
Je denkt misschien, hoe lossen we dit op? Het antwoord zal niet populair zijn, maar het is heel eenvoudig: door te wachten. Google wacht. De New York Times wacht. Android Central wacht. Je kunt niet met je vingers knippen en de technologie vooruit helpen, dat kost tijd en veel hard werk door heel slimme mensen.
Ik kan niet spreken voor de New York Times of voor Google, maar ik kan beloven dat elk artikel dat je leest op Android Central is geschreven, bewerkt en gepubliceerd door een overwerkte mens, zelfs als we een op AI gebaseerde tool gebruikten als een helper.
Het is te moeilijk om het anders te doen. Als ik AI een prompt zou geven om een nieuwsartikel te schrijven, zou ik meer tijd besteden aan het controleren en bewerken van feiten dan aan het schrijven ervan. Dat komt door de manier waarop AI wordt getraind.
Het zou onmogelijk zijn om een AI met de hand te trainen met echte mensen. Om bruikbaar te zijn, moet het bijna alles "weten" wat er te weten valt. Dat wordt opgelost door het los te laten op internet en te proberen fouten op te vangen zodra ze zich voordoen - een verliezende strategie vanwege de manier waarop internet werkt.
Bijna iedereen mee een telefoon toegang heeft tot internet. Er zijn duizenden plaatsen waar jij of ik kunnen schrijven en publiceren wat we maar willen terwijl we beweren dat het waar is. We weten misschien dat Hillary Clinton geen kinderen in kooien onder een pizzeria houdt zodat ze hun bloed kan verzamelen of dat een vaccin geen magnetische microchips bevat. Beide dingen worden keer op keer als waar herhaald op internet, klaar voor een AI om te lezen en te beslissen dat het een feit is.
De aarde is rond en ik heb de Daytona 500 niet gewonnen.
Deze zijn spraakmakend, dus ze kunnen gemakkelijk worden opgevangen en gecorrigeerd door een mens, zodat ChatGPT of Google Bard het niet als feit herhalen. Hetzelfde geldt voor zaken als een neppe maanlanding of een platte aarde. Maar kleinere leugens of excentrieke theorieën zullen door de kieren glippen omdat geen mens ernaar op zoek is. Als iedereen die dit leest zegt "Jerry Hildenbrand won de Daytona 500 in 1999,"iemand zal het geloven. AI is die iemand.
Op een dag zal AI klaar zijn om online artikelen te schrijven en te bewerken, en mensen zoals ik kunnen met pensioen gaan en de rest van onze dagen vliegvissen. Niet vandaag, en niet morgen.
Het is prima voor Google om aan tools zoals Genesis te werken - ze moeten aan alles werken als het beter gaat worden. Google moet zich ook realiseren dat een waarschuwing over hoe de tool niet moet worden gebruikt niet voldoende is als het van plan is het direct beschikbaar te maken voordat het het probleem oplost.