BingGPT är så dåligt som jag trodde att det skulle vara

Microsoft öppnade sin ChatGPT-förbättrade Bing-sökning för ett gäng människor nyligen och det har visat sig visa hur illa det är. Vi borde inte bli förvånade eftersom den här typen av AI är 90 % nyhet, men det är vi för att det hypades som nästa kommande av teknisk helighet.

Det är inte. Det är inte heller Microsofts fel — Googles kommer att vara på samma sätt — Det är bara det att tekniken inte är designad för att göra det här och om det vore så är det inte ens i närheten av att vara redo. De enda människorna längtar efter mer av denna typ av AI-integration med den nuvarande tekniken är de människor som inte riktigt förstår dess begränsningar.

Till och med OpenAIs vd Sam Altman säger att "folk ber om att bli besvikna och det kommer de att bli" när det kommer till ChatGPT (OpenAI är företaget som byggde ChatGPT-mjukvaran). Det spelade ingen roll eftersom folk såg att alla hade roligt med det samtidigt som de hävdade att det skulle göra det sätta folk utan jobb eller förvandla skolgång till enkelt läge eftersom det kan skriva alla papper för studenter. Företagen var bara tvungna att gå ombord på hypetåget och försöka tjäna pengar, konsekvenserna var förbannade.

Så vad är det för fel på BingGPT undrar du? Massor. Det är inte rädd att kasta ut rasistiska förtal. Det fick varje faktum är fel i sin skriptade demonstration när Microsoft tillkännagav det. Om du frågar så gör det det berätta att Eagles vann Super Bowl dagen innan den spelades. Men mest av allt efterliknar den beteendet den tränades på: människor som skriver saker på internet.

Typexempel:

Det är ingen bluff, inte heller många andra exempel att BingGPT är lika dumt. Du måste helt enkelt inse varför den gör vad den gör och allt är vettigt.

ChatGPT och de flesta andra LLM (Large Language Models) tränas genom att "läsa" internet. Ett gigantiskt digitalt-baserat textbibliotek är perfekt för att träna en AI att leta efter svar och försöka låta som en person när det väcker dem för dig.

Men det är inte en person och har ingen känsla för rätt kontra fel när det kommer till att svara dig. Det betyder att den inte har något sätt att veta om informationen som presenteras är saklig, och den baserar sin "personlighet" på internetanvändare.

Det första kommer att bli svårt att fixa. Även om vi kallar det artificiell intelligens är det definitivt inte intelligent. Den är som en papegoja och kan bara upprepa de saker som den blev tillsagd. Det andra är omöjligt att fixa utan att hitta ett nytt sätt att träna AI - det kan agera som ett Reddit-troll eftersom det lärt sig av Reddit-troll.

AI: n är programmerad att svara med termer som självsäker, auktoritativ, snäll, etc. Det visas exempel på hur var och en av dessa saker ser ut. Resultatet är som att argumentera med en missbrukare ibland eftersom den lärde sig att argumentera som en missbrukare gör. Det är inte ont eller dumt eller ens otäckt. Den gör bara vad den var programmerad att göra: vara förutsägbar och använda exempel från sin databas som ett sätt att låta som en människa.

Just nu är det bra för ett skratt och lite annat såvida du inte försöker tjäna pengar på mödan med din betalda kurs till "Chatta GPT som ett proffs." Microsoft (och Google) borde aldrig ha presenterat det som något annat än en snygg leksak. Men båda gjorde det och nu har vi en förväntning om att den ska vara tillförlitlig och auktoritativ när det gäller att söka utan att låta som Twitter-svaren den tränades med.

Framtida generationer av LLM: er kommer att bli bättre på att utrota nonsens och kanske kommer de också att vara bättre lämpade för att bli vår sök-bot/bästa vän men det kommer att kräva ett stort genombrott inom AI — allt baserat på de nuvarande metoderna kommer aldrig att bli tillräckligt bra. Under tiden, kom ihåg att njuta av tågvraket och inte ta något av det på för stort allvar om och när det anländer din telefon.