BingGPT je tak špatný, jak jsem si myslel, že bude

Microsoft nedávno otevřel své vyhledávání Bing vylepšené ChatGPT mnoha lidem a ukazuje se, jak špatné to je. Neměli bychom být překvapeni, protože tento druh umělé inteligence je z 90 % novinkou, ale my jsme, protože byla medializována jako další příchod technologické svatosti.

To není. Není to ani chyba Microsoftu – Google na tom bude stejně — prostě technika k tomu není navržena a pokud ano, není ani zdaleka připravena. Jedinými lidmi touží po dalších tohoto druhu integrace AI pomocí současných technologií jsou lidé, kteří ve skutečnosti nechápou její omezení.

Dokonce i generální ředitel OpenAI Sam Altman říká, že „lidé prosí, aby byli zklamáni a budou"Pokud jde o ChatGPT (OpenAI je společnost, která vytvořila software ChatGPT). Na tom nezáleželo, protože lidé viděli, jak se tím všichni baví, a zároveň tvrdili, že ano zbavit lidi práce nebo změnit školu na snadný režim, protože dokáže napsat všechny papíry studentů. Společnosti prostě musely nastoupit do humbuku a pokusit se inkasovat, následky budou zatraceny.

Ptáte se, co je tedy na BingGPT špatného? Spousta. To se nebojí odhodit rasové nadávky. Dostalo se to každá skutečnost je špatná ve své skriptované demonstraci, když to Microsoft oznámil. Když se zeptáte, bude Řeknu vám, že Eagles vyhráli Super Bowl den před tím, než se hrálo. Ale především napodobuje chování, na které byl vycvičen: lidé píšou věci na internetu.

Příklad:

To není hoax, ani to není mnoho dalších příkladů že BingGPT je stejně hloupý. Jednoduše si musíte uvědomit, proč to dělá, co dělá a všechno to dává smysl.

ChatGPT a většina ostatních LLM (Large Language Models) se školí „čtením“ internetu. Obrovská digitální knihovna textu je ideální pro výcvik AI, aby hledala odpovědi a snažila se znít jako člověk, když vám je znovu vyvrátí.

Ale není to osoba a nemá žádný smysl pro správné a špatné, pokud jde o odpověď. To znamená, že nemá žádný způsob, jak zjistit, zda jsou prezentované informace pravdivé, a svou „osobnost“ zakládá na uživatelích internetu.

To první bude těžké opravit. I když tomu říkáme umělá inteligence, rozhodně není inteligentní. Je jako papoušek a může jen opakovat to, co mu bylo řečeno. Druhý je nemožné opravit, aniž byste našli nový způsob, jak trénovat AI – může se chovat jako Reddit troll, protože se naučil od Reddit trollů.

Umělá inteligence je naprogramována tak, aby reagovala pomocí výrazů jako asertivní, autoritativní, laskavý atd. Jsou ukázány příklady, jak každá z těchto věcí vypadá. Výsledek je jako někdy se hádat se závislým, protože se naučil, jak se hádat jako závislý. Není to zlé, hloupé nebo dokonce odporné. Dělá jen to, k čemu byl naprogramován: být prediktivní a používat příklady ze své databáze jako prostředek, jak znít jako člověk.

Právě teď je to dobré pro zasmání a nic jiného, ​​pokud se nesnažíte vydělat na griftu svým placeným kurzem „ChatGPT jako profík.“ Microsoft (a Google) to nikdy neměly prezentovat jako nic jiného než úhlednou hračku. Ale oba to udělali a nyní očekáváme, že to bude spolehlivé a směrodatné, pokud jde o vyhledávání, aniž by to znělo jako odpovědi Twitteru, se kterými byl trénován.

Budoucí generace LLM se zdokonalí ve vykořeňování nesmyslů a možná se také lépe hodí k tomu, aby se stali našimi vyhledávací robot/nejlepší přítel, ale bude to vyžadovat zásadní průlom v AI – nic založeného na současných metodách nikdy nebude dostatečně dobrý. Mezitím si nezapomeňte užít havárii vlaku a nebrat nic z toho příliš vážně, pokud a až přijede tvůj telefon.