BingGPT je taký zlý, ako som si myslel, že bude

Spoločnosť Microsoft nedávno otvorila svoje vyhľadávanie Bing vylepšené ChatGPT mnohým ľuďom a ukazuje sa, aké zlé to je. Nemali by sme byť prekvapení, pretože tento druh AI je z 90 % novinkou, ale sme preto, že bol medializovaný ako ďalší príchod technologickej svätosti.

nie je. Nie je to ani chyba Microsoftu – Google bude rovnaký — je to tak, že technológia nie je navrhnutá na to, a ak by bola, nie je ani zďaleka pripravená. Jediný ľudia túži po ďalších tohto druhu integrácie AI pomocou súčasnej technológie sú ľudia, ktorí v skutočnosti nerozumejú jej obmedzeniam.

Dokonca aj generálny riaditeľ OpenAI Sam Altman hovorí, že „ľudia prosia, aby boli sklamaní a budú"Pokiaľ ide o ChatGPT (OpenAI je spoločnosť, ktorá vytvorila softvér ChatGPT). Na tom nezáležalo, pretože ľudia videli, ako sa na tom všetci bavia, a zároveň tvrdili, že to tak bude zbaviť ľudí práce alebo zmeniť školstvo na jednoduchý režim, pretože dokáže napísať všetky papiere študentov. Spoločnosti jednoducho museli nastúpiť do hype vlaku a pokúsiť sa zarobiť, následky budú prekliate.

Pýtate sa, čo je na BingGPT zlé? Veľa. To sa nebojí zahodiť rasové nadávky. To má každá skutočnosť je nesprávna vo svojej naskriptovanej demonštrácii, keď to spoločnosť Microsoft oznámila. Ak sa spýtate, bude poviem vám, že Eagles vyhrali Super Bowl deň predtým, ako sa hralo. Predovšetkým však napodobňuje správanie, na ktoré bol trénovaný: ľudia píšuci veci na internete.

Príklad:

To nie je hoax, ani nie mnoho ďalších príkladov že BingGPT je rovnako hlúpy. Musíte si jednoducho uvedomiť, prečo to robí, a všetko to dáva zmysel.

ChatGPT a väčšina ostatných LLM (Large Language Models) sa trénuje „čítaním“ internetu. Obrovská digitálna knižnica textu je ideálna na trénovanie umelej inteligencie, aby hľadala odpovede a snažila sa znieť ako človek, keď vám ich vyvracia.

Ale nie je to osoba a nemá zmysel pre správne a nesprávne, pokiaľ ide o odpoveď. To znamená, že nemá žiadny spôsob, ako zistiť, či sú prezentované informácie pravdivé, a svoju „osobnosť“ zakladá na používateľoch internetu.

To prvé bude ťažké opraviť. Aj keď to nazývame umelá inteligencia, rozhodne to nie je inteligentné. Je ako papagáj a dokáže len zopakovať to, čo mu bolo povedané. Druhý je nemožné opraviť bez nájdenia nového spôsobu trénovania AI – môže sa správať ako Reddit troll, pretože sa naučil od Reddit trollov.

AI je naprogramovaná tak, aby reagovala pomocou výrazov ako asertívny, autoritatívny, láskavý atď. Uvádza príklady toho, ako každá z týchto vecí vyzerá. Výsledok je ako keby ste sa niekedy hádali so závislým, pretože sa naučil hádať ako závislý. Nie je to zlé ani hlúpe, ba dokonca ani škaredé. Robí len to, na čo bol naprogramovaný: byť predvídavý a používať príklady zo svojej databázy ako prostriedok, ako znieť ako človek.

Práve teraz je to dobré na zasmiatie a nič iné, pokiaľ sa nepokúšate zarobiť na grotech pomocou svojho plateného kurzu „ChatGPT ako profík.“ Microsoft (a Google) to nikdy nemali prezentovať ako niečo iné ako úhľadnú hračku. Ale obaja to urobili a teraz očakávame, že to bude spoľahlivé a smerodajné, pokiaľ ide o vyhľadávanie bez toho, aby to znelo ako odpovede Twitteru, s ktorými bol trénovaný.

Budúce generácie LLM sa zdokonalia vo vykorenení nezmyslov a možno sa budú lepšie hodiť na to, aby sa stali našimi vyhľadávací robot/ najlepší priateľ, ale bude si to vyžadovať veľký prelom v AI – čokoľvek založené na súčasných metódach nikdy nebude dosť dobré. Medzitým si nezabudnite užiť haváriu vlaku a nebrať nič z toho príliš vážne, ak a keď príde tvoj telefón.