Što trebaš znati
- Ugovorni radnici koji obučavaju Googleovog Barda tvrde da su radni uvjeti frustrirajući i da su upute za zadatke u šest točaka "zamršene".
- Radnici često imaju zadatak provjeriti odgovor unutar tri minute.
- Izvođači su zabrinuti zbog Bardovih netočnosti, međutim, smjernice navode da ne moraju provoditi "rigoroznu provjeru činjenica".
AI softver još uvijek treba stvarne ljude da osiguraju da je na pravom putu. No, takvi se treneri u Googleu navodno suočavaju s nepodnošljivim uvjetima.
Prema Bloomberg, nedavni dokumenti do kojih je došla publikacija sugeriraju da su ljudski treneri za Googleov AI chatbot Bard suočeni sa "zamršenim uputama". Šest tvrtkinih struja izvođači su se javili u vezi s ne baš sjajnim radnim uvjetima, a jedan je rekao: "Kako sada stvari stoje, ljudi su uplašeni, pod stresom, premalo plaćeni, ne znaju što je ići na."
Uz ovo vaganje na njih, radnici su izjavili da često imaju zadatak provjeriti odgovor unutar tri minute. U kontekstu, ovi ugovorni radnici su u biti ocjenjivači: ljudi koji imaju zadatak odrediti relevantnost, autentičnost i koherentnost odgovora
Bard može ponuditi upit na temelju smjernice od šest točaka.Ovi instruktori također moraju osigurati da odgovori ne sadrže ništa uvredljivo ili štetno. S obzirom na tu činjenicu, smjernice navode da treneri "ne moraju provoditi rigoroznu provjeru činjenica." Ovo se može činiti u redu, međutim, treneri su otkrili da je Googleov Bard sklon krivo shvatiti "glavne činjenice" o temi.
Zastrašujuće je da prethodno spomenute smjernice navode da su određene činjenične netočnosti, poput krivog datuma, "manje".
Nadalje, ocjenjivači su spomenuli zadatke kao što je određivanje odgovarajuće doze za osobu koja želi liječiti visoki krvni tlak. Zbog čistog vremenskog ograničenja, radnici su zabrinuti da Bard nudi odgovore koji se čine točnima iako nisu.
U izjavi Google naglašava da su ocjenjivači samo jedan od različitih načina na koje tvrtka testira odgovore na točnost i kvalitetu odgovora:
"Poduzimamo opsežan rad na odgovornoj izradi naših AI proizvoda, uključujući rigorozno testiranje, obuku i procese povratnih informacija koje smo godinama usavršavali kako bismo naglasili činjeničnost i smanjili pristranosti."
Tvrtka dodaje da postoje i druga područja izvan točnosti, poput tona i prezentacije, za koja su se neki zabrinuti radnici možda obučavali.
Google naizgled jurila bezglavo u razvoj vlastitog AI chatbota nakon uspjeha OpenAI-jevog ChatGPT-a za Microsoftovu tražilicu Bing. Ne samo da su ljudski treneri izjavili da rade na pripremi AI-ja od siječnja kako bi ga pripremili za javno objavljivanje, već je bivši Googleov inženjer tvrdio da je Bard trenirao koristeći svog konkurenta, što je moglo dovesti do njegovog brzog oslobađanja.