Co potřebuješ vědět
- Smluvní pracovníci školící Bard z Googlu tvrdí, že pracovní podmínky jsou frustrující a pokyny k šestibodovým úkolům jsou „spletité“.
- Pracovníci mají často za úkol zkontrolovat odpověď do tří minut.
- Dodavatelé jsou znepokojeni Bardovými nepřesnostmi, nicméně pokyny uvádějí, že nemusí provádět „přísnou kontrolu faktů“.
Software AI stále potřebuje skutečné lidi, aby zajistili, že je na správné cestě. Takoví trenéři ale údajně čelí v Googlu neúnosným podmínkám.
Podle BloombergNedávné dokumenty získané touto publikací naznačují, že trenéři lidí pro chatbota Barda s umělou inteligencí Google se setkali se „spletitými instrukcemi“. Šest současných společností dodavatelé přišli o nepříliš hvězdných pracovních podmínkách, přičemž jeden z nich řekl: „Za současného stavu jsou lidé vyděšení, stresovaní, nedostatečně placeni, nevědí, co je děje."
S tímto vážením pracovníci uvedli, že mají často za úkol zkontrolovat odpověď do tří minut. Pro kontext jsou tito smluvní pracovníci v podstatě hodnotitelé: lidé, kteří mají za úkol určit relevanci, autenticitu a koherenci odpovědi.
Bard může nabídnout dotaz na základě šestibodové směrnice.Tito školitelé jsou také povinni zajistit, aby odpovědi neobsahovaly nic urážlivého nebo škodlivého. Vzhledem k této skutečnosti, pokyny státní školitelé „nemusí provádět přísnou kontrolu faktů“. To se může zdát v pořádku, ale školitelé zjistili, že Bard společnosti Google je náchylný k tomu, aby se „hlavní fakta“ o tématu mýlila.
Je do očí bijící, že dříve zmíněné pokyny uvádějí, že určité faktické nepřesnosti, jako je chybné uvedení data, jsou „drobné“.
Hodnotitelé navíc zmínili úkoly, jako je stanovení vhodné dávky pro člověka, který se snaží léčit vysoký krevní tlak. Kvůli pouhému časovému omezení se dělníci obávají, že Bard nabízí odpovědi, které se zdají být správné, když nejsou.
Google ve svém prohlášení zdůrazňuje, že hodnotitelé jsou jen jedním z různých způsobů, jak společnost testuje odpovědi na přesnost a kvalitu odpovědí:
„Podnikáme rozsáhlou práci, abychom naše produkty AI vytvářeli odpovědně, včetně přísného testování, školení a procesů zpětné vazby, které jsme léta zdokonalovali, abychom zdůraznili faktičnost a snížili předsudky.“
Společnost dodává, že existují další oblasti mimo přesnost, jako je tón a prezentace, pro které se někteří dotčení pracovníci mohli školit.
Google zdánlivě spěchal bezhlavě do vývoje vlastního chatbota AI po úspěchu ChatGPT od OpenAI pro vyhledávač Bing společnosti Microsoft. Lidští trenéři nejen uvedli, že od ledna pracovali na přípravě umělé inteligence, aby byla připravena na veřejné vydání, ale bývalý inženýr Google tvrdil, že Bard byl trénoval pomocí svého konkurenta, což mohlo vést k jeho rychlému uvolnění.