Googleov Pandu Nayak otvorio je svoj blog ovog tjedna najaviti ono što on kaže je "najveći skok naprijed [u potrazi] u posljednjih pet godina i jedan od najvećih skoči naprijed u povijesti pretraživanja. "Ažuriranje je povezano s načinom na koji Google pretraživanje obrađuje vaš upiti.
Nayak ukazuje na to da ljudi pretražuju na Googleu ono što on naziva "ključnim riječima" zbog nemogućnosti tražilice da razumije prirodni jezik koji koristi upotrebu kvalifikacije poput "od" i "do". Zapravo, način na koji pretraga trenutno funkcionira, usluga u osnovi ignorira takve pojmove i nastoji se usredotočiti isključivo na ključne riječi koje dobiva iz vašeg upit.
To će se uskoro promijeniti - barem za upite na engleskom u SAD-u, s više jezika i jezika koji će uslijediti kasnije. Kombinirajući najnoviji napredak u neuronskim mrežama za obradu prirodnog jezika i specijalizirani hardver, Google tvrdi da sada može puno bolje razumjeti kontekst svake riječi u upitu u odnosu na cijelu pretragu fraza. U konačnici, to znači da napokon može početi shvaćati značaj osnovnih kvalifikatora poput "do" i "od" u rečenici, umjesto da ih u potpunosti ignorira.
Verizon nudi Pixel 4a za samo 10 USD mjesečno na novim Neograničenim linijama
Sve je to moguće zahvaljujući BERT-u - ne, ne geologu iz Teorija velikog praska Thie već dvosmjerni prikazi kodera iz transformatora - što je Googleova tehnika za osposobljavanje neuronskih mreža za razumijevanje riječi u odnosu na cijelu frazu. Prije su algoritmi pretraživačkog giganta imali tendenciju da egzegetiraju pojmove za pretraživanje na uglavnom linearan način, razumijevajući samo jednu riječ u odnosu na one pokraj nje.
S hardverske strane Google također omogućava upotrebu TPU-ova u oblaku - u osnovi, čipova napravljenih isključivo u svrhu treninga AI na neuronskim mrežama - za upite za pretraživanje po prvi puta kako bi se bolje riješile sve algoritamske složenosti BERT kuha gore.