Hva du trenger å vite
- Google har avslørt et massivt forsøk fra svindlere i fjor på å sende inn støtende redigeringer rettet mot legitime Google-bedriftsprofiler.
- Mer enn 100 millioner av disse endringene ble blokkert, og mer enn 7 millioner falske forretningsprofiler ble fjernet.
- For å kontrollere fornærmende oppførsel på plattformen brukte selskapet en kombinasjon av AI-modeller og menneskelige operatører.
Fornærmende atferd har blitt utbredt på nettet, noe som gjør informasjonen du finner på en hvilken som helst nettplattform gjenstand for gransking. Dette inkluderer anmeldelser på Google Kart, selv om søkegiganten heldigvis klarte det holde informasjon om tjenesten nøyaktig og relevant, hjulpet på ingen måte av maskinlæring.
Google avslørt at den hadde blokkert mer enn 100 millioner støtende redigeringer som var målrettet mot Google Business Profiler i fjor. Selskapet sa at det brukte "maskinlæringsmodeller som forbedret vår evne til å fange botaktivitet og avdekke mistenkelige aktivitetsmønstre."
Det Mountain View-baserte selskapet fjernet også mer enn 7 millioner falske forretningsprofiler. En stor del av disse fjerningene ble kreditert kunstig intelligens, mens mer enn 630 000 var basert på brukerrapporter.
I tillegg blokkerte Google mer enn 12 millioner forsøk på å lage falske profiler og nesten 8 millioner falske forsøk på å gjøre krav på en bedriftsprofil. Mer enn 1 million kontoer ble også deaktivert for brudd på Googles retningslinjer mot hærverk eller svindel på nettet.
På toppen av fornærmende aktiviteter, så Google Maps også en økning i forsøk på å bruke falske anmeldelser for å skade lokale bedrifter. Google sa at det "blokkerte eller fjernet mer enn 95 millioner anmeldelser som krenket retningslinjer, hvorav over 60 000 ble fjernet på grunn av covid-relaterte tilfeller."
ML-modellene hjalp også til med å ta ned mer enn 190 millioner bilder og 5 millioner videoer som var av lav kvalitet eller brøt med innholdsretningslinjene.
Googles siste avsløring gjør det klart at AI spiller en stadig viktigere rolle for å begrense spredningen av lyssky aktiviteter på internett.