Chrome løser AI for at blokere scam-meddelelser, før de narrer dig

I korte træk
– Chrome har lanceret et on-device AI-system, der identificerer og markerer mistænkelige notifikationer på Android for at beskytte brugerne mod svindel – før de kan forårsage skade.
– Det nye system udnytter Gemini Nano’s evner til at analysere notifikationsindhold lokalt uden at sende data til Googles servere, hvilket opretholder brugernes privatliv samtidig med at det bekæmper notifikationsbaseret svindel.
– Denne automatiske beskyttelsesfunktion tilføjer sig til Chromes eksisterende sikkerhedsforanstaltninger mod misbrug af notifikationer og kan på sigt udvides til andre platforme ud over Android.
Chrome er ved at rulle et forsvarssystem ud, som fanger svindelagtige notifikationer, før de kan gøre skade. Browserens seneste opdatering til Android-enheder bruger nu on-device machine learning til at identificere og markere mistænkelige notifikationer, der kan forsøge at narre dig til at downloade tvivlsom software eller udlevere personlige oplysninger.
Google bekræftede torsdag, at dets nye notifikationsadvarselssystem er aktivt, hvilket giver Android-brugere et ekstra lag af sikkerhed mod en stadig mere almindelig form for mobil svindel.
“Når en notifikation bliver markeret af Chrome, vil du se navnet på hjemmesiden, som sender notifikationen, en advarsel om, at indholdet af notifikationen er potentielt vildledende eller spamagtigt, og muligheden for enten at afmelde dig fra hjemmesiden eller se det markerede indhold,” sagde Chromium-teamet i en blogindlæg, hvor de annoncerede funktionen.
Notifikationsbaserede svindelnumre er blevet den digitale pendant til de irriterende popup-vinduer, der plagede tidligere versioner af internettet – bare sværere at spotte. Disse nye skadedyr kan endda følge efter dig, selv efter du har forladt en hjemmeside, hvilket er grunden til, at AI på din enhed fungerer bedre end serverbaseret AI, ifølge Googles vurdering.
“Ved at udnytte LLM’er on-device kan vi se trusler, når brugerne ser dem. Vi har fundet ud af, at den gennemsnitlige ondsindede side kun eksisterer i mindre end 10 minutter, så on-device protection giver os mulighed for at opdage og blokere angreb, som ikke tidligere er blevet crawlet.” Google sagde i et separat blogindlæg. “Den on-device tilgang giver os også mulighed for at se trusler, på samme måde som brugerne ser dem.”
I stedet for at sende dine notifikationsdata til Googles servere til analyse, udnytter Chrome Gemini Nano’s multimodale evner til at differentiere gode fra dårlige notifikationer. Machine learning-modellen undersøger teksten i hver notifikation – inklusive dens titel, indhold af brødtekst og eventuelle handlingstaster – og træffer derefter en beslutning om, hvorvidt den ser mistænkelig ud.
Det betyder også, at Google ikke har adgang til dine notifikationer, da de forbliver krypteret og aldrig forlader din telefon. Google hævder, at de har taget ekstra forholdsregler med træningsdataene ved at bruge syntetiske oplysninger genereret af deres Gemini large language model i stedet for faktiske bruger notifikationer. Virksomheden validerede derefter træningsdataene mod virkelige notifikationer, som deres sikkerhedsteam havde samlet og fået menneskelige eksperter til at klassificere.
Systemet tilføjer sig til Chromes voksende arsenal mod misbrug af notifikationer. Browseren tilbagekalder allerede notifikationstilladelser fra hjemmesider, som Google Safe Browsing identificerer som misbrugende, og tilbyder enkelt afmelding for enhver notifikation på Android, uanset om den er blevet markeret eller ej.
For nuværende er funktionen kun tilgængelig på Android, da det er der, hvor det meste af notifikationsspam forekommer, men Google antydede en mulig udvidelse: “Vi vil evaluere at udvide til andre platforme i fremtiden,” bemærkede virksomheden.
Det bedste ved denne nye beskyttelse er, at den er helt automatisk, modsat andre alternativer, hvor brugerne typisk skal håndtere filtre, undtagelser og andre konfigurationer, og opdatere dem, når svindelnumrene bliver mere sofistikerede. Hvis Chrome opdager noget mistænkeligt, vil du vide det, før svindlerne kan foretage deres træk.
Med notifikationssvindel, der bliver mere sofistikeret, tilbyder denne machine learning-tilgang en smartere måde at opdage tricksene på, som statiske bloklistelister måske overser. Forhåbentlig vil Apple følge efter.