Over de hele wereld gebruiken talloze gedegenereerden AI om oplichting te creëren die gericht is op last-minute kerstinkopers. Hoewel dat jammer is, heeft Google goed nieuws voor ons. Volgens het bedrijf heeft Google een aantal AI-modellen in Gmail gebruikt om talloze oplichting te helpen blokkeren.
Kerstmis staat voor de deur, en dit betekent dat last-minute shoppers massaal naar e-shops op internet stromen. Dit betekent dat Kerstmis vroeg komt voor oplichters. Ze kunnen gemakkelijk profiteren van wanhopige shoppers die proberen cadeautjes binnen te krijgen vóór de grote dag. Oplichters hebben AI gebruikt om de massa op te lichten, maar rond de feestdagen wordt het nog veel erger.
Gelukkig gebruikt Google AI-modellen om oplichting via Gmail te stoppen
Veel oplichting vindt plaats via e-mail. Oplichters vermommen zich als echte retailers zoals Amazon of Best Buy en sturen neppromoties naar nietsvermoedende mensen. Deze e-mails bevatten links naar kwaadaardige sites die gevoelige gegevens van gebruikers stelen. Dat is slechts één type van de vele oplichting die er zijn.
Google heeft drie andere soorten oplichting uitgelegd die deze feestdagen opduiken. Er is sprake van oplichting met facturen wanneer mensen valse facturen naar de slachtoffers sturen en hen onder druk zetten om de afzender te betalen.
Vervolgens is er sprake van oplichting met beroemdheden wanneer oplichters contact opnemen met slachtoffers die zich voordoen als een beroemdheid of beweren hen een goedkeuring van een beroemdheid te geven. Hiermee kan het slachtoffer vrijwel alles doen voor de ‘beroemdheid’.
De derde is de engste. De oplichter stuurt het slachtoffer informatie zoals zijn huisadres of een foto van zijn huis. Ze zullen dan dreigen met fysiek geweld als ze hen geen geld geven.
Google voor de overwinning
Google zei dat de AI-modellen die het in Gmail gebruikt het aantal oplichting via e-mail met 35% hebben verminderd vergeleken met vorig jaar rond deze tijd. Het bedrijf kon voorkomen dat miljoenen e-mails bij mensen terechtkwamen, en dit resulteerde hoogstwaarschijnlijk in een besparing van miljoenen dollars.
Er was één LLM die getraind was in phishing-fraude en die 20% meer oplichting blokkeerde. Bovendien kan het elke dag 1000x meer door gebruikers gerapporteerde oplichting scannen.
