Deepfake -verdediging in het tijdperk van AI

Het landschap van cybersecurity is dramatisch hervormd door de komst van generatieve AI. Aanvallers maken nu gebruik van grote taalmodellen (LLMS) om zich voor te doen als vertrouwde personen en deze social engineering -tactieken op schaal te automatiseren.

Laten we de status van deze stijgende aanvallen bekijken, wat hen voedt en hoe ze daadwerkelijk kunnen voorkomen, niet detecteren, hen.

De krachtigste persoon op de oproep is misschien niet echt

Recente rapporten van de dreigingsinformatie benadrukken de groeiende verfijning en prevalentie van AI-aangedreven aanvallen:

In dit nieuwe tijdperk kan vertrouwen niet worden aangenomen of alleen worden gedetecteerd. Het moet deterministisch en in realtime worden bewezen.

Waarom het probleem groeit

Drie trends komen samen om AI -imitatie de volgende grote dreigingsvector te maken:

  1. AI maakt bedrog goedkoop en schaalbaar: Met open-source stem- en videotools kunnen dreigingsacteurs zich voordoen als iedereen met slechts een paar minuten referentiemateriaal.
  2. Virtuele samenwerking legt vertrouwenslocaties bloot: Tools zoals Zoom, Teams en Slack nemen aan dat de persoon achter een scherm is wie ze beweren te zijn. Aanvallers exploiteren die veronderstelling.
  3. Verdedigingen zijn over het algemeen afhankelijk van waarschijnlijkheid, geen bewijs: Deepfake -detectietools gebruiken gezichtsmarkeringen en analyses naar gok Als iemand echt is. Dat is niet goed genoeg in een omgeving met hoge inzet.

En hoewel eindpunttools of gebruikerstraining kunnen helpen, zijn ze niet gebouwd om een ​​kritische vraag in realtime te beantwoorden: Kan ik deze persoon vertrouwen met wie ik praat?

AI -detectietechnologieën zijn niet genoeg

Traditionele verdedigingen zijn gericht op detectie, zoals het trainen van gebruikers om verdacht gedrag te spotten of AI te gebruiken om te analyseren of iemand nep is. Maar Deepfakes worden te goed, te snel. Je kunt geen door AI gegenereerde misleiding bestrijden met op waarschijnlijkheid gebaseerde tools.

Werkelijke preventie vereist een andere basis, een gebaseerd op aantoonbaar vertrouwen, geen veronderstelling. Dat betekent:

  • Identiteitsverificatie: Alleen geverifieerde, geautoriseerde gebruikers moeten in staat zijn om deel te nemen aan gevoelige vergaderingen of chats op basis van cryptografische referenties, geen wachtwoorden of codes.
  • Apparaatintegriteit controleert: Als het apparaat van een gebruiker is geïnfecteerd, jailbroken of niet-conform, wordt het een potentieel toegangspunt voor aanvallers, zelfs als hun identiteit wordt geverifieerd. Blokkeer deze apparaten uit vergaderingen totdat ze worden verholpen.
  • Zichtbare vertrouwensindicatoren: Andere deelnemers moeten dat doen zien Bewijs dat elke persoon in de vergadering is wie ze zeggen dat ze zijn en op een veilig apparaat zijn. Dit verwijdert de oordeel van eindgebruikers.

Preventie betekent het creëren van voorwaarden waarbij imitatie niet alleen moeilijk is, het is onmogelijk. Zo sluit u AI Deepfake-aanvallen af ​​voordat ze deelnemen aan risicovolle gesprekken zoals bestuursvergaderingen, financiële transacties of samenwerkingen van leveranciers.

Op detectie gebaseerde aanpak Preventiebenadering
Vlagafwijkingen nadat ze zich voordoen Blokkeer ongeautoriseerde gebruikers om ooit lid te worden
Vertrouw op heuristiek en giswerk Gebruik cryptografisch identiteitsbewijs
Vereist het oordeel van de gebruikers Zorg voor zichtbare, geverifieerde vertrouwensindicatoren

Elimineer deepfake -bedreigingen uit uw oproepen

RealityCheck door Beyond Identity werd gebouwd om deze trust gap te dichten in samenwerkingstools. Het geeft elke deelnemer een zichtbare, geverifieerde identiteitsbadge die wordt ondersteund door cryptografische apparaatverificatie en continue risicocontroles.

Momenteel beschikbaar voor Zoom- en Microsoft -teams (Video en chat), realityCheck:

  • Bevestigt dat de identiteit van elke deelnemer echt en geautoriseerd is
  • Valideert de naleving van het apparaat in realtime, zelfs op niet -beheerde apparaten
  • Toont een visuele badge om anderen te laten zien dat je bent geverifieerd

Als u wilt zien hoe het werkt, host de identiteit verder een webinar waar u het product in actie kunt zien. Registreer hier!


The Hacker News

Thijs Van der Does