We hebben gehoord over hoe AI onze banen op een dag zou kunnen vervangen. We zien al hoe AI de rollen van schrijvers en grafische ontwerpers heeft vervangen. Maar wat als AI insectenjagers zou kunnen vervangen? Blijkt dat het kan. Volgens Google heeft de AI Bug Hunter Big Sleep zijn allereerste kwetsbaarheden gerapporteerd.
Google AI Bug Hunter vindt kwetsbaarheden
Dit is volgens Heather Adkins, de vice-president van Google van Security, die het nieuws deelde in een bericht over X. Voor die onbekende slaap is Big Sleep een Google LLM-gebaseerde AI Bug Hunter. Het werd ontwikkeld door de DeepMind -afdeling van Google samen met hackers bij Project Zero, een andere divisie bij Google die zich toelegt op het vinden van beveiligingsfouten en kwetsbaarheden.
Dat gezegd hebbende, we weten niet zeker hoe grote impact deze kwetsbaarheden hebben of hoe ernstig ze zijn. Dit komt omdat de kwetsbaarheden nog niet zijn opgelost. Het is standaardpraktijk, zelfs bij Project Zero, waar Google bedrijven een respijtperiode geeft om de problemen op te lossen voordat ze het publiekelijk rapporteren.
De afhaalmaaltijd hier is echter het feit dat AI erin is geslaagd om deze kwetsbaarheden te vinden. Sprekend met TechCrunch zei Google -woordvoerder Kimberly Samra: “Om van hoge kwaliteit en bruikbare rapporten te zorgen, hebben we een menselijke expert in de lus voordat we rapporteerden, maar elke kwetsbaarheid werd gevonden en gereproduceerd door de AI -agent zonder menselijke tussenkomst.”
Het goede nemen met het slechte
Het is duidelijk dat het hebben van een AI in staat om beveiligingsfouten en kwetsbaarheden te ontdekken een goede zaak is. AI slaapt niet, in tegenstelling tot mensen. Dit betekent dat het constant op zoek kan zijn naar fouten voordat het een probleem wordt. Dat gezegd hebbende, de grote slaap van Google is niet de eerste in zijn soort. Er zijn andere AI -tools zoals Runsybil en Xbow.
In feite haalde Xbow de krantenkoppen toen het de top van de Amerikaanse leaderboards bereikte bij het hackerone bug bounty -programma. Maar voordat we te opgewonden worden, zijn er nog steeds veel knikken die moeten worden uitgewerkt. Er zijn verschillende rapporten geweest waarbij AI bugs heeft gemeld die hallucinaties bleken te zijn.
Hallucinaties zijn een bekend AI -probleem, waarbij de AI gewoon iets verzint. We hebben het zien gebeuren wanneer u het vraagt om informatie te verstrekken en het haalt iets dat volledig uit de lucht wordt verzonnen. Volgens Vlad Ionescu, mede-oprichter en Chief Technology Officer bij Runsybil, zei hij tegen TechCrunch: “Dat is het probleem dat mensen tegenkomen, zijn we veel dingen die eruit zien als goud, maar het is eigenlijk gewoon onzin.”
