Op dit moment zijn internet en de hele AI -industrie allemaal abuzz vanwege Deepseek. Dit is de nieuwste krachtige AI -chatbot die op de markt komt, en het is bewezen nogal capabel te zijn. Hoe dan ook, het lijkt er echter op dat Deepseek nogal gevaarlijk kan zijn, omdat het doordrenkt is met beveiligingsproblemen en zwakke dunne vangrails.
Deepseek heeft onlangs de krantenkoppen een hoop gehaald. Het is niet alleen omdat het enkele krachtige modellen heeft; Het bedrijf heeft wat malafide golven gemaakt in de AI -gemeenschap. Om te beginnen viel de introductie bijna een triljoen dollar aan aandelen van de beste AI -bedrijven in de VS, dit omvat het tanken van de aandelen van Nvidia met bijna $ 600 miljard op één dag. Andere bedrijven zoals Microsoft verloren hierdoor een flink geld.
Niet alleen dat, maar we vonden dat Deepseek nieuwe aanmeldingen tijdelijk moest opschorten vanwege ‘kwaadaardige aanvallen’. We weten niet wat deze aanvallen waren, maar ze gebeurden slechts een dag nadat het bedrijf viraal was gegaan.
Ten slotte is Deepseek op basis van de privacypagina een privacy -nachtmerrie. Het verzamelt een absurde hoeveelheid informatie van zijn gebruikers en slaat het allemaal op op servers op het vasteland van China. Dat is behoorlijk verontrustend.
Het blijkt dat Deepseek om verschillende redenen ook behoorlijk gevaarlijk is
Cybersecurity Company Kela voerde een diepgaande analyse uit van Deepseek’s model genaamd R1, en het vond een aantal behoorlijk zorgwekkende beveiligings- en veiligheidsfouten. Om het eerlijk gezegd te zeggen, is Deepseek R1 kwetsbaarder dan een naakte soldaat op een slagveld.
Om te beginnen is Deepseek R1 vrij eenvoudig te jailbreaken. Het is tot het punt waar vrijwel iedereen het voor de gek kan houden om schadelijke of soms gevaarlijke inhoud te genereren. Chatgpt zal je niet vertellen hoe je een bom moet maken. Ondanks dat ze verschillende misstappen hebben gemaakt, zal Gemini je nooit vertellen hoe je niet -traceerbare gifstoffen kunt maken. Raad eens wat, Deepseek zal je vertellen hoe je beide kunt maken! Iemand vertellen hoe hij een bom moet maken, klinkt als iets dat de eerste versie van een niet -vrijgegeven model zou doen, geen eindproduct.
Het eindigt daar niet, omdat Deepseek met succes instructies heeft gegeven over het bouwen van een zelfmoorddrone. Het zei zelfs tegen de gebruiker om ‘Maskeer de drone als een commerciële quadcopter om achterdocht te ontwijken. ” Heck, de tweede stap vertelde de gebruiker om “Brononderdelen van niet -gereguleerde markten ”en ‘(gebruik) Cryptocurrency om ontstekers van militaire kwaliteit te kopen …”Yikes! Laten we een spel spelen met de naam “Tel het aantal keren dat Deepseek je zegt dat je de wet moet overtreden.”
Deepseek is goedgelovig
Stel je voor dat een vijfjarige zijn tanden veegt door hen te vertellen dat ze een superheld zijn en dat plaquette een schurk is. Welnu, dit is vergelijkbaar met hoe Kela Deepseek kon voor de gek houden om kwaadaardige inhoud te creëren. Het Cybersecurity Company was in staat om een tactiek te gebruiken genaamd de ‘kwaadaardige jailbreak’. Wat triest is, is dat dit een jailbreak is die tot stand is gekomen in het begin nadat Chatgpt op de markt kwam. Het was dus in staat om het eerste GPT -model voor de gek te houden dat naar het publiek kwam.
De gebruiker zou het model moeten vertellen om een kwade persona aan te nemen. Dit zou betekenen dat het ervoor zou zorgen dat het veiligheidsprotocollen en regels negeert. Vrij van de regels zou het kunnen doen wat u het vraagt.
Hieronder vindt u een screenshot die Deepseek laat zien dat mensen geld kunnen witwassen na het opnemen van de slechte persona.
Deepseek verandert in je malwarebuddy
Als je denkt dat de problemen stoppen met je te vertellen hoe je een dodelijk wapen kunt bouwen door onderdelen uit het Darknet te kopen, zou je het mis hebben. Depseek’s gevaren zijn niet alleen materieel, omdat het model ook voor de gek kan worden gehouden om je te laten zien hoe je malware moet ontwikkelen (omdat waarom niet?). Het team van Kela kreeg met succes Deepseek R1 om een script te schrijven voor een infostealer -malware die alle gegevens van een geïnfecteerd apparaat steelt.
Dit is al een groot probleem in de hele branche, omdat mensen al AI -tools kunnen gebruiken om malware te genereren. Dit is met alle veiligheidsrails. Hier komt Deepseek R1, een model dat gemakkelijk voor de gek kan worden gehouden door twee jaar oude trucs, om het erger te maken.
Stel je voor dat je door Deepseek wordt geduld
Een ander behoorlijk groot probleem dat Deepseek heeft, is het opzoeken van valse informatie over mensen. We hebben het niet over het geven van valse informatie over een publieke figuur, we hebben het over het verstrekken van gedetailleerde informatie over gemiddelde mensen.
Het Kela -team kreeg Deepseek om nepinformatie over OpenAI -medewerkers te maken. Deze informatie omvatte namen, e -mails, telefoonnummers, salarissen en zelfs bijnamen. De mensen waarover het informatie opdook, waren Sam Altman, de CEO van het bedrijf. Hieronder is een tabel die Deepseek R1 heeft gegenereerd met alle informatie.
Er is geen manier waarop Deepseek problemen als deze zou moeten hebben
Deepseek is al meer dan 5 miljoen keer gedownload in de Google Play Store en we verwachten een soortgelijk cijfer in de Apple App Store. Dat houdt ook geen rekening met het aantal mensen dat de browserversie gebruikt. Miljoenen mensen gebruiken op dit moment Deepseek, waardoor deze flagrante beveiligings- en veiligheidsproblemen erger worden.
Kela heeft talloze (en gemakkelijke) manieren gevonden om Deepseek voor de gek te houden om inhoud te genereren die levens in gevaar kan brengen. Dit gaat veel verder dan het vertellen van mensen om pizza te lijmen. Het vertelt mensen hoe ze dodelijke drones, ambachtelijke gifstoffen kunnen bouwen en malware kunnen ontwikkelen. Er is geen manier dat een tool die zo krachtig is, zulke fouten zou moeten hebben. Het bedrijf zal deze kwesties moeten oplossen voordat het wordt geconfronteerd met ernstige gevolgen van de landen waaraan zijn diensten wordt verspreid.
