De inzending van Deepseek in het kunstmatige intelligentie -segment is niet zonder controverse geweest. Dit is normaal gezien het feit dat we het hebben over een AI-gerichte bedrijf wiens alleen beschikbaarheid grote technologiebedrijven zoals Nvidia op Wall Street heeft neergehaald. Een van de zorgen is met betrekking tot de chatbot die mogelijk antwoorden op netelige kwesties over China ‘blokkeert’. Welnu, een nieuwe studie bevestigt dat Deepseek AI in feite zijn antwoorden op de meeste van deze prompts censureert.
Deepseek’s toenemende populariteit en zijn directe relatie met Beijing brengen Amerikaanse experts en autoriteiten alert. De Verenigde Staten hebben al ernstige maatregelen genomen tegen Tiktok voor, onder andere, potentiële manipulaties in de aanbevelingsalgoritmen die kunnen worden gebruikt om jongeren te beïnvloeden. De autoriteiten vrezen nu een soortgelijk niveau van controle of censuur in Deepseek’s output.
Deepseek AI censoren 85% van de vragen met betrekking tot “gevoelige onderwerpen” voor China
Blijkbaar, doornige onderwerpen voor de Chinese overheid, zoals sociale protesten, het bloedbad van het Tiananmen -plein, de status van Taiwan of de gelijkenis van Xi Jinping met Winnie de Poeh die velen beweren te zien, kunnen niet worden besproken door de Deepseek -chatbot. Momenteel is de service beschikbaar zowel via de website van het bedrijf als als Android/iOS -apps. In feite zag Depseek afgelopen weekend de meest gedownloade gratis app in Apple’s App Store, die Chatgpt overtrof.
AI Cybersecurity Startup PromptFoo heeft geëxperimenteerd met het R1 -model van Deepseek. Als u zich niet bewust bent, is R1 een model dat zich richt op ‘redeneren’, waardoor het ideaal is voor complexe taken. Het probeert rechtstreeks te concurreren met het Openai O1 -model, waarvan de aanpak vergelijkbaar is. PromptFoo stelde het 1.360 vragen met betrekking tot wat het ‘gevoelige problemen’ voor de Chinese overheid noemt. De resultaten toonden aan dat Deepseek weigerde 85% van de tijd te reageren.
Promptfoo ontdekte ook dat het Deepseek -model kwetsbaar is voor jailbreaks. Dit kan een maatregel zijn van de Chinese overheid om de resultaten te manipuleren als ze deze nodig hebben. De onderzoekers merkten zelfs een ‘opoverdreven nationalistische toon‘Als je het over China hebt.
Voorheen waarschuwden experts en Amerikaanse functionarissen voor potentiële gebruikersprivacy en nationale veiligheidsrisico’s met betrekking tot Deepseek. Nu lijkt het duidelijk dat China de uitgangen van het AI -platform kan verstoren.
