Elon Musk heeft de kennisarena betreden door Grokipedia te lanceren, een nieuwe online encyclopedie aangedreven door zijn xAI-modellen. Zoals de naam al doet vermoeden, is het een directe concurrent van het enorm populaire Wikipedia. Musk beweert zelfs dat Grokipedia “zuiver de propaganda” gevonden op Wikipedia en overtreft zijn rivaal “met verschillende ordes van grootte in breedte, diepte en nauwkeurigheid.”
De man die Wikipedia mede heeft opgericht, Jimmy Wales, is het echter niet eens met deze stelling. Tijdens een recente CNBC-top heeft Wales het dreigement van Grokipedia van de hand gewezen, met het argument dat de onderliggende technologie – Large Language Models (LLM’s) – eenvoudigweg niet in staat is een betrouwbare encyclopedie te produceren.
Wikipedia’s Jimmy Wales maakt zich geen zorgen over Elon Musk’s AI-aangedreven Grokipedia
Het scepticisme van Wales komt voort uit het feit dat Grokipedia wordt aangedreven door AI. Hij is zich bewust van de tekortkomingen van LLM’s als Grok en ChatGPT, die de neiging hebben om “enorme fouten maken‘ en bronnen verzinnen, namelijk ‘AI-hallucinaties’. Wales deelde een voorbeeld waarin een lid van de Wikipedia-gemeenschap ontdekte dat een bron een LLM had gebruikt om boekcitaten te genereren. Dit zou geresulteerd hebben in de chatbot “heel graag boeken verzinnen.”
Om LLM’s te testen, vraagt Wales vaak naar obscure onderwerpen, zoals de identiteit van zijn vrouw (een ‘niet beroemd maar bekendHij beweert dat deze zoektocht steevast resulteert in een plausibel maar uiteindelijk verkeerd antwoord.
“We weten dat ChatGPT en alle andere LLM’s niet goed genoeg zijn om wiki-items te schrijven“, aldus Wales. Hij benadrukt dat de afhankelijkheid van menselijke verificatie en gemeenschapstoezicht die Wikipedia in de loop van tientallen jaren heeft ontwikkeld.
De kwestie van vooringenomenheid en bronnen
Musk en zijn bondgenoten bekritiseren Wikipedia regelmatig vanwege de zogenaamde “woke bias” en het uitsluiten van conservatieve media als bronnen. Grokipedia’s eigen artikel op Wikipedia beschuldigt de site ervan een “systemische ideologische vooringenomenheid” te hebben.
Wales verdedigde krachtig het redactionele beleid van Wikipedia. Hij zei dat de prioriteit van de organisatie het verkrijgen van neutraliteit is. “We behandelen willekeurige idioten niet op dezelfde manier als The New England Journal of Medicine, en dat maakt ons niet wakker“, zei Wales. Hij voegde eraan toe dat hij reageerde op kritiek door “een verdubbeling van neutraal zijn en heel voorzichtig zijn met bronnen’ is essentieel.
De Wikimedia Foundation erkent nog steeds dat AI uitdagingen met zich meebrengt – met name de afname van het aantal menselijke bezoeken en het toenemende gebruik van Wikipedia-gegevens om AI-modellen te trainen. Hij acht de aanpak van Wikipedia echter beter en betrouwbaarder. “Deze door de mens gecreëerde kennis is waar AI-bedrijven op vertrouwen om inhoud te genereren; zelfs Grokipedia heeft Wikipedia nodig om te kunnen bestaan”, merkt de Stichting op.
Uiteindelijk beschouwt Wales de grootste bedreiging niet als een directe vervanging van AI. In plaats daarvan ziet hij het als het vermogen van LLM’s om plausibele nepwebsites te genereren, die het grote publiek voor de gek kunnen houden.
