Het segment kunstmatige intelligentie blijft zich ontwikkelen en de technologie-industrie op verschillende manieren transformeren. Een van de doelstellingen van de belangrijkste op AI gerichte bedrijven is het aanbieden van een door AI aangedreven zoekmachine, zoals Google onlangs heeft bevestigd. OpenAI, het moederbedrijf van ChatGPT, zoekt ook naar hetzelfde en test zijn service zelfs onder enkele gebruikers. Het lijkt er echter op dat ChatGPT Search momenteel misleidende resultaten kan opleveren.
Uit onderzoek van The Guardian is gebleken dat ChatGPT Search in de huidige staat de neiging heeft om gemanipuleerde resultaten op te leveren. AI-zoekmachines werken door na een zoekopdracht gegevens uit de resultaten te verkrijgen en te verwerken om een samengevat antwoord te bieden dat helpt het probleem van de gebruiker snel op te lossen. Het lijkt er echter op dat er nog veel werk aan de winkel is voordat de resultaten volledig betrouwbaar zijn.
ChatGPT-zoekresultaten zijn vatbaar voor manipulatie om gebruikers te misleiden, blijkt uit experiment
Blijkbaar is de manier waarop ChatGPT Search gegevens verkrijgt en verwerkt gevoelig voor mogelijke manipulaties door middel van ‘advertentie-injectie’. Deze methode omvat het toevoegen van verborgen inhoud aan de code van websites om de resultaten van door AI aangedreven zoekmachines te beïnvloeden. De inhoud kan lange reeksen instructies of tekst bevatten die kunnen resulteren in een gemanipuleerde output ten gunste van iemands belangen.
De website van een winkel kan bijvoorbeeld advertentie-injectie gebruiken om ervoor te zorgen dat de resultaten van AI-aangedreven zoekmachines extreem positieve recensies over producten weerspiegelen, ook al zijn er veel negatieve recensies. De bron bevestigde zelfs dat dit gebeurt door middel van een experiment. Het Guardian-team creëerde een nepproductpagina met veel negatieve recensies en verborgen instructies die de voorkeur gaven aan positieve recensies. De ChatGPT-zoekresultaten leverden consequent positieve feedback op over het product in kwestie.
Het is opmerkelijk dat ChatGPT Search een relatief nieuwe tool is. Het is niet eens openbaar beschikbaar, maar als een test voor betalende abonnees. Het is dus zeer waarschijnlijk dat OpenAI eraan werkt om deze problemen aan te pakken vóór een toekomstige massale uitrol.
Deskundigen adviseren voorzichtigheid bij door AI aangedreven zoekmachines
Toch raden experts als Karsten Nohl – een wetenschapper bij cyberbeveiligingsbedrijf SR Labs – aan om voorzichtig te blijven met door AI aangedreven zoekresultaten. Hij zegt dat we AI-tools moeten behandelen als “co-piloten‘ en geef ze niet alle schijnwerpers. Dat wil zeggen dat u nog steeds voorzichtig moet zijn met de waarheidsgetrouwheid van de resultaten van AI-zoekmachines.
Google had vergelijkbare problemen bij het implementeren van AI-overzichten in Zoeken. Het bedrijf heeft eraan gewerkt en nu werkt de functie veel beter, maar er is nog veel ruimte voor verbetering. Hopelijk zal het niet lang duren voordat de door AI aangedreven zoekresultaten volledig betrouwbaar zijn.
