Microsoft en Google negeren de verontwaardiging over hun controversiële AI-tools

AI-overzichten; Windows-oproep. Dit zijn enkele van de grootste AI-functies die dit jaar door Google en Microsoft zijn aangekondigd, en beide bedrijven hebben er hoge verwachtingen van. Nou, IEMAND moet dat wel doen, aangezien de meerderheid van de technische wereld deze tools veracht. Ze betekenen allebei slecht nieuws, maar de bedrijven die ze maken nemen onze klachten niet ter harte. In plaats daarvan negeren Google en Microsoft de verontwaardiging over hun controversiële AI-tools.

Allereerst AI-overzichten

Even bijpraten: tijdens Google I/O 2024 liet Google het publiek kennismaken met AI Overviews. Dit is de tool die door AI gegenereerde overzichten biedt van de dingen die je zoekt op Google. In plaats van relevante webpagina's weer te geven, vat de tool alleen samen waarnaar u zoekt.

Waarom is het slecht?

Welnu, dit is een hulpmiddel dat het verkeer dat veel websites ontvangen aanzienlijk kan verminderen, waardoor hun advertentie-inkomsten verloren gaan. Zonder voldoende advertentie-inkomsten zullen veel websites en aanverwante bedrijven moeten sluiten. Nieuwswebsites zijn afhankelijk van deze advertentie-inkomsten om te overleven, maar het kan Google niets schelen.

Wat de zaken nog erger maakt, is het feit dat Google advertenties is gaan tonen op de AI-overzichten. Dat is een enorme klap in het gezicht van de bedrijven die de advertentie-inkomsten verdelen. Wanneer mensen naar een site reizen en op een advertentie klikken, krijgen zowel de website als Google een deel van de advertentie-inkomsten. Nu kan Google afzien van het weergeven van die websites en de advertentie-inkomsten voor zichzelf houden.

Dat is nog niet alles, maar deze tool heeft een aantal zeer vreemde en potentieel gevaarlijke antwoorden op vragen laten zien. Het is bekend dat het iemand adviseerde om lijm op pizza te smeren om de kaas te helpen plakken. Zeker, dat is niet het gevaarlijkste antwoord, maar als het zoiets eenvoudigs in de war brengt, kan het zeker iets verknoeien dat niet zo duidelijk gevaarlijk is.

Uit een recent rapport blijkt dat de AI-overzichten minder vaak verschijnen. Dat is tenminste goed.

Vervolgens Windows Terugroepen

Deze volgende tool komt uit het kamp van Microsoft. Windows Recall is een interessant hulpmiddel waarmee het systeem voortdurend schermafbeeldingen kan maken van alles wat u op uw computer doet. Vervolgens worden de gegevens lokaal opgeslagen. Dus als u zich iets wilt herinneren dat u op een bepaald moment aan het doen was, kunt u Copilot vragen om door die schermafbeeldingen te zoeken.

Als u bijvoorbeeld een paar dagen geleden een bestand in een map hebt opgeslagen en u bent vergeten waar u het hebt neergezet, kunt u Copilot vragen: “Waar heb ik het neergezet (bestandsnaam)”. Ogenschijnlijk zal het in staat zijn om door de schermafbeeldingen te kijken, het bestand te identificeren en het u te vertellen.

Waarom is het slecht?

Natuurlijk kan dit een handig hulpmiddel zijn om u te helpen bepaalde acties te herinneren. Het valt echter om verschillende redenen niet goed bij de gemeenschap. Ten eerste zijn niet veel mensen bij de gedachte dat ALLES wat u op uw computer doet, wordt bekeken en gedocumenteerd. We kunnen altijd de grap maken dat “Microsoft alle pornowebsites die je bezoekt zal zien (suf gelach)”. Maar in alle ernst verwerkt u gevoelige documenten, voert u wachtwoorden in, slaat u bankgegevens op, communiceert u met klanten, enz. op uw computer. Al deze dingen kunnen mogelijk worden gedocumenteerd.

Naast het feit dat het griezelig is, is er nog een ander probleem; nog een BELANGRIJK probleem. Zoals ontdekt door cybersecurity-redacteur Kevin Beaumont, slaat deze functie alles wat u op uw computer doet op als een SQLite-database met platte tekst op uw computer. Gebruikers kunnen het bestand daadwerkelijk op hun computer vinden door naar de AppData-map te gaan. Dus hoewel het lokaal is opgeslagen, heeft een vijfjarige er toegang toe.

Google en Microsoft negeren de verontwaardiging over hun controversiële AI-tools

Het leert ons echt hoe bedrijven functies kunnen ontwikkelen en verzenden waarvan ze weten dat deze niet goed bij de gemeenschap passen. De leidinggevenden bij Google weten dat AI Overviews de nieuwsindustrie omver zou kunnen werpen; onze bovengenoemde vijfjarige kan de logica daarachter begrijpen. Het is duidelijk dat veel nieuwsorganisaties, die al enthousiast zijn over de opmars van AI, er een groot probleem mee hebben. In interviews zei Sundar Pichai, CEO van Google/Alphabet, echter dat mensen de overzichten als startpunt zullen gebruiken. Wat is het nut van een startpunt als je alles wat je nodig hebt in een oogwenk krijgt?

Serieus, hoeveel mensen zullen de overzichten lezen en denken dieper te graven? Natuurlijk zijn er mensen die dit zullen doen, maar niet genoeg om de advertentie-inkomsten van nieuwswebsites op peil te houden.

Wie had in het geval van Microsoft gedacht dat in het tijdperk van nulprivacy de introductie van een functie die letterlijk alles registreert wat u op uw computer doet een hit zou zijn? Het bedrijf introduceerde een nachtmerrie op het gebied van privacy en beveiliging, waarbij de gegevens achter een poort van anderhalve meter hoog worden opgeslagen. Dit zijn professionals uit de industrie hier; ze zijn allemaal hoog opgeleid en zeer intelligent. Ze voeren echter stunts als deze uit. Mensen ontdekken deze functie en ontdekken grote beveiligingsfouten die er niet zouden moeten zijn.

De verontwaardiging is ongehoord

De gemeenschap is niet blij met deze flagrant destructieve AI-tools, en het enige wat bedrijven kunnen doen is ze verdedigen. Ondanks zoveel publieke reacties blijft Google werken aan AI-overzichten. Het oplossen van de vreemde reacties lost het kernprobleem niet op; het probleem is dat mensen het niet willen, omdat het heel veel mensen hun baan kan kosten. Dit is de reden waarom er een DAG na de lancering handleidingen verschenen over het uitschakelen van AI-overzichten.

Microsoft heeft verduidelijkt dat Windows Recall alleen opt-in is. Eerlijk gezegd is dat een goede zaak (daarmee is het al een stap voor op AI Overviews). Het vereist ook Windows Hello-authenticatie. Dat is echter niet het kernprobleem. Het probleem is dat de functie uiterst opdringerig is en net zo veilig is als een slot van papier-maché.

De technologiegemeenschap is het beu om genegeerd te worden door grote technologiebedrijven die deze onzin uithalen. Ze lanceren AI-tools die belangrijke waarschuwingssignalen zijn en negeren de reactie. Ze geven alleen verklaringen af ​​waarin ze zeggen dat ze het probleem zullen oplossen en hopen dat de mensen het vergeten. Er zijn echter dingen die een scriptcommentaar van een woordvoerder niet kan verdoezelen.

De gemeenschap roept bedrijven op om te stoppen met het leveren van deze functies en alleen maar stilte te horen. We bevinden ons op een punt waarop AI grote schade kan aanrichten, en deze grote technologiemerken moeten zich realiseren dat als ze op deze weg blijven doorgaan, ze een punt zullen bereiken waarop ze onherstelbare schade aanrichten.

Thijs Van der Does