De implementatie van kunstmatige intelligentie heeft de technische industrie grote vooruitgang geboekt. In de afgelopen jaren hebben enkele prominente namen in het segment hun opvattingen over de “agressieve” ontwikkeling van de technologie echter gedeeld. In overeenstemming daarmee waarschuwt Eric Schmidt, voormalig Google CEO, samen met andere experts, voor de risico’s van het nastreven van een “Manhattan -project” voor AGIS.
Voormalig Google CEO en andere experts delen hun visie op een US Manhattan -project voor AGI
Eric Schmidt, Alexandr Wang – Scale AI CEO – en Dan Hendrycks – Center voor AI Safety Director – tekende een beleidsdocument waar ze waarschuwen voor mogelijke vergelding tegen de Verenigde Staten in een scenario waarin ze proberen de technologie van AGIS (AI -agenten) te leiden. Volgens de krant “Superintelligence -strategie‘Technologisch krachtige landen zoals China zouden kunnen reageren op de Verenigde Staten in de vorm van potentiële cyberaanvallen. Deze situaties zouden leiden tot de destabilisatie van internationale betrekkingen en escalaties in conflicten.
‘(A) Manhattan -project (voor AGI) gaat ervan uit dat rivalen zullen instemmen met een blijvende onbalans of omnicide in plaats van te verhuizen om dit te voorkomen”Leest de krant. ‘Wat begint als een drang naar een superwapen en wereldwijde controle dreigt het veroorzaken van vijandige tegenmaatregelen en escalerende spanningen, waardoor de stabiliteit van de strategie wordt ondermijnd om te beveiligen.”
De krant lijkt te verwijzen naar een Amerikaans initiatief dat een soort ‘Manhattan -project’ suggereerde voor de ontwikkeling van AGIS. Het programma zou vergelijkbaar zijn met het programma dat decennia geleden heeft geleid tot het creëren van de atoombom. Energy Chris Wright, Amerikaanse minister van Energie, heeft onlangs het idee uitgedrukt samen met Greg Brockman, mede-oprichter van Openai, op een supercomputer-site.
Dit is niet de eerste keer dat Eric Schmidt heeft gewaarschuwd voor de risico’s van AI in de wereld van vandaag. De voormalige Google-CEO uitte zijn bezorgdheid medio februari over het potentiële gebruik van AI-platforms voor op biologische wapens gebaseerde terroristische aanvallen.
Papier suggereert een defensieve houding door uit te schakelen “bedreigende AI -projecten”Door cyberaanvallen
De krant suggereert dat de VS een verdedigende houding ten opzichte van AGIS moeten nemen. Dat wil zeggen, houd de ontwikkeling van de technologie in de gaten door rivaliserende landen. De mede-ondertekenaars suggereren dat de VS moeten uitschakelen “Bedreigende AI -projecten” als gedetecteerd. Ze zeggen dat het land zou moeten “Uitbreiding (zijn) arsenaal van cyberaanvallen‘Om zich voor te bereiden op dergelijke situaties. Ze zijn ook voorstander van de VS die de toegang tot geavanceerde AI-chips en de open-source AI-modellen beperken.
De uitzicht is een beetje fatalistisch, maar in overeenstemming met wat Schmidt onlangs heeft uitgedrukt. De krant is echter in tegenspraak met het advies van de voormalige CEO van de voormalige Google. Eerder pleitte hij voor de VS om actief te concurreren om dominantie in het AI -veld. Maar wanneer het over AGIS praat, lijkt Eric Schmidt een meer defensieve dan agressieve houding te bepleiten.
