Zowat elk groot bedrijf duikt diep in AI-technologie, en Amazon is daarop geen uitzondering. De e-commercegigant werkt al jaren aan AI, maar verdubbelt nu zijn inspanningen met de aankondiging van nieuwe chips op zijn Re:Invent-conferentie in Vegas. Deze chips beloven verbeteringen te bieden met AI-training.
Een van de belangrijkste dingen die je nodig hebt als je AI-modellen traint, is een krachtige set chips. Je hebt ze nodig om alle binnenkomende gegevens te verwerken. Dit is de reden waarom bedrijven massa’s krachtige chips kopen bij chipfabrikanten.
Amazon werkt aan nieuwe chips voor AI-training
Ten eerste hebben we de Trainium2-chips. De tweede generatie in de serie biedt enkele verbeteringen ten opzichte van hun voorgangers. Amazon zegt dat ze twee keer zo energiezuinig en vier keer krachtiger zijn dan de eerste generatie. Dat zijn opmerkelijke verbeteringen, voor slechts één generatiesprong. Als het om chiptechnologieën gaat, zorgen generatiesprongen doorgaans voor een prestatiesprong van 30% tot 50%, en niet voor 400%.
Samen met Amazon gaat een ander bedrijf deze chips gebruiken. Anthropic AI zal deze chips ook gebruiken om zijn modellen te helpen trainen. Dit bedrijf wordt ondersteund door Amazon, dus dat mag geen verrassing zijn.
Vervolgens werkt het bedrijf ook aan de nieuwe Graviton4-chips. Deze zijn niet zo robuust als de bovengenoemde, maar dat is ook niet de bedoeling. Deze nieuwe chips bieden een prestatiesprong van 30% ten opzichte van hun voorgangers. Dat is niet zo opvallend als bij de Trainium2-chips, maar dat is nog steeds niets om over te niezen. Deze chips zijn gebaseerd op ARM-architectuur, wat leidt tot winst in energie-efficiëntie.
Deze nieuwe chips zijn een ander voorbeeld van grote bedrijven die grote hoeveelheden silicium verzamelen om hun AI-ontwikkeling te stimuleren. Nog niet zo lang geleden heeft Elon Musk duizenden GPU’s van Nvidia veiliggesteld om de AI voor X Corp te bouwen.
Over Nvidia gesproken: Amazon werkte samen met Nvidia om zakelijke klanten toegang te bieden tot enkele van de krachtige cloudgebaseerde AI-chips van het bedrijf. Ze hebben toegang tot de H200 AU GPU’s.
Amazon heeft een nieuwe bot
Tijdens het evenement haalde het bedrijf de wraps van Q af; zijn nieuwe AI-chatbot. We wisten allemaal dat dit eraan zat te komen. Elk bedrijf komt uiteindelijk met een chatbot uit. Je zult deze echter niet vragen om je te helpen vals te spelen met je geschiedenisessay. In plaats daarvan komt Q met een pak en een stropdas.
Het is een chatbot ontworpen voor intern; zakelijk gebruik. We hebben het over het versnellen van werkprojecten en klantenservice. Dit wordt een alles-in-één bedrijfsoplossing die verbinding kan maken met verschillende services zoals Dropbox, Salesforce, Microsoft 365, Zendesk en nog veel meer. Als je geïnteresseerd bent in het gebruik van deze bot, kost het je tussen de $ 20 en $ 30 per maand. Het is momenteel beschikbaar in preview-vorm.
