Ontmoet de nieuwe modellen van Openai die op laptops en GPU’s draaien

Het chatgpt -model van Openai is een gesloten AI -model. Dit betekent dat ontwikkelaars niet onder de motorkap kunnen sleutelen, en als ze het voor hun eigen doeleinden willen gebruiken, zouden ze OpenAI moeten betalen voor API -toegang. Openai heeft sindsdien echter twee nieuwe Open-Weight AI-redeneermodellen aangekondigd, GPT-OSS-120B en GPT-OSS-20B.

Openai debuteert nieuwe AI redeneermodellen

Deze nieuwe Openai AI -redeneermodellen zijn relatief licht in termen van consumptie van hulpbronnen. Voor de grotere GPT-OSS120B kan deze worden uitgevoerd op een enkele NVIDIA GPU. De lichtere GPT-OSS-20B kan op een laptop van de consument worden uitgevoerd met slechts 16 GB geheugen. Dit betekent dat deze modellen kunnen worden gebruikt door ontwikkelaars die mogelijk geen toegang hebben tot hogere of complexere hardware.

Volgens OpenAI, “Het GPT-OSS-120B-model bereikt bijna pariteit met OpenAI O4-Mini op Core Redening Benchmarks, terwijl het efficiënt wordt uitgevoerd op een enkele 80 GB GPU. Het GPT-OSS-OSS-20B-model levert vergelijkbare resultaten voor OpenAi O3-Mini op Gemeenschappelijke Benchmarks en kan op Gemeenschappelijke Benchmarks worden uitgevoerd met slechts 16 GB van het geheugen, het maken van het geheugen, het maken van de locatie, het maken van de locatie, het maken van de locatie, het maken van de locatie, het is een van de plaats van het geheugen. kostbare infrastructuur. ”

Dus, wat als ontwikkelaars een taak tegenkomen die meer verwerkingskracht vereist? Openai zegt dat dat geen probleem zal zijn. Beide open modellen kunnen vragen naar AI -modellen in de cloud verzenden. Dit betekent dat als deze open modellen een bepaalde taak niet kunnen uitvoeren, ontwikkelaars deze kunnen verbinden met een van de krachtigere modellen van Openai.

Hoe presteren ze?

Aangezien deze modellen relatief minder resource-intensief lijken, hoe doen ze het in termen van prestaties? Het blijkt dat ze hun eigen vrij goed vasthouden. Volgens benchmarks op CodeForces scoren GPT-OSS-120B en GPT-OSS-20B respectievelijk 2622 en 2516. Voor de context presteerde het overtrofe Deepseek’s R1.

Op het laatste examen van de mensheid scoren een test met crowdsourced vragen over verschillende onderwerpen, GPT-OSS-120B en GPT-OSS-20B 19% en 17,3%. Nogmaals, dit versloeg enkele concurrenten van Openai zoals Deepseek en Qwen. Dat gezegd hebbende, de lancering van deze nieuwe Openai Open-Wight-modellen zou goed moeten zitten bij de Trump-administratie.

De Trump -administratie heeft de Amerikaanse AI -ontwikkelaars aanspoord om meer van haar technologie te openen. Dit komt op de hielen van AI -bedrijven in China, zoals Deepseek, Alibaba en Moonshot, die allemaal open modellen hebben uitgebracht die behoorlijk populair zijn.

Thijs Van der Does