Eindelijk kun je OpenAI weer (gratis) lokaal draaien

In dit artikel:

OpenAI heeft recentelijk een nieuwe open source versie van ChatGPT uitgebracht, iets wat het bedrijf voor het laatst zes jaar geleden deed toen het nog een non-profit stichting was met een missie om AI breed toegankelijk te maken. Met deze release keert OpenAI terug naar zijn voorlopige roots door twee modellen vrij te geven via GitHub: gpt-oss-120b met 117 miljard parameters en gpt-oss-20b met 21 miljard parameters. Het grotere model zou vergelijkbaar zijn met ChatGPT o4-mini, terwijl het kleinere model overeenkomt met ChatGPT o3-mini. Beide modellen maken gebruik van de Mixture of Experts (MoE) technologie, waarbij meerdere ‘experts’ of ‘persoonlijkheden’ samenwerken om de kwaliteit en betrouwbaarheid van de gegenereerde output te verhogen. Voor gebruik is een krachtige GPU vereist met minimaal 16GB VRAM, hoewel in de praktijk de effectieve beschikbare geheugenruimte vaak kleiner is omdat het besturingssysteem ook grafisch geheugen verbruikt, wat het draaien van deze modellen kan beperken. Deze open source release markeert een belangrijke stap voor OpenAI om meer transparantie en toegankelijkheid te bieden aan ontwikkelaars en onderzoekers buiten het bedrijf.