GPT-4o mini positioneert zich als een grote sprong voorwaarts op het gebied van de kleine AI-modellen. Het steekt zijn concurrenten voorbij op vlak van taken met tekstuele en visuele redenering. Volgens OpenAI krijgt het model een score van 82% op MMLU, een benchmark om redenering te meten, tegenover 79% bij Gemini 1.5 Flash en 75% voor Claude 3 Haiku. Bij de test MGSM-test, dat de wiskundige redenering meet, haalt GPT-4o mini 87%, en gaat Flash voor dat 78% heeft en Haiku met 72%.

George Cameron, medeoprichter van Artificial Analysis, bevestigde aan TechCrunch dat GPT-4o mini een gemiddelde uitvoersnelheid heeft van 202 tokens per seconde, meer dan twee keer sneller dan GPT-4o en GPT-3.5 Turbo. Deze snelheid, gecombineerd met de meer dan 60% lagere kost in vergelijking met GPT-3.5 Turbo, maakt GPT-4o mini bijzonder aantrekkelijk voor toepassingen die snelle antwoorden vereisen en voor simpele maar volumineuze taken.

OpenAI maakte de exacte grootte van GPT-4o mini niet bekend, maar verklaarde wel dat die vergelijkbaar is met andere kleine AI-modellen zoals Llama3 8b, Claude Haiku en Gemini 1.5 Flash. Het model biedt een contextvenster van 128.000 tokens, het equivalent van de lengte van een boek, met een kennislimiet vastgelegd op oktober 2023. Ontwikkelaars hebben toegang tot GPT-4o mini aan een tarief van 15 cents per miljoen tokens input en 60 cents per miljoen tokens output.

Tegelijkertijd heeft OpenAI ook nieuwe tools uitgebracht voor bedrijven. Een Enterprise Compliance API werd gelanceerd om streng gereglementeerde sectoren zoals financiën, gezondheid, juridische diensten, overheden, te helpen om zich in regel te stellen met de vereisten voor logboekregistratie en audit. Met deze tools kunnen beheerders hun ChatGPT Enterprise data nauwkeuriger monitoren en beheren.

Deze nieuwe tools bevatten ook de mogelijkheid om tijdsgestempelde interacties te controleren, de gebruikers en gedownloade bestanden te beheren en een meer granulaire controle uit te oefenen op GPT-werkruimten. Voortaan kunnen de beheerders een lijst met goedgekeurde domeinen aanmaken waarmee de GPT`s kunnen communiceren, wat meer personalisering en een hogere beveiliging biedt voor specifieke toepassingen.

Olivier Godement, verantwoordelijke voor het door openAI ontwikkelde API, beklemtoont hoe belangrijk het is dat AI voor iedereen toegankelijk is: "Willen we dat elke uithoek van de wereld kan genieten van AI, dan moeten wij de modellen veel beter betaalbaar maken. Ik meen dat GTP-4o mini een grote stap voorwaarts in die richting is."

Met dit nieuwe aanbod wil OpenAI de toegankelijkheid en bruikbaarheid van de AI-modellen verbeteren en ook een antwoord bieden op de groeiende behoeften van ontwikkelaars en ondernemingen uit diverse sectoren.