Eigen AI-server of API — wat is goedkoper?
Vul in hoeveel tokens je per maand verwerkt. Je ziet de API-rekening, de kosten van een gehuurde GPU die dezelfde uren draait, of die server het überhaupt bijhoudt, en hoeveel je volume moet groeien voordat een eigen server zich terugverdient.
Servercapaciteit: ongeveer 78,8 M outputtokens per maand. Server 13% van de gehuurde tijd bezig
API-prijzen zijn lijstprijzen van de prijspagina van elke leverancier; batchkortingen en caching kunnen ze verlagen.
Waarom het antwoord eerst meestal “API” is
Een API rekent alleen wat je gebruikt. Een server kost hetzelfde als hij ’s nachts stilstaat. Bij lage en wisselende volumes wint de API makkelijk — de rekensom verandert als de GPU het grootste deel van de dag bezig is.
Wanneer een eigen server toch zinvol is
Privacy (data verlaat je server nooit), voorspelbare kosten bij hoge volumes, gefinetunede modellen die de API’s niet bieden, en geen rate limits. Dat zijn goede redenen, ook als de prijs vergelijkbaar is.
Veelgestelde vragen
Waar komen de getallen voor tokens per seconde vandaan?
Ze hangen af van het model, de GPU en hoeveel gebruikers hem delen. Meet het zo mogelijk met je eigen setup; de standaardwaarde is een voorzichtig getal voor een middelgroot model op één kaart.
Zijn open modellen net zo goed als betaalde API’s?
Voor veel taken — samenvattingen, extractie, classificatie, chatten met je eigen documenten — komen de beste open modellen dichtbij. Bij het zwaarste redeneerwerk lopen de beste betaalde modellen nog voor.
Bronnen
Prijzen komen van de eigen prijspagina van elke aanbieder op de getoonde datum. Aanbieders passen hun prijzen vaak aan — bij het afrekenen zie je de definitieve prijs.