Terug naar Nieuws & blog

Lokale AI of cloud: wat kost één goede taak?

Vergelijk lokale AI en cloud op de kosten per goedgekeurde taak. Met een open rekenvoorbeeld, kwaliteitsdrempel en de beheerlast die vaak ontbreekt.

Twee routes, lokale AI en cloud, komen samen bij dezelfde kwaliteitscontrole en kosten per goedgekeurde taak
Eigen schematische uitleg van het werkproces. Geen gemeten klantresultaat.

Een bedrijf wil binnenkomende documenten indelen en belangrijke velden laten overnemen. De leverancier biedt een cloud-API; een collega stelt een lokale computer met een eigen AI-model voor. Wat is goedkoper? Zonder taakvolume, foutgrens en beheeruren heeft die vraag geen betrouwbaar antwoord.

De nuttige maat is kosten per goedgekeurde, afgeronde taak. Een model dat weinig kost per verzoek maar veel documenten verkeerd leest, kan duurder zijn zodra een medewerker de fouten moet herstellen. Een lokale installatie kan prima passen bij voorspelbaar volume of een harde verwerkingseis, maar vraagt stroom, onderhoud, beveiliging en vervanging. Ook een cloudroute heeft meer kosten dan de tokenfactuur.

Eerst dezelfde taak en kwaliteit afspreken

Neem een herkenbare taak: uit een serviceaanvraag het klantnummer, apparaat, probleem en gewenste vervolgstap halen. Spreek vooraf af welke velden verplicht zijn en welke fouten onacceptabel zijn. Een onleesbaar nummer moet als onzeker worden gemeld, niet ingevuld. De medewerker keurt het resultaat goed voordat het in een klantdossier terechtkomt.

Test lokale en cloudmodellen met dezelfde representatieve invoer. Houd ook de controle gelijk: dezelfde brondocumenten, hetzelfde outputformaat en dezelfde beoordelaar of beoordelingsregels. Tel hoeveel taken direct bruikbaar zijn, hoeveel herstel vragen en hoeveel worden afgewezen. Pas daarna heeft een kostenvergelijking betekenis.

De rekensom in gewone taal

Voor de cloud tel je modelverbruik, aanvullende API-hulpmiddelen, hosting, koppelingen, mislukte pogingen en beheer. Voor lokaal tel je afschrijving of huur van hardware, stroom, koeling, opslag, back-ups, beveiligingsupdates, monitoring en de tijd van degene die het systeem draaiende houdt. In beide routes komen menselijke controle, foutenherstel en eventuele softwarelicenties erbij.

Een bruikbare formule per maand is:

Totale kosten per goedgekeurde taak = (techniek + beheer + menselijke controle + herstel) / aantal goedgekeurde taken.

Tel geweigerde of mislukte pogingen wel mee in de kosten, maar niet als afgeronde taak. Meet daarnaast de doorlooptijd en de kwaliteit. Een maandgemiddelde kan pieken verhullen: een lokale machine moet de drukke uren ook aankunnen, of werk komt alsnog in een wachtrij.

Een uitgewerkt voorbeeld met zichtbare aannames

Onderstaande bedragen zijn fictief en bedoeld om de rekenwijze te tonen. Ze zijn geen offerte, eigen benchmark of voorspelling voor jouw bedrijf. Stel: 10.000 documenten per maand. Voor een cloudroute gebruiken we ter illustratie GPT-6 Sol met 2.000 inputtokens en 500 totaal gefactureerde outputtokens per document. Volgens OpenAI’s modelpagina was het standaardtarief op 23 september 2026 $2 en $10 per miljoen tokens bij deze invoerlengte. Dat levert $90 kale modelkosten op. Voor de voorbeeldtabel nemen we ook voor de overige, verzonnen posten Amerikaanse dollars aan. Een echt budget moet de valuta en wisselkoers expliciet vastleggen.

Maandpost in USD; overige posten fictief Cloud Lokaal
Modelverbruik of hardwareafschrijving 90 200
Hosting, stroom en opslag 60 90
Technisch beheer en updates 150 400
Menselijke controle en herstel 700 800
Totaal 1.000 1.490
Goedgekeurde taken in deze proef 9.000 8.500
Kosten per goedgekeurde taak 0,111 0,175

De uitkomst draait zodra de aannames veranderen. Als er al geschikte hardware en beheer aanwezig zijn, kunnen de extra lokale kosten lager zijn. Bij een nieuw apparaat, wisselend volume of vaker herstel kunnen ze hoger zijn. De aantallen goedgekeurde taken hierboven zijn verzonnen om de noemer te laten zien; ze zeggen niets over de werkelijke kwaliteit van Sol of een lokaal model. Vergelijk echte resultaten en factureerbare kosten voordat je een terugverdientijd noemt.

Voor de overige cloudmodellen laat dezelfde kale tokenrekening de spreiding zien: GPT-6 Luna komt bij 10.000 × (2.000 invoer + 500 gefactureerde uitvoer) uit op $4,50, Opus 5.5 op $180. Dat zijn alleen standaardtokens, zonder cache, gereedschap, herhalingen, belasting of mensenwerk. De modellen leveren niet automatisch dezelfde uitkomst. Een tokenvergelijking is dus een startpunt voor een test, geen winnaar.

Privacy is een ontwerpvraag voor de hele keten

Een lokaal model kan gegevens op eigen apparatuur verwerken. Dat voordeel bestaat alleen voor de delen die echt lokaal werken. Een chatkanaal, externe zoekfunctie, cloudback-up, meetdienst of automatische fallback kan informatie alsnog doorsturen. Maak daarom een gegevenskaart: welke gegevens komen binnen, waar worden ze verwerkt en opgeslagen, wie kan erbij en hoe worden ze verwijderd?

Een clouddienst is evenmin automatisch ongeschikt voor persoonsgegevens. Beoordeel doel, grondslag, contracten, toegangsrechten, logging, bewaartermijnen en internationale gegevensstromen voor de concrete dienst. Omgekeerd is een lokale installatie niet vanzelf in lijn met de AVG: een onbeveiligde server, brede toegang of onbeheerde back-up blijft een risico. Bij gevoelige gegevens kan de eis waar verwerking plaatsvindt doorslaggevend zijn, ook als een route duurder is.

Wanneer is lokaal de moeite van het testen waard?

Lokaal wordt interessanter bij een stabiele, grote hoeveelheid vergelijkbare taken, beschikbare capaciteit voor beheer of een aantoonbare eis om verwerking binnen een eigen omgeving te houden. Cloud kan eenvoudiger zijn bij laag of wisselend volume, wanneer je snel wilt starten of wanneer een modelwissel zonder hardwareproject belangrijk is. Hybride kan passen als verschillende taken echt verschillende grenzen hebben, maar voegt extra routering en foutpaden toe.

Begin niet met de aankoop van een machine. Maak eerst een set van bijvoorbeeld 50 geanonimiseerde voorbeelden met normale gevallen en uitzonderingen. Meet voor beide routes de kwaliteit, tijd, kosten en uitval. Neem één maand proefgebruik en de benodigde beheeruren mee. Beschrijf daarna welk verschil groot genoeg is om de overstap te rechtvaardigen.

Eerste stap

Kies één taak en noteer het maandvolume, de huidige behandeltijd, onacceptabele fouten en de eis voor gegevensverwerking. Vul de vier kostenposten uit de tabel in met je eigen cijfers. Gebruik de BRAIGHT Blueprint om bevoegdheden, informatie en menselijke controle vast te leggen voordat de gekozen route live werk raakt.

Bronnen

Tarieven gecontroleerd op 23 september 2026. Alle andere bedragen en kwaliteitspercentages in de voorbeeldtabel zijn expliciet hypothetisch. Herbereken met actuele prijzen en eigen testdata.