Diensten/AI-architectuur & kosten

AI die meegroeit, zonder dat de rekening meegroeit.

Veel AI-functies zijn betaalbaar in een demo, maar niet in productie. Ik richt de architectuur zo in dat de kosten per gebruiker voorspelbaar blijven, ook als het gebruik groeit.

Tjibbe van der Ende — Oprichter, WeabyBekijk een voorbeeldproject →

Waar de kosten zitten

In de meeste AI-opzetten zit de besparing op dezelfde drie plekken.

1

Het verkeerde model

Een groot model voor een taak die een klein model ook kan. Het prijsverschil per aanroep kan flink zijn.

2

Dubbel werk

Dezelfde vraag of hetzelfde document telkens opnieuw laten verwerken, zonder caching.

3

Alles in de cloud

Modellen die op het apparaat of op eigen hardware kunnen draaien, maar toch per aanroep worden afgerekend.

Hoe ik het inricht

Ik begin bij wat u nu betaalt en waarvoor. Daarna pas ik alleen aan wat aantoonbaar iets oplevert.

01

Kosten in kaart

Wat kost elke AI-functie per aanroep en per gebruiker, en waar zit het meeste volume?

02

Routering per taak

Een klein model waar het kan, een groot model waar het moet.

03

Caching en batching

Herhaalde vragen uit de cache, zwaar werk gebundeld op momenten dat het goedkoper is.

04

On-device of self-hosted

Waar het volume hoog is of privacy telt, draait het model lokaal of op eigen hardware.

Wat u krijgt

  • Een architectuurvoorstel met kosten per gebruiker
  • Een overzicht van maatregelen, op volgorde van besparing
  • Implementatie van de maatregelen die het meest opleveren
  • Inzicht in kosten per functie na livegang

Lopen uw AI-kosten op?

Neem uw huidige opzet en maandkosten mee naar de quickscan. Ik laat zien waar de grootste besparing zit.