AI zonder cloud – volledig in eigen beheer

Bij veel bedrijven zijn er zorgen over het gebruik van commerciele AI diensten:

• Wat gebeurt er met de gegevens?
• Is alles goed beveiligd?
• Is het juridisch of beleidsmatig toegestaan om de gegevens hierheen te sturen?
• Kunnen we deze dienst blijven gebruiken ook als de geopolitieke situatie verder verslechtert?

Gelukkig is er een snelle en relatief goedkope oplossing. Het is goed mogelijk zelf AI te draaien vergelijkbaar met ChatGPT, Gemini of Copilot. Er zijn veel open source oplossingen beschikbaar, en ook vele open/gratis AI modellen, zoals Llama, Gemini of zelfs DeepSeek of Qwen.

Het kan echter lastig zijn om zoiets op te zetten. Misschien is de kennis niet in huis, of is die er wel, maar is iedereen te druk.

Ik bied organisaties een volledig lokaal draaiende AI-oplossing, zonder afhankelijkheid van commerciële clouddiensten. Het systeem draait op eigen hardware, is veilig, uitbreidbaar en ontworpen voor volledige controle over data en modellen.

Deze oplossing is ideaal voor:

• Biotech- of medtechbedrijven met gevoelige gegevens
• Onderzoeksinstellingen die AI willen gebruiken zonder cloud
• Teams die willen experimenteren met AI op een veilige, afgeschermde manier
• Organisaties die privacy, autonomie en kostenbeheersing belangrijk vinden

Omdat dit nieuwe technologie is, starten we met een pilot-setup. Zo ontdekken jullie snel en veilig waar AI echt waarde toevoegt in jullie organisatie. Als de pilot succesvol is kunnen we dit uitbouwen zodat het systeem geschikt wordt voor gebruik in kritische processen.

Vergelijking Commerciëel en zelf gehost

Pilot Setup

De pilot setup bestaat uit 1 server met een Nvidia RTX 5090 kaart. Hier draait Mistral 7B op (of in overleg een ander model). De AI is toegankelijk via een webinterface vergelijkbaar met ChatGPT of via een OpenAI API voor eenvoudige integratie met andere software.

Jullie bestellen zelf de hardware. Hou hier rekening met 10.000-15.000 euro. Ik zorg voor de installatie, oplevering, training en documentatie. Jullie kunnen hierna zelf aan de slag, en zijn 100% veilig.

Prijsindicatie: 10.000 excl. BTW

Een totaalbedrag van 25.000 is een redelijke investering, maar voor 40 werknemers afgeschreven over 3 jaar komt dit neer op 17 euro/maand per persoon. Daarnaast kom je niet voor onverwachte kosten te staan.

Productie Setup

Als de pilot setup goed bevalt is deze uit te breiden met 1 of meer productie servers.

Jullie bestellen zelf de hardware, net zoals bij de pilot. Ik lever de systemen werkend op, inclusief training en documentatie. Ik plaats de servers achter een loadbalancer, waardoor het systeem blijft draaien als er 1 server uitvalt. Dit maakt het ook mogelijk om onderhoud uit te voeren zonder downtime.

Prijsindicatie: 20.000 excl. BTW

Extra ondersteuning

Als er extra hulp nodig is, bijvoorbeeld voor bijzondere AI wensen, of de integratie met eigen software, dan kan ik daar ook bij helpen. Ik ben een ervaren softwareontwikkelaar en kijk als nodig mee in de code.

Prijsindicatie: 150/uur excl. BTW

Het proces

Als jullie interesse hebben gaan we het volgende proces door. Het doel is om binnen 6 weken volledig operationeel te zijn.

1. We maken kennis en bespreken jullie toepassing om te kijken of deze oplossing voor jullie geschikt is.
2. Ik stel een offerte op & jullie gaan akkoord.
3. Ik lever de specificaties aan van de server die jullie zelf bestellen en aansluiten.
4. Ik richt de server in voor het besproken gebruik. Dit doe ik op locatie bij jullie. Dit omvat:
   1. Installatie van de software.
   2. Configureren van de gekozen AI.
   3. Samen met jullie testen vanaf jullie eigen systemen.
5. Hierna doe ik een grondige overdracht aan jullie eigen IT medewerkers. Dit bestaat uit een korte training voor het onderhoud en duidelijke documentatie.
6. Gefeliciteerd, jullie draaien nu zelfstandig een veilige, krachtige AI, zonder externe afhankelijkheden.

Benieuwd of dit bij jullie past? Neem contact op voor een vrijblijvende kennismaking. Stuur een mail naar info@krolinventions.nl of kijk bij Contact.