Integreer AI in je HCL Notes applicaties en haal je die Wingman in eigen huis

Met de aandacht die AI systemen als ChatGPT, CoPilot en Watson trekken kan je makkelijk vergeten dat er ook alternatieven zijn. Wat dacht je er van om je eigen maatwerk te voorzien van AI-functionaliteit via een eigen on-prem AI-server? Dat is minder complex dan je zou verwachten…

Gevoelige data op cloud servers?

Bij het gebruik van de bekende AI cloud oplossingen moet je jouw data delen met de AI-providers. Deze providers delen hun AI-servers met andere klanten in hetzelfde datacenter. AI uit de cloud is wel makkelijk, maar bij vertrouwelijke documenten is het delen van je data met derden niet wenselijk. Met ITAR-data is dat helemaal lastig.

Er is een alternatief!

Als het plaatsen van data in een cloud een probleem vormt, is er een alternatief. Het is vrij eenvoudig is om je eigen AI server op te tuigen, waardoor jouw data intern kan blijven.

Er zijn diverse aanbieders die de zogenaamde LLM’s (Large Language Models) op jouw eigen hardware kunnen laten draaien. Een aantal daarvan is zelfs gratis beschikbaar.

Large Language Models (LLM's)

Een LLM is een AI-model (er zijn er vele). Het is ‘iets’ dat taal en wat basiskennis heeft vergaard (getraind), teksten kan ‘leren’ en daar mee kan werken. Zulke modellen zijn beschikbaar als .GGUF of .GGML bestanden, die je tot leven kan wekken met een LLM-server/ player. En dat kan ook op je eigen computer!

Daar hoef je geen kamer vullende mainframes of kwantumcomputers voor in te zetten. Neem bijvoorbeeld het populaire gratis opensource project Llama, dat op een standaard pc kan draaien en geschikt is voor persoonlijk gebruik. Daarmee heb je binnen een uurtje jouw eigen AI-Wigman in huis. Voor extra performance kan je daar een game-video kaart (GPU) aan toevoegen.

Jouw eigen AI server

Een eigen on premise AI-server functioneert vrijwel hetzelfde als een clouddienst, maar uiteraard wel kleinschaliger. Een voordeel is dat je zelf aan de knoppen zit en fine-tuning naar wens kan doorvoeren. Uiteraard vergt het onderhoud van je eigen AI-server wel tijd en kennis.

Een eigen AI-server kent ook ingangen (api’s) waar je als ontwikkelaar tegen aan kan praten. Bijvoorbeeld vanuit andere applicaties. Zo kunnen jouw bestaande HCL Notes (maatwerk) applicaties vrij eenvoudig voorzien worden van AI-functionaliteit.

Daarmee kun je bijvoorbeeld e-mails aanbieden aan je (eigen óf Cloud) AI-server en vragen om een samenvatting, een suggestie te laten geven voor een antwoord of een slimme vraag. Ook vertalen van tekst naar een andere taal is ineens verassend eenvoudig.

AI integreren in applicaties

AI is een fascinerende ontwikkeling, die zeker niet alleen voor 'off the shelf' applicaties beschikbaar is. Ook maatwerk applicaties kunnen achteraf worden voorzien van AI-functionaliteit. Dat kan met eigen AI-machines of via AI-diensten uit de Cloud.

In de aankomende HCL Notes/ Domino versie 14.5 komt ondersteuning om eenvoudiger met deze AI-API’s te communiceren. Maar ook zonder deze nieuwe functies is nu al veel mogelijk.

Wil je meer weten?

Op woensdag 21 mei 2025 verzorgen Duco Bergsma en Roland Driesen een sessie over hoe AI zijn plek kan veroveren binnen moderne platformen, op de jaarlijkse Engage conferentie, die dit jaar plaatsvindt in Den Haag.

Op dinsdag 24 juni 2025 organiseren we een AI inspiratie avond. Meer informatie en inschrijven kan op de speciale event website.

Tip: volg ons op LinkedIn, zodat je nooit een bericht van ons mist.