← Alle cases

AI Empowers · Energie

Private ChatGPT op bedrijfsdocumenten

Medewerkers stellen vragen in gewone taal en krijgen antwoorden uit interne documenten, met bronvermelding.

  • Energie
  • Private chatbot
  • Document intelligence
KlantEnergieleverancier (anoniem)
SectorEnergie
CategorieAI Empowers
StatusIn productie
Met bronantwoorden, of een eerlijk "geen antwoord"

Het probleem

Medewerkers hadden antwoorden nodig uit een grote verzameling interne documenten, zonder datalekken en zonder een model dat dingen verzint.

De oplossing

Retrieval-augmented generation in plaats van fine-tuning: documenten opgeknipt in overlappende stukken met metadata over toegang, hybride zoeken en antwoorden die hun bronnen vermelden of zeggen dat er geen antwoord is.

Het resultaat

Een private assistent die de rechten op documenten respecteert. Onderweg evalueerden we Redis, FAISS, Databricks, Weaviate en Pinecone.

Het hele verhaal

  1. Waarom geen fine-tuning

    Een model fine-tunen op private data maakt antwoorden moeilijk na te gaan, negeert wie welk document mag zien, vraagt hertraining bij elke update en heeft nog altijd een kennisgrens. Dus hielden we de kennis en het taalmodel uit elkaar.

  2. Hoe het werkt

    Documenten worden opgeknipt in overlappende stukken, met de context van de sectie en metadata over toegang. Hybride zoeken, trefwoorden plus vectoren, vindt de relevante passages, en enkel die gaan naar het model, met één instructie: antwoord op basis daarvan en vermeld de bron, of zeg dat er geen antwoord is.

  3. Op schaal

    De eerste versie indexeerde zo'n 10.000 technische documenten en werd getest op echte vragen in het Frans. Vandaag wordt ze gebruikt in ongeveer negen landen en achttien centrales. Ze groeide uit tot een agent op het Microsoft Agentic Framework die realtime installatieparameters uit het datawarehouse leest, ze vergelijkt met historische cases en ingebouwd zit in de applicatie die mensen op de werkvloer al gebruiken. Hij ondersteunt operatoren, die verantwoordelijk blijven voor complexe of kritieke beslissingen.

Technologie

OpenAI GPT-4EmbeddingsAzure Cognitive SearchMicrosoft Agentic FrameworkAzure Synapse
Sta je voor iets gelijkaardigs?We bouwen jouw versie rond je eigen data.

Vraag het Pai

Vraag Pai naar deze case

Pai is een AI. Hij weet alleen wat op deze pagina staat.

Baby Pai · AIHoi, ik ben Baby Pai, een AI-assistent. Vraag me naar de case van Energieleverancier (anoniem).

Pai is een AI. De antwoorden komen van deze casepagina. Deel geen gevoelige gegevens.

Chats worden 30 dagen bewaard, tenzij je dat uitschakelt in Privacy en keuzes.