AI har sat strøm til et globalt vækstkapløb uden fortilfælde. Men dét til trods mangler der ofte kvalitet (og sandhed) i svarene fra vores AI-værktøjer. Det er der dog en effektiv løsning på! En løsning, som giver jeres AI mulighed for faktisk at forstå jer – og dermed tænke og svare som jer. Den skal blot have adgang til sådan cirka alt – men er det sikkert?
Roller og relationer
Giver man en vilkårlig AI adgang til sine dokumenter og data? Det korte svar er nej. Men har I derimod jeres egen AI, i jeres egen cloud-løsning – placeret i jeres eget datacenter, så er sagen en anden. Sikkerhedsaspektet gemmer vi lidt og fokuserer først på selve løsningen: Nogle kalder det hentningsforstærkning. Andre kalder det dokumentforståelse. Den tekniske betegnelse bærer den lidet mundrette betegnelse, Retrieval-Augmented Generation. For alles bedste, kalder vi det en RAG-løsning.
Groft forenklet handler det om, at I lader jeres AI drage sine konklusioner på baggrund af jeres data, jeres dokumenter, tekster og strategier. Den skal have adgang. Man skal vise den, hvor den skal søge – og fortælle den, hvordan den skal svare. I stedet for at hente sine svar i historiske, generiske data fra overalt i verden, så vil AI’en nu digte mindre og svare ud fra fakta.
AI-specialist og Director, Innovation & Emerging Technologies, Leif Elgaard Høj, fortæller: ”Med en RAG-løsning i jeres eget system går vi fra general intelligence til narrow intelligence. Hvis man gerne vil have et system i virksomheden, som har en GPT-klingende funktion, så skal den jo svare korrekt. Men problemet er, at AI’er finder på ting. Vi er tæt på sandheden, men vi ved faktisk ikke, om svaret er sandt”, siger han og fortsætter: ”Det kan vi gøre noget ved. Vi kan fortælle vores model, hvordan den skal opføre sig. Ikke kun, hvad den skal svare på – men hvordan den skal svare. Har vi noget om moms-regler i vores system? Du skal svare som om, du er fra Skattestyrelsen. Dermed giver vi vores AI roller og relationer”
RAG-løsninger kort fortalt
Retrieval-Augmented Generation er en teknisk løsning, som højner kvaliteten af udbyttet ved brug af AI. Det gøres ved at give AI’en adgang til egne data – og derefter beder man den om at hente (retrieve) svaret derfra. På den måde vil AI’en ”digte” mindre og i stedet svare ud fra fakta. En anden stor fordel ved RAG er, at ny viden kan gøres tilgængelig uden at gentræne grundmodellen – dog kræver indeksering, datakvalitet og retrieval stadig løbende vedligehold.
Værn om sikkerhed og forretning med jeres egen, private sky
Leif Elgaard Høj svarer kontant på spørgsmålet om følsomhed på data og sikkerhed ved RAG-løsninger. AI og data hænger uløseligt sammen, men AI hænger også uløseligt sammen med cloud-løsninger. ”I udgangspunktet uploader du alt dit materiale i en offentlig sky, hvor efter en offentlig AI cruncher dine data. Der vil ALTID være en risiko forbundet med det. Data kan blive eksponeret – du har ikke fuld kontrol. I Danoffice IT er det et scenarie, vi for alt i verden vil undgå. Derfor tilbyder vi altid vores kunder en Private Cloud for AI-løsning, en såkaldt PCAI. Her er alle kundens data sikre og altid opbevaret på egen grund og med fuld kontrol”.
Hvad er en Private Cloud for AI?
De fleste er bekendte med beskaffenheden af en cloudløsning. Vi har nogle data, som vi gemmer i skyen. Hvor vores data, ved vi dog ikke helt, men vi kan tilgå dem, og det effektivt. Dén løsning kaldes public cloud. Det er nemt, men sikkerheden er lidt ”oppe i luften” – og det er bestemt ikke en joke. Det tætteste, vi kommer på modsætningen til en public cloud er et on-premises datacenter. Et fysisk, lokalt datacenter. Nogle ville indtil for nyligt kalde det ”den gamle model”, men på grund af global geopolitisk uro er den blevet brandvarm – på grund af datasikkerhed.
Med en on-prem-løsning kan vi nemlig bygge en private cloud-løsning. Her kan I som virksomhed opnå alle de kendte fordele fra en public cloud – men nu er skyen jeres helt egen. Og den bor hos jer fysisk. Næste skridt er jeres AI. En AI beror på en cloud-løsning, så derfor er sondringen helt den samme: Hvis du anvender delte AI-tjenester, afgiver du samtidig en del af kontrollen af datahåndteringen, compliance og driftsmæssig gennemsigtighed. Derfor introducerer vi nu markedets stærkeste Private Cloud for AI-løsning.
Kontrol og kontekst
”Hvis man som domstol, kommune eller anden offentlig institution har brug for en hurtig afgørelse, kan du anvende en AI og spare mange ressourcer. Men du skal have et system, som svarer på en meget specifik måde, og som kender forskel på sagstyperne – som kender al tænkelig lovgivning, fx ved personsager. Hvis man anvendte en offentlig GPT-løsning vil svarene afvige fra hinanden, og man kan ikke genskabe information fra gang til gang” fortæller Leif, inden han uddyber et kritisk aspekt: ”Noget andet er, at når vi har med personer at gøre, så skal der være governance, GDPR og tung data-compliance. Samlet set hører sådanne løsninger kun hjemme on-premises, altså i en Private Cloud-løsning. Det er vores eneste mulighed for at give AI’en ultimativ kontekst – og stadig være i fuld kontrol”.
Få en god rejse
I Danoffice IT har vi bygget mange RAG-løsninger – helt aktuelt et system til offentlige organisationer, hvor dataintegritet vægtes ekstremt højt. En RAG-løsning, hvor man kan konfigurere sine AI-agenter i et såkaldt hierarki, som Leif forklarer. ”Systemet er bygget i lag. Øverst ligger governance og regler for adfærd, adgang og compliance. Dernæst ligger retrieval-laget, hvor AI’en finder relevant information i organisationens egne kilder. Herefter kommer orkestreringen, som styrer, hvordan opgaven løses. Nederst ligger selve svarlaget, hvor tonen, formaliteten og fagligheden formes. Det giver en AI-løsning med langt højere kontrol og konsistens”, fortæller han. ”Vi bygger et system, som har en hierarkisk relation for dine såkaldte AI-agenter, som sikrer, at du har fuld kontrol og compliance ned igennem din AI”.
Alt dette lader sig i udgangspunktet kun gøre, hvis du opstiller din RAG-løsning på en PCAI – en Private Cloud for AI. Men fordelene stopper ikke her, fortæller Leif: ”Med en PCAI er vi ikke kun i kontrol rent sikkerhedsmæssigt. Modsat en public AI, så behøver vi ikke hele tiden træne vores AI i kompetence-laget. Dét er super vigtigt for at få en AI-rejse med agilitet og udvikling. Ved at frigøre ressourcer fra træning og vedligehold kan vi holde fokus på andre vigtige ting, som skaber direkte værdi”, slutter Leif Elgaard Høj, Director, Innovation & Emerging Technologies i Danoffice IT.
LÆR MERE:
