Vår agent-gateway i er egen driftmiljö: Så ser en AI-kollega ut under huven

De flesta AI-leverantörer säger "trust us" utan att visa något. Vi tycker det räcker inte. Den här artikeln visar exakt vad som händer när en AI-kollega som Moa eller Erik tar emot ett uppdrag, vad som körs i er egen driftmiljö, vad som körs i molnet, och varför vi byggt det så.

Översikten

Tre saker händer när Moa får ett uppdrag. Först tar vår agent-gateway, som körs i er dedikerade driftmiljö, emot frågan och plockar fram rätt persona, skill och kontext. Sen skickas själva prompten till en ledande språkmodell via API. Slutligen formateras svaret om till naturlig svenska av en liten lokal modell innan det levereras tillbaka.

Allt det här tar några sekunder. Och det är medvetet uppdelat så att rätt sak körs på rätt plats.

Vad körs i er egen miljö

I er egen driftmiljö lever hela "agent-livet":

• Vår agent-gateway, orkestrering av personas, skills och kontext
• Personas, Moa, Erik och övriga AI-kollegor med sina instruktioner och tonalitet
• Bakgrundsjobb och workflows, t.ex. lead-scoring, intent routing, automatisk uppföljning
• Skill-paket, konkreta kompetenser kollegan har (uppdatera webben, skriva mail, hantera CRM)
• Memory, vad kollegan kommer ihåg om er verksamhet och era kunder
• En liten lokal modell, för svensk språkformatering och låg-latens-svar

Det här är er layer. Konfigurationen som gör att Moa beter sig som er Moa, inte som någon generisk assistent. Den lever i en dedikerad, säker driftmiljö inom EU, isolerad från alla andra kunder. Behöver er verksamhet att miljön står fysiskt hos er finns on-prem kvar som tillval.

Vad körs i molnet

Här är vi raka: själva resonemanget sker i molnet. När Moa ska skriva en metabeskrivning, lägga en offert eller svara på ett mail anropas en ledande språkmodell via API. Vi är modellagnostiska, vi väljer den modell som passar bäst för uppgiften, och byter när bättre alternativ dyker upp.

Varför inte fast leverantör? För att modellandskapet förändras varje månad. Att vara modellagnostisk innebär att vi alltid kör på det som är bäst idag, inte på vad vi råkade välja för ett år sedan.

Lämnar er data USA?

Ja. Och vi tycker det är viktigt att vara raka med det. När prompten lämnar er driftmiljö går den till en LLM-leverantör. Vi använder bara leverantörer som är DPF-certifierade enligt EU-US Data Privacy Framework (vilket gör överföringen GDPR-laglig) och som garanterar att API-data inte används för modellträning, er data tränar ingen annans modell.

Är det samma sak som "100% lokalt"? Nej. Och vi säger inte att det är det. Det vi säger är att er affärslogik, era prompter och era data-flöden är synliga och kontrollerbara, och att vi kan migrera tänkandet lokalt den dag modellerna är goda nog.

Varför hybrid är rätt val just nu

En naturlig följdfråga: om datakontroll är så viktigt, varför inte köra hela tänkandet lokalt redan idag?

Svar: lokala modeller är inte tillräckligt bra ännu. Vi har testat. En mindre modell som körs i er egen miljö kan generera text, men den tappar Moa-tonen, missar svenska nyanser och presterar betydligt sämre på det som faktiskt betalar tillbaka, en bra metabeskrivning, ett välformulerat offert-mail, en korrekt kategoriserad lead.

Vi har gjort ett medvetet val: bästa möjliga modell idag, med en arkitektur som är förberedd att flytta lokalt så snart open source-modellerna mognar. Vår agent-gateway är modellagnostisk, vi kan byta över natten utan att röra kollegornas konfiguration.

Vad det betyder för er som kund

Tre konkreta saker:

• Er affärslogik ägs av er, inte oss. Personas, skills och memory ligger som filer i er driftmiljö. Om ni vill avsluta samarbetet får ni med er allt vi byggt, ni har inget lock-in.
• GDPR är lagligt. Vi använder bara DPF-certifierade modell-leverantörer. Vi kan ge er ett DPA om compliance-teamet kräver det.
• Modellen är utbytbar. Om vi hittar en bättre modell imorgon, eller om nuvarande leverantör ändrar pris, byter vi i konfigurationen. Ni gör ingenting. Ni är inte gifta med någon enskild leverantör.

Sammanfattning

Vår agent-gateway i er dedikerade driftmiljö inom EU. All affärslogik ovanpå. Tänkandet hyrs från ledande språkmodeller via API. En liten lokal modell hanterar svensk språkpolering. Hela stacken är kontrollerbar och utbytbar.

Det är inte allt-lokalt. Det är hybrid, och idag är hybrid det smartaste valet. När open source-modellerna mognar flyttar vi tänkandet lokalt också. Men när vi gör det, gör vi det för att det är bättre, inte för att det säljer bättre.

Vill du se hur det skulle se ut hos er? Boka en arkitekturgenomgång så går vi igenom stacken, vilka uppgifter en AI-kollega kan ta över hos er, och hur uppsättningen går till.