Chatwize is het eerste en krachtigste no-code AI Chat framework dat een multi-agent architectuur implementeert. Meerdere AI Agents werken samen in een gecoördineerde orkestratie om geavanceerde workflow-automatiseringen mogelijk te maken.

We presenteren deze handleiding om je te helpen begrijpen hoe onze Agents samenwerken, en om je enkele best practices te delen met betrekking tot het ontwerpen van een multi-agent chatbot.

Alle Agents hebben twee toestanden:

  • Actief: Agent is “Connected”. Hij is live en actief.

  • Inactief: Agent is “Disabled”. Hij doet niets.

Slechts één enkele Agent communiceert op enig moment met de gebruiker. Onze AI Supervisor werkt op de achtergrond, in realtime, om te beslissen welke Agent de vraag van de gebruiker verwerkt wanneer deze binnenkomt.

Agents zijn volledig geïsoleerd van elkaar. Dit betekent dat je Agent B niet kunt vertellen wat te doen vanuit Agent A, en je kunt de AI Supervisor niet direct instrueren om het stokje over te dragen van Agent A naar Agent B. De AI Supervisor kan niet via natuurlijke taal worden aangestuurd.

De AI Supervisor wijst gebruikersvragen toe aan AI Agents op basis van de Agent beschrijving. Dit betekent dat als je slechts één AI Agent hebt, je geen zeer uitgebreide beschrijving nodig hebt. Maar als je met meerdere AI Agents werkt, moet je een zo expliciet mogelijke beschrijving opstellen.

  • Agent Beschrijving - Wat voor taken moet de Agent uitvoeren?

  • Agent Prompt - Hoe moet de Agent zijn taken uitvoeren?

De beschrijving van de AI Agent is anders dan de Prompt. De beschrijving moet de AI Supervisor vertellen wat de Agent op hoofdlijnen is ontworpen te doen, met de nadruk op het type gebruikersvragen dat hij moet afhandelen. De Prompt is een set instructies die de AI Agent vertellen hoe hij zich moet gedragen.

Goede Agent beschrijvingen moeten de vraag beantwoorden “Welk type vragen moet de Agent afhandelen?” Meer specifiek moeten Agent beschrijvingen alle relevante “user intents” omvatten die hij dient af te handelen.

Agent beschrijvingen moeten niet in detail treden over “hoe de Agent zijn taak uitvoert”. Dat deel is voorbehouden aan de Prompt van de Agent.

Hier zijn enkele voorbeelden van goede Agent beschrijvingen:

Chatwize Support

Belichaam de rol van “Chatwize Expert,” een gespecialiseerde gids voor Chatwize. Je voornaamste doel is om gebruikers te helpen met het beantwoorden van Chatwize-gerelateerde vragen over:

  • Use cases

  • Functies en mogelijkheden

  • Databeveiliging

  • Prijzen

  • AI Agents en multi-agent architectuur

  • Gebruikersidentiteitsverificatie

  • Chunk curation

  • Function calling

  • Partnership programma

  • Custom domains

  • Tokens

Alle intenties die door deze Agent worden afgehandeld, moeten gerelateerd zijn aan Chatwize.

Product Expert

De Product Expert behandelt alle gebruikersvragen met betrekking tot de producten van Example Company. Dit omvat vragen over:

  • Productbeschikbaarheid
  • Productspecificaties
  • Prijs
  • Verzendlocatie
  • Garantie
  • Retourbeleid
  • Disclaimer, juridische kennisgevingen en waarschuwingslabels

Order Status Assistant

De Order Status Assistant behandelt alle gebruikersvragen met betrekking tot de status van een bestelling. Dit omvat vragen over:

  • Tracking van het pakket
  • Huidige locatie van het pakket
  • Geschatte levertijd
  • Compensatie bij late levering

Wat maakt een goed ontwerp voor een multi-agent chatbot? Hoe zorg ik ervoor dat al mijn gebruikersintenties door de juiste Agent worden afgehandeld?

In het algemeen is een multi-agent architectuur uitstekend voor het laten samenwerken van gespecialiseerde AI Agents als een team. Elke AI Agent kan getraind worden op een andere set brongegevens, aangedreven worden door een andere LLM, een andere Prompt hebben, of zelfs verschillende tools (functies) krijgen. Het is veel effectiever dan alles in één enkele Agent stoppen.

Aan de oppervlakte zullen je gebruikers niet merken dat ze met meerdere AI Agents communiceren wanneer ze met de chatbot praten, aangezien alle complexe orkestratie naadloos op de achtergrond plaatsvindt. Met de juiste opzet zullen zij het gevoel hebben dat ze met een mens praten in plaats van met een machine. Een multi-agent chatbot heeft het potentieel veel krachtiger te zijn dan single-agent systemen zoals ChatGPT.

In ons AI Supervisor routing-ontwerp gebruiken we een algoritme dat de latentie balanceert met de prestaties. Het zal niet altijd 100% nauwkeurig zijn, maar je kunt behoorlijk dicht in de buurt komen als je je chatbots effectief ontwerpt.

Debugging the chatbot

Als je merkt dat de chatbot niet reageert zoals je verwacht, kunnen er twee oorzaken zijn.

  1. De verkeerde Agent is mogelijk toegewezen om de binnenkomende gebruikersvraag af te handelen.

  2. De Agent zelf is mogelijk niet optimaal geconfigureerd.

Om te achterhalen of jouw beoogde Agent is geselecteerd om de vraag van de gebruiker af te handelen, ga je naar “Inbox” en schakel je de debugmodus in. Zet deze hier aan:

Onder “Active Agent” zie je de Agent die de reactie heeft gegenereerd. Houd er rekening mee dat je “Active Agent” metadata alleen ziet als je meer dan één verbonden AI Agent hebt.

Als de Agent die de gebruikersvraag heeft afgehandeld niet de juiste was, kun je teruggaan naar de Agent configuratie en de naam, beschrijving of prompt bijwerken.

Als de juiste Agent de gebruikersvraag heeft afgehandeld maar de reactie niet is wat je verwachtte, ligt het probleem bij de Agent zelf. Je zult dan de Agent configuratie moeten bijwerken. De meest directe manier om een reactie te corrigeren is door het antwoord van de AI direct aan te passen:

Dit zorgt ervoor dat de chatbot elke keer dat dezelfde vraag in de toekomst wordt gesteld (ervan uitgaande dat dezelfde Agent is gekozen) een antwoord genereert op basis van jouw aanpassingen.

Als je de Agent over het algemeen robuuster en consistenter wilt maken, kun je de trainingsdata cureren, een krachtigere LLM kiezen, of explicieter zijn in je basisprompt.

Om enkele best practices voor het trainen van de chatbot te leren, zie best practices for preparing training data

Voor meer informatie over het fijn-tunen van Agent intents, bekijk het artikel Fine-Tuning Agent Intents.