Conversational AI besproken door CTO Rene Altena

Wat is conversational AI?  

Bij de term conversational AI hebben de meeste mensen waarschijnlijk twee associaties: chatbots die veel in het klantcontact worden ingezet en ChatGPT van OpenAI (ook toegepast door Microsoft). Waar veel chatbots aan de achterkant gebruikmaken van een beslisboom, gebruikt ChatGPT een generatief taalmodel om tot een antwoord te komen. Daardoor voelen gesprekken veel natuurlijker aan dan discussies met chatbots zoals je die op veel websites vindt.  
 
Conversational AI bestaat uit vier onderdelen. De eerste is NLU: natural language understanding. Daarvoor wordt een neuraal netwerk gebruikt dat wordt getraind met heel veel teksten, waardoor het die teksten steeds beter begrijpt. Stap twee is het eruit filteren van de intent: wat bedoel je nu precies met een vraag? Daar zijn chatbots die gebaseerd zijn op beslisbomen niet erg goed in. En het was ook lastig voor de eerste generatie conversational AI. Maar op dit gebied heeft ChatGPT een enorme stap gemaakt.   

Het derde onderdeel is het toevoegen van context aan de discussie. Dat betekent dat de chatbot uit eerdere vragen de context moet kunnen afleiden. Als je eerst zegt ‘ik heb het koud’ en daarna de vraag stelt ‘op welke temperatuur staat de thermostaat?’, dan kan een contextueel getraind algoritme uit de context afleiden dat de thermostaat waarschijnlijk een graadje omhoog moet (de intent interpreteren).  Het laatste onderdeel is NLG: Natural Language Generation. Ofwel het genereren van antwoorden in een taal die zo goed is dat het lijkt alsof ze door een mens zijn gegeven.  

Wat zijn de voordelen van conversational AI? 

Waar ChatGPT gebruikmaakt van het internet als bron, waardoor je niet goed weet hoe hij tot zijn antwoorden komt en soms ook domweg de verkeerde data gebruikt om tot een antwoord te komen, heeft Microsoft een dienst ontwikkeld waarbij het algoritme van OpenAI wordt ingezet op jouw eigen bedrijfsdata. Je kunt zelf besluiten welke bronnen je toegankelijk wilt maken voor het programma, bijvoorbeeld het ERP-systeem, de kennisdatabank, de productdatabase en de CRM-software. Met toegang tot deze vier bronnen zou ChatGPT vrijwel alle vragen van klanten kunnen beantwoorden. Een enkele keer lukt dat niet, en dan kan de bot de vraag doorzetten naar een specialist in het bedrijf, die dan direct via chat of later via e-mail het juiste antwoord geeft. Deze dienst is in Amerika in betaversie gereleased. Op het moment van schrijven is dit nog niet beschikbaar op de Nederlandse markt, dus meer dan een Amerikaanse demo hebben wij hier in Nederland nog niet kunnen zien. 

Wat maakt conversational AI complex?  

Het grote verschil tussen conversational AI en algoritmen die op de achtergrond gebruikmaken van een beslisboom, is dat conversational AI een vraag gaat interpreteren en daar vervolgens een antwoord bij gaat geven. AI is immers het gebruik van patroonherkenning, in dit geval patronen in taal. Daar komt interpretatie bij kijken en daarna worden de systemen creatief; ze gaan bij het geven van het antwoord als het ware hallucineren. Ze zoeken woordpatronen bij elkaar die ‘logisch’ bij elkaar horen, wat tot hilarische versprekingen kan leiden. Voor sommige toepassingen is dat niet erg of zelfs prima. Bijvoorbeeld als je vraagt: maak een Sinterklaasgedicht voor deze persoon, met deze hobby’s, bij dit cadeau. Maar bij andere toepassingen kan het funest zijn, denk aan het stellen van een medische diagnose. Het hangt dus van de toepassing af wanneer je gebruikmaakt van conversational AI of liever vertrouwt op een beslisboom die geen enkele ruimte laat voor interpretatie. Een mogelijkheid die je ook veel ziet is dat het antwoord dat conversational AI wordt gecontroleerd door een mens. Dit wordt veel gebruikt in de zorg. 

Wanneer je voor welke vorm kiest, hangt in belangrijke mate af van de stand van de technologie. De ontwikkelingen gaan razendsnel. Zoals geschetst komt Microsoft binnenkort met een OpenAI-versie die kan worden ingezet op databronnen die je zelf kiest. Je geeft het systeem dan geen ruimte meer om zelf antwoorden te verzinnen, wat de betrouwbaarheid van de antwoorden significant verhoogt. Een belangrijk aandachtspunt is dat dit ook hoge eisen gaat stellen aan de datakwaliteit. Want één ding blijft hetzelfde: garbage in is garbage out.