Wie wird künstliche Intelligenz wirklich smart?

Sie machen tausenden Nutzer:innen das Telefonie-Leben leichter, indem sie die Call-Nachbereitung automatisieren, wenn nicht komplett übernehmen. Aber da geht noch mehr!  Na klar, für unsere Kund:innen steht im Vordergrund, welche Features wir für sie zur Verfügung stellen können und welchen Mehrwert diese für die tägliche Arbeit haben. Aber gerade beim (Weiter-) Entwickeln von AI-Produkten ist das “Wie” genauso wichtig wie das “Was”. Denn das hat starke Auswirkungen auf die Qualität der Ergebnisse.

AI Assist zieht ins Agent Network

Bisher steht jedes unserer AI Assist Features für sich. Nicht nur inhaltlich, schließlich bekommen die sipgate App-Nutzer:innen die Ergebnisse an unterschiedlichen Stellen präsentiert, sondern auch technisch. Basierend auf den Transkripten wird jede weitere Funktionalität ausgeführt, unabhängig davon, ob weitere AI-generierte Inhalte entstehen. Sie “wissen” nichts voneinander. Und warum sollten sie auch? In der klassischen Software-Entwicklung haben natürlich einzelne Features auch indirekt Einfluss aufeinander, AI-Features oder -produkte eröffnen hier aber ganz neue Möglichkeiten. Anstatt alle Features unabhängig nebeneinander zu stellen, haben wir sie nun in einem Agent Network miteinander verbunden. 

Ein Agent Network (oder Agent-based architecture) besteht im Wesentlichen aus mehreren spezialisierten „Agenten“, also Software-Komponenten oder KI-Modulen, die jeweils auf bestimmte Sub-Aufgaben spezialisiert sind. Diese Agents kooperieren, tauschen Informationen aus und ergänzen sich, anstatt dass eine einzige monolithische Komponente versucht, alle Features allein abzudecken.

Man kann sich das vorstellen wie ein Team:

• Der eine Agent transkribiert,
• ein anderer erkennt Themen,
• ein weiterer erstellt To-dos und bereitet Betreffzeilen vor,
• wieder ein anderer generiert Gesprächsvorschläge oder Antworten, usw.

Bessere Ergebnisse durch mehr Flexibilität

Okay, aber das klingt vom Funktionsumfang nach genau dem, was wir bereits haben, oder? Schon, und genau hier kommen wir zurück auf die Bedeutung des “Wie”: Agent Networks bieten einzigartige Vorteile: 

1. Besserer Fokus durch Kontextisolierung 

Jeder Agent eines Netzwerkes hat genau eine Aufgabe. Diese muss sehr klar beschrieben und von anderen abgegrenzt werden. Dadurch kann man die Anweisungen für das LLM zielgerichtet und spitz formulieren, was sich positiv auf die Ergebnisqualität auswirkt. Je komplexer ein Prompt ist und je mehr implizite und explizite Anweisungen und Unteraufgaben er enthält, desto größer das Risiko für uneindeutige Resultate und Halluzinationen. Agent Networks ermöglichen in einer zusammenhängenden Struktur, Aufgaben einfach runterzubrechen.

2. Bessere Qualität durch Feedback

Auf Grund ihrer Struktur sind Agent Networks sehr flexibel. Die einzelnen Agents stehen miteinander im Kontakt, können sich Feedback geben und Fehler des jeweils anderen identifizieren und korrigieren. Diese Einflussnahme kann gestärkt und bewusst manipuliert werden, damit noch bessere Ergebnisse entstehen. So kann man auch die Autonomie der jeweiligen Netzwerke und einzelner Agents steuern. 

3. Bessere Passung durch schnellere Entwicklung 

Zudem können schneller und einfacher einzelne Agents ergänzt werden, die ganz konkrete Funktionen übernehmen, zum Beispiel dezidierte Kontrollen von Ergebnissen. In der Vergangenheit hatten wir ab und an Probleme mit Zusammenfassungen in falschen Sprachen oder vereinzelten Halluzinationen. Kontroll-Agents können gezielt solche Fehler identifizieren und Korrekturen vornehmen, ohne dass wir dafür komplexe Logik implementieren müssen. Auf demselben Weg können wir in deutlich kürzerer Zeit auch neue Funktionalitäten umsetzen, ohne jeweils eine neue API Route (auf-) bauen zu müssen.

4. Bessere Features durch Testoptionen 

AI basierte Features und Produkte zu entwickeln, die wirklich Mehrwert generieren, verlangt schnellere Feedbackschleifen und ausführlicheres Testen, bereits in frühen Entwicklungsstadien. Agent Networks ermöglichen das. Agents können einfach dupliziert und angepasst werden, um dann basierend auf A/B Tests die bessere Variante wählen zu können und weiterzuentwickeln. Wir können zudem spezialisierte Feedback Agents implementieren, die Ergebnisse analysieren und Vorschläge für Verbesserungen machen.

5. Bessere Resultate durch Kontext & Tools

Last but not least: Agents lassen sich deutlich leichter mit Tools ausstatten. Sei es, um Informationen aus externen Quellen heranzuziehen, um Namen und Mailadressen direkt erkennen und korrigieren zu können, oder auch um konkrete Informationen an die richtigen Orte, wie CRMs oder den eigenen Kalender zu pushen.

Das Agent Network wird zur starken Assistenz für AI Assist

Wenn heute ein Anruf endet, startet im Hintergrund nicht mehr nur eine einzelne Funktion, sondern ein ganzes Team von spezialisierten Agents. Zuerst entsteht die Transkription des Gesprächs, die anschließend von weiteren Agents überprüft und verfeinert wird. Ein Datenschutz-Agent entfernt auf Wunsch persönliche Informationen wie Telefonnummern oder Adressen, während ein Qualitäts-Agent das Transkript nach Tippfehlern und unverständlichen Passagen checkt und verbessert. Parallel kümmert sich ein Fachwort-Agent darum, dass branchenspezifische Begriffe, Fremdwörter und Eigennamen korrekt erfasst werden. Auch unklare Zeitangaben wie „nächsten Dienstag“ werden durch einen weiteren Agenten in konkrete Daten übersetzt, damit es später keine Missverständnisse gibt.

Auf dieser verbesserten Grundlage treten dann die eigentlichen Assistenzfunktionen in Aktion: Zusammenfassungen werden erstellt, To-dos erkannt, Betreffzeilen vorgeschlagen und Themen markiert. Ein weiterer Agent prüft anschließend, ob sich Informationen doppeln oder Aufgaben mehrfach auftauchen, und sorgt dafür, dass das Ergebnis schlank und konsistent bleibt. Zum Schluss kommen externe Tools ins Spiel: CRM-Systeme können automatisch mit Daten gefüllt, Kalender mit Terminen bestückt oder Ticketsysteme mit neuen Aufgaben versorgt werden – alles orchestriert von den Agenten im Hintergrund.

Aktuell schrauben wir an den letzten Feinheiten, um das Agent Network im Labs Bereich experimentierfreudigen User:innen der sipgate App zur Verfügung zu stellen.

‍