Case Study
Lead Architect & Developer·October 2024 to Present
FlowOne: KI-Agenten-Orchestrierungsplattform
Lead-Architekt einer AI-nativen SaaS-Plattform mit Agent Studio, Workflow Studio und Voice AI. Echtzeit-WebSocket-Sprachpipeline (STT → LLM → TTS) mit ElevenLabs und Twilio, Omnichannel-Integrationen und ein Multi-Tenant-FastAPI-Backend.
01
Überblick
FlowOne ist eine KI-native SaaS-Plattform, die ich als Architekt und Entwickler leite und die Agent Studio, Workflow Studio und Voice AI in einem Produkt vereint. Sie wurde entwickelt, um Agentic AI von einer Demo zu etwas zu machen, das Unternehmen wirklich produktiv einsetzen können.
02
Die Herausforderung
Teams, die KI-Produkte bauten, kombinierten unzusammenhängende Tools: hier ein Chatbot-Builder, dort eine Workflow-Automatisierungsplattform, dazu ein separater Voice-AI-Anbieter. Kein einziges System deckte den gesamten Agenten-Lebenszyklus von Design bis Deployment ab.
03
Der Ansatz
Ich habe FlowOne als eine KI-native Plattform konzipiert: ein Agent Studio und Workflow Studio zum Bauen und Orchestrieren von Multi-Agenten-Systemen, eine Echtzeit-Sprachpipeline für Telefon- und Sprachkanäle sowie Omnichannel-Messaging. Alles läuft auf einem Multi-Tenant-FastAPI-Backend, das für Enterprise-Skalierung gebaut ist.
04
So funktioniert es
Eingehende Ereignisse landen auf Kanal-Adaptern (WhatsApp Business API, Web-Chat, Twilio Voice). Eine workspace-bezogene RAG-Schicht (PostgreSQL mit pgvector) ruft das Wissen des jeweiligen Mandanten ab. Agent Studio plant Tool-Calls, Workflow Studio (LangGraph) führt mehrstufige Graphen aus. Voice ist eine eigene WebSocket-Pipeline: STT, LLM, dann ElevenLabs TTS über Twilio. Auth, Workspaces und Abrechnung sitzen in einem Multi-Tenant-FastAPI-Kern, sodass jeder Mandant isoliert bleibt, ohne die Runtime zu forken.
05
Systemarchitektur
Wie die Teile miteinander sprechen. Bewege den Zeiger über einen Knoten oder wechsle zum Quellcode der Runtime.
Channels
Orchestration
Runtime
06
Was ich gebaut habe
Durchgängige Plattformarchitektur: Agent Studio, Workflow Studio und Voice AI als ein Produkt.
Echtzeit-Sprachpfad von STT über LLM zu TTS per WebSockets, mit ElevenLabs und Twilio.
Omnichannel-Adapter: WhatsApp Business API, geteilter Posteingang und Web-Chat auf derselben Agenten-Runtime.
Multi-Tenant-FastAPI-Backend mit Auth, Workspaces, Isolation und Drittanbieter-Integrationen.
RAG über PostgreSQL, sodass jeder Workspace nur sein eigenes Wissen abruft.
07
Ergebnisse
Architektur einer modularen Multi-Agenten-Plattform mit RAG-Pipelines, Tool-Calling-Workflows und Enterprise-Automatisierung.
Echtzeit-WebSocket-Sprachpipeline (STT → LLM → TTS) mit ElevenLabs und Twilio entwickelt.
Omnichannel-Integrationen inklusive WhatsApp Business API, Shared Inbox und Web-Chat gebaut.
Skalierbares Backend mit FastAPI, PostgreSQL, Docker und WebSockets aufgebaut.
Sichere Authentifizierung, Workspace-Verwaltung und Drittanbieter-API-Integrationen entwickelt.
Multi-Tenant-Architektur und modulare Backend-Services für skalierbare Enterprise-Deployments implementiert.
08
Ergebnisse
Eine einzige Steuerungsebene für Agenten, Workflows und Voice statt drei getrennter Anbieter.
Produktionsreife Mandantenfähigkeit: eine Codebasis, viele isolierte Workspaces.
Voice und Chat nutzen dieselben Tool-Calling-Agenten, ohne parallelen ‚Voice-Bot‘-Fork.
09
Was ich gelernt habe
Agenten-Demos scheitern in Produktion an Mandantenfähigkeit, Evals und Latenz. Diese Punkte hatten vom ersten Tag an Priorität.
Voice braucht eine Streaming-Pipeline, keinen Request-Response-Chatbot hinter einer Telefonnummer.
Tool-Calling ohne Retrieval ist ein selbstsicherer Lügner. RAG muss workspace-bezogen sein.
10
Tech-Stack
Hast du etwas Ähnliches im Kopf?
Ich bin offen für neue Projekte. Lass uns über deine Idee sprechen.