Session

OpenParrotAI: Souveräne Multi-Agenten-Architektur für produktive KI mit lokalen LLMs ...

OpenParrotAI ist kein weiterer Chatbot, sondern eine Plattform für produktive, kanalübergreifende KI-Assistenten. Im Zentrum steht eine modulare Multi-Agenten-Architektur: Anfragen aus unterschiedlichen Quellen - wie beispielsweise Telegram, E-Mail, CLI oder Web - laufen über einen klar getrennten Konnektor ein, werden in einer Orchestrierungsschicht verarbeitet, mit Tools und Skills kombiniert und inklusive Sitzungsverlauf, Laufzeitdaten und Audit-Informationen gespeichert. Security by Design ist dabei kein Zusatz, sondern Teil der Grundarchitektur.

Der Beitrag zeigt, wie aus ersten Assistenten-Ideen eine belastbare, enterprise-taugliche Systemarchitektur werden kann. Dazu gehören spezialisierte Services, HTTP-/JSON-Schnittstellen, konfigurierbare Agenten, Multi-User-Fähigkeit, nutzerspezifischer Kontext, kontrollierte Tool-Ausführung, SBOM-gestützte Nachvollziehbarkeit und ein Sicherheitsmodell mit interner Segmentierung, mTLS und gezielter Geheimnisverwaltung.

Besonders relevant ist die Frage nach digitaler Souveränität und Enterprise Readiness. OpenParrotAI kann mit lokalen Modellen über Ollama betrieben werden, Sprachverarbeitung lokal vorbereiten und zugleich externe oder europäisch gehostete Modelle über austauschbare Provider-Profile anbinden. Der Vortrag verbindet Architekturentscheidungen, praktische Betriebsrealität und die Erfahrungen aus dem Spagat zwischen Flexibilität, Sicherheit, Nachvollziehbarkeit, Multi-User-Betrieb und Alltagstauglichkeit.

Jens Thirmeyer

Business Unit Lead & Solution Architect

Munich, Germany

Actions

Please note that Sessionize is not responsible for the accuracy or validity of the data provided by speakers. If you suspect this profile to be fake or spam, please let us know.

Jump to top