Werkzeuge ändern sich. Kriterien bleiben.
Acht Aufgaben, für die KI-Werkzeuge in Frage kommen. Jeder Eintrag trägt gleich die zwei Bedingungen, an denen es im Betrieb scheitert: Betriebsort und Einstiegsaufwand.
Werkzeuge nach Aufgabe
selbst im Einsatz 08
näher betrachtet 07
im Blick 05
20 Werkzeuge · 8 Aufgaben · Stand 2. August 2026
-
LLM-Zugang 05
Zugang zu Sprachmodellen, gebündelt oder direkt beim Anbieter.
-
Workflow 02
Abläufe verdrahten, ohne sie zu programmieren.
-
Wissensbaustein 03
Eigene Dokumente auffindbar und abfragbar machen.
-
Agenten-Framework 03
Mehrschrittige Abläufe mit Werkzeugzugriff bauen.
-
Coding-Agent 02
Code lesen, schreiben und ändern lassen.
-
Orchestrierung 02
Datenflüsse steuern und schützen.
-
Plattform 02
Fertige Oberfläche für den täglichen Gebrauch.
-
Browser-Agent 01
Oberflächen bedienen, die keine Schnittstelle anbieten.
Jedes Werkzeug mit seinen Grenzen.
Wofür ein Werkzeug taugt, steht neben dem, wofür es nicht taugt. Beides stammt aus der jeweiligen Einordnung. Keine Bestenliste, sondern eine nachvollziehbare Momentaufnahme.
20 von 20
- Coding-Agent selbst im Einsatz
Claude Code
Anthropic
CLI-basierter KI-Pair-Programmer (Claude Sonnet 5 bzw. Opus 5) mit Datei-, Test- und Subagenten-Zugriff – das praktischste Werkzeug für KI-Arbeit im echten Code-Repo.
- wofür gut
-
- Refactorings über mehrere Dateien hinweg
- Fehleranalyse mit Lese-Zugriff aufs Repo
- wofür nicht
-
- Teams ohne Code-Review-Disziplin (KI-Code braucht Augen)
- Greenfield-Architekturen ohne menschliche Vorgabe
Closed Source gehostet EU abhängig Einstieg mittel
- Wissensbaustein selbst im Einsatz
FastAPI
Sebastián Ramírez (Open Source)
Modernes Python-Web-Framework für APIs – der Klebstoff zwischen Modellen, Vektordatenbank und Frontend.
- wofür gut
-
- RAG-APIs, Inferenz-Endpunkte, Daten-Pipelines
- Async-Workloads (parallele LLM-Calls, Stream-Antworten)
- wofür nicht
-
- Klassisches Server-Side-Rendering (dann eher Django oder Astro)
- Teams ohne Python-Erfahrung – eine Sprach-Entscheidung
Open Source self-hostbar EU-Betrieb Einstieg schwer
- Wissensbaustein selbst im Einsatz
Jina AI
Jina AI GmbH (Berlin)
Multilinguale Embedding- und Reranker-API aus Berlin – die Bausteine, die Texte in Vektoren wandeln und Suchergebnisse nachsortieren, inzwischen bis hin zu multimodalen Modellen.
- wofür gut
-
- Mehrsprachige RAG-Systeme (DE/EN/FR/IT in einem Index)
- Reranker, der bei umgangssprachlichen Anfragen die richtige Stelle findet
- wofür nicht
-
- Komplettes Air-Gap (dann selbst hosten mit BGE oder E5)
- Sehr hohe Volumen (Pricing wird teuer – Self-Hosting prüfen)
Closed Source gehostet EU-Betrieb Einstieg leicht
- LLM-Zugang selbst im Einsatz
LiteLLM
BerriAI (Open Source, MIT)
Selbst betriebener Proxy vor allen Sprachmodellen – eine einheitliche API, virtuelle Schlüssel, Budgets und eine Stelle, an der Prompts geprüft werden können.
- wofür gut
-
- Eine Schnittstelle für OpenAI, Anthropic, Mistral, Azure und lokale Modelle
- Virtuelle API-Schlüssel je Team oder Anwendung, mit Budget und Nutzungsprotokoll
- wofür nicht
-
- Betrieb ohne eigenen Server – der Proxy will betrieben, aktualisiert und abgesichert werden
- Eine fertige Prüfoberfläche für maskierte Inhalte, die gibt es nicht
Open Source self-hostbar EU-Betrieb Einstieg mittel
- Orchestrierung selbst im Einsatz
Microsoft Presidio
Microsoft (Open Source, MIT)
Erkennt und ersetzt personenbezogene Daten in Texten – als eigener Dienst vor dem Sprachmodell, mit eigenen Regeln für deutsche Nummernformate.
- wofür gut
-
- Personenbezogene Daten aus Prompts entfernen, bevor sie einen Anbieter erreichen
- Deterministische Typen mit Prüfziffer: IBAN, Steuer-IdNr., Sozialversicherungsnummer
- wofür nicht
-
- Gescannte Unterlagen ohne saubere OCR – Lesefehler zerstören genau die Prüfziffern, von denen die Erkennung lebt
- Personennamen allein aus dem Modell heraus: spaCy trägt auf deutschen Geschäftstexten nur mit ergänzenden Regeln
Open Source self-hostbar EU-Betrieb Einstieg mittel
- Workflow selbst im Einsatz
n8n
n8n GmbH (Berlin)
Visuelle Workflow-Plattform – Du klickst Integrationen zusammen statt sie zu programmieren, und kannst trotzdem Code einbetten wenn nötig.
- wofür gut
-
- Mail-Triage, CRM-Anreicherung, Dokumenten-Pipelines
- Self-Hosting im eigenen Docker-Stack – kein Vendor-Lock-in
- wofür nicht
-
- Workflows mit komplexen, langen Mehragenten-Schleifen (dann eher LangGraph)
- Einmal-Skripte – die schreibst Du in 20 Minuten in Python schneller
Open Source self-hostbar EU-Betrieb Einstieg mittel
- LLM-Zugang selbst im Einsatz
OpenRouter
OpenRouter Inc.
Eine API-Schnittstelle für 300+ Sprachmodelle – du wechselst das Modell ohne Code-Änderung, zahlst nur Verbrauch.
- wofür gut
-
- Modell-Vergleiche ohne neuen Vertrag pro Anbieter
- Preisbewusster Betrieb (Preise pro Modell transparent, keine Aufschläge auf Standard-Routing)
- wofür nicht
-
- Strikt EU-only ohne Enterprise-Vertrag (EU-Routing über eu.openrouter.ai nur mit Enterprise-Konfiguration)
- Hochsensible Daten ohne BYOK- oder Zero-Data-Retention-Setup
Closed Source gehostet EU abhängig Einstieg leicht
- Wissensbaustein selbst im Einsatz
Qdrant
Qdrant Solutions GmbH (Berlin)
Vektordatenbank für RAG-Systeme – speichert Dokument-Embeddings und liefert in Millisekunden die ähnlichsten Treffer zu einer Frage.
- wofür gut
-
- RAG-Pipelines mit kontrollierten Hosting-Anforderungen
- Self-Hosting in Docker, läuft auf einem 4-GB-VPS für KMU-Wissensbasen
- wofür nicht
-
- Klassische Volltext-Suche (das ist Pagefind oder Meilisearch)
- Wenige Dokumente – bei < 500 Chunks reicht oft ein simpler Index
Open Source self-hostbar EU-Betrieb Einstieg mittel
- Agenten-Framework näher betrachtet
CrewAI
CrewAI Inc.
Python-Framework, das mehrere KI-Agenten als 'Crew' mit Rollen und Aufgaben orchestriert – inzwischen auch mit Flows für event-getriebene Ablaufsteuerung.
- wofür gut
-
- Recherche → Auswertung → Bericht-Pipelines
- Crews mit klaren Rollen (Researcher, Writer, Reviewer), sequenziell oder hierarchisch mit Manager-Agent
- wofür nicht
-
- Sehr granulare State-Maschinen mit vielen Bedingungen und Schleifen (dann LangGraph)
- Workflows mit vielen externen Integrationen (dann n8n)
Open Source self-hostbar EU-Betrieb Einstieg schwer
- Coding-Agent näher betrachtet
Cursor
Anysphere Inc.
VS-Code-Fork mit eingebautem KI-Pair-Programmer – Tab-Autovervollständigung, Multi-File-Edit, eigenes Composer-2.5-Modell für längere Agenten-Aufgaben.
- wofür gut
-
- Entwickler, die in einer IDE arbeiten und KI nicht nebenher wollen
- Schneller Einstieg ins KI-gestützte Coden – minimaler Lernkurve
- wofür nicht
-
- Teams, die VS Code aus Lizenz- oder Compliance-Gründen nicht nutzen dürfen
- Reine Kommandozeile-orientierte Workflows (dort ist Claude Code stärker)
Closed Source gehostet EU abhängig Einstieg leicht
- Plattform näher betrachtet
Flowise
FlowiseAI Inc. (Open Source)
No-Code-Plattform zum visuellen Bauen von LLM-Apps und Agenten – Drag-and-Drop-Editor, seit Agentflow V2 auch mit granularer Workflow-Steuerung.
- wofür gut
-
- Schnelles Prototypen ohne Python-Code
- Workshop-Settings, in denen Fachabteilungen mitgestalten sollen
- wofür nicht
-
- Production-Workloads mit komplexen Anforderungen (dann Code statt Visual)
- Hochfrequente Workflows mit niedrigen Latenz-Anforderungen
Open Source self-hostbar EU-Betrieb Einstieg leicht
- Agenten-Framework näher betrachtet
LangGraph
LangChain Inc.
Graph-basiertes Agenten-Framework – seit Version 1.0 der von LangChain empfohlene Standard für produktionsreife Agenten mit Schleifen, Verzweigungen und persistentem State.
- wofür gut
-
- Komplexe Mehragenten-Topologien mit Bedingungen und Schleifen
- Durable Execution: Agenten überstehen Abstürze und laufen über Tage weiter (State wird automatisch persistiert)
- wofür nicht
-
- Schnelle Prototypen ohne Klarheit über die Topologie
- Teams ohne Python- oder TypeScript-Erfahrung
Open Source self-hostbar EU-Betrieb Einstieg schwer
- Workflow näher betrachtet
Make
Celonis / Make (Tschechien)
SaaS-Workflow-Plattform – schöner Editor, breite Integration, kein Self-Hosting nötig.
- wofür gut
-
- Wenn niemand eigene Server betreiben will
- Einsteiger ohne IT-Abteilung – sehr UX-freundlich
- wofür nicht
-
- DSGVO-empfindliche Daten ohne genaue Standort-Prüfung
- Komplexe Workflows mit hoher Last (Pricing wird teuer)
Closed Source gehostet EU abhängig Einstieg leicht
- LLM-Zugang näher betrachtet
Mistral AI
Mistral AI (Frankreich)
Französischer Anbieter offener und gehosteter Sprachmodelle (u.a. Large 3, Small 4, Codestral, Voxtral) – EU-Datenschutz ohne Umweg über Cloud-Konzerne, Preise ohne EU-Aufschlag.
- wofür gut
-
- DSGVO-empfindliche Workloads ohne US-Vertrag, Datenresidenz in der EU serienmäßig
- Self-Hosting der Apache-2.0-Modelle (Large 3, Small 4, Ministral 3) – Lizenz vorher je Modell prüfen
- wofür nicht
-
- Wenn Du das absolute Spitzenmodell für sehr anspruchsvolles Reasoning brauchst (dann eher Claude oder GPT)
- Wenn Du auf ein etabliertes großes Partner-Ökosystem/Tooling wie bei den US-Platzhirschen setzen willst
Open Source self-hostbar EU-Betrieb Einstieg leicht
- Plattform näher betrachtet
OpenWebUI
Open WebUI (Community, USA)
Self-Hosted Chat-UI fuer Mitarbeitende mit integrierter RAG-Engine, RBAC und Anbindung an EU-Modelle – DSGVO-konforme ChatGPT-Alternative.
- wofür gut
-
- Mitarbeiter-Chat auf firmeneigenem Wissen (Wiki, SharePoint, PDFs)
- DSGVO-konforme Ablösung von ChatGPT Enterprise oder Copilot
- wofür nicht
-
- Konzerne > 50 Nutzer mit Pflicht zu komplettem White-Label (Enterprise-Lizenz nötig)
- Reine Dokumenten-Workspaces ohne Chat-Charakter (AnythingLLM passt besser)
Closed Source self-hostbar EU-Betrieb Einstieg leicht
- LLM-Zugang im Blick
Anthropic API
Anthropic
Direkte API zur Claude-5-Modellfamilie (Fable 5, Opus 5, Sonnet 5, Haiku 4.5) – stark bei Programmieraufgaben, langen Kontexten und nuancierter Sprache.
- wofür gut
-
- Code-Generierung und -Refactoring (Claude ist 2026 in der Spitzengruppe)
- Lange Kontexte (1M Tokens bei Opus 5 und Sonnet 5 – komplette Repos passen rein)
- wofür nicht
-
- Strikte EU-Datenschutz-Anforderungen ohne BYOK
- Vendor-Lock-in-Vermeidung (über OpenRouter ist flexibler)
Closed Source gehostet EU abhängig Einstieg leicht
- Browser-Agent im Blick
Anthropic Computer Use
Anthropic
Claude steuert einen virtuellen Computer – Maus, Tastatur, Screenshot – und löst Aufgaben in Bestandssoftware, die keine API hat.
- wofür gut
-
- Legacy-Software ohne API automatisieren (mit Mensch im Loop)
- Test-Automatisierung von Web-Apps
- wofür nicht
-
- Produktive vollautonome Workflows
- Compliance-kritische Aktionen ohne Audit-Trail
Closed Source gehostet EU abhängig Einstieg schwer
- Agenten-Framework im Blick
Hermes Agent
Nous Research
Open-Source autonomer Agent mit persistentem Gedächtnis und Skill-Loop – lernt aus Erfahrung, läuft ab 5-Dollar-VPS bis GPU-Cluster.
- wofür gut
-
- Persönliche Assistenten für Geschäftsführer (Wachstum mit Nutzung)
- Self-Hosting in voller Hoheit, OpenRouter-kompatibel
- wofür nicht
-
- Multi-User-Org-Tools (eher persönliches Werkzeug, ein Install pro Klient/Marke)
- Enterprise-Anforderungen: RBAC, immutable Audit-Logs, zentrale Kostenlimits fehlen
Open Source self-hostbar EU-Betrieb Einstieg schwer
- LLM-Zugang im Blick
OpenAI API
OpenAI
Direkte API zu GPT-5.6 (Sol, Terra, Luna) und den OpenAI-Embedding-Modellen – der Standard, an dem sich der Rest des Marktes misst.
- wofür gut
-
- Wenn das beste verfügbare Modell für eine spezifische Aufgabe gebraucht wird
- OpenAI-spezifische Features (Agents SDK inkl. Computer-Use-Tool, Realtime, Vision)
- wofür nicht
-
- Strikte EU-Datenschutz-Anforderungen ohne BYOK / Enterprise-Vertrag
- Vendor-Lock-in-Vermeidung (dann lieber via OpenRouter)
Closed Source gehostet EU abhängig Einstieg leicht
- Orchestrierung im Blick
Paperclip
Paperclip (Open Source)
Orchestrierungs-Plattform, die KI-Agenten als 'Firma' mit Org-Chart, Tickets, Budgets und Audit-Trail verwaltet – beantwortet die Frage 'wie greift KI in einer Organisation?'
- wofür gut
-
- Mehrere Agenten unter Aufsicht und mit harten Budgets laufen lassen
- DSGVO/EU-AI-Act-Konformität durch Audit-Trail per Default
- wofür nicht
-
- Einfache Use-Cases mit nur einem Agenten – Overkill
- Teams ohne Erfahrung im Hosting kleiner Node-Apps
Open Source self-hostbar EU-Betrieb Einstieg mittel
Zu dieser Auswahl ist kein Werkzeug eingeordnet.
Aus der aktiven Landkarte genommen.
Werkzeuge verschwinden nicht still. Frühere Einschätzungen bleiben mit Datum und Begründung nachvollziehbar.