AnythingLLM ist eine Open-Source-App von Mintplex Labs für Windows, die KI-Chat, Arbeitsbereiche mit Dokumenten und Agenten vereint – lokal oder mit Cloud-Modellen. Version 1.16.2.
AnythingLLM bewerten
Durchschnitt 0.0 · Bewertungen: 0
Vielen Dank! Ihre Bewertung wurde gespeichert, Sie können sie noch ändern. Die Bewertung konnte nicht gespeichert werden. Bitte versuchen Sie es später erneut. Aus Ihrem Netzwerk wurden heute zu viele Bewertungen abgegeben. Bitte versuchen Sie es morgen erneut. Der Durchschnitt erscheint ab 5 Bewertungen.
Über AnythingLLM
AnythingLLM 1.16.2 für Windows ist eine quelloffene Desktop-Anwendung von Mintplex Labs, die Chat, Dokumentensuche und KI-Agenten unter einer Oberfläche mit Arbeitsbereichen zusammenführt. Das Modell kann mit dem eingebauten Runner lokal laufen, über Ollama oder LM Studio auf demselben PC kommen oder bei einem Cloud-Anbieter per API. Der Download auf dieser Seite ist der offizielle Installer vom CDN des Herstellers; Version 1.16.2 erschien am 22. September 2026.
Das Prinzip der Arbeitsbereiche
Alles dreht sich um Arbeitsbereiche. Jeder hat eigene Dokumente, einen eigenen Chatverlauf und eigene Einstellungen – bis hin zum Modell, das antwortet. Ziehen Sie PDFs, Textdateien oder Webseiten in einen Arbeitsbereich, zerlegt und indexiert AnythingLLM sie, damit das Modell auf Basis ihres Inhalts antworten kann; dieses Verfahren heisst RAG, Retrieval-Augmented Generation. Agenten gehen einen Schritt weiter und nutzen Werkzeuge wie Webrecherche oder Dateioperationen, um eine Aufgabe in mehreren Schritten zu erledigen. Für Server und Teams gibt es eine Docker-Edition; die hier beschriebene Desktop-App ist für eine Person an einem Rechner gedacht.
Woher kommen die Modelle?
- Der eingebaute lokale Runner lädt ein Modell herunter und führt es aus.
- Eine vorhandene Installation von Ollama oder LM Studio dient als Backend.
- Für grössere Modelle lassen sich API-Anbieter in der Cloud eintragen.
Mit lokalem Backend verlassen Dokumente und Fragen den Rechner nicht. Bei einem Cloud-Anbieter werden sie dorthin übertragen und nach dessen Bedingungen verarbeitet.
Systemanforderungen
AnythingLLM läuft unter Windows 10 und neuer und ist auch für macOS und Linux erhältlich. Der Hersteller empfiehlt 16 GB Arbeitsspeicher. Eine Grafikkarte ist optional; NVIDIA per CUDA, AMD-Grafik und NPUs können lokale Modelle beschleunigen. Der Installer AnythingLLMDesktop.exe ist ca. 390 MB gross. Einzelheiten stehen auf der Seite zu den Systemanforderungen.
Im Vergleich mit anderen lokalen KI-Apps
| Programm | Schwerpunkt | Open-Source |
|---|---|---|
| AnythingLLM | Arbeitsbereiche mit Dokumenten und Agenten, mehrere Backends | ja (MIT) |
| Ollama | Engine mit Kommandozeile und lokaler API | ja |
| LM Studio | Modellkatalog und Chatfenster | nein |
| Jan | Chat für lokale und Cloud-Modelle | ja |
| GPT4All | Chat mit lokalen Dokumenten (LocalDocs) | ja |
Häufig werden zwei davon kombiniert: Ollama oder LM Studio als Engine, AnythingLLM als Ort für Dokumente und Unterhaltungen.
Lizenz und Kosten
AnythingLLM ist kostenlos und steht unter der MIT-Lizenz; der Quellcode liegt im Repository Mintplex-Labs/anything-llm. Modelle behalten ihre eigenen Lizenzen, und angebundene Cloud-Anbieter rechnen nach ihren eigenen Tarifen ab.
Vorteile und Nachteile
- Vorteil: Dokumente, Agenten und Chat in einem Programm.
- Vorteil: arbeitet mit eigenem Runner, mit Ollama, LM Studio oder Cloud-APIs.
- Vorteil: Open-Source unter MIT.
- Nachteil: mehr Einstellungen als ein einfacher Chat.
- Nachteil: für flüssiges Arbeiten ist viel Arbeitsspeicher nötig.