Jan installieren: Lokale KI einfach nutzen
Jan Schritt für Schritt installieren, ein passendes lokales KI-Modell laden und den ersten Chat starten – verständlich erklärt für Windows, macOS und Linux.
In diesem Artikel
Artikel
- Lesezeit
- 7 Min. Lesezeit
- Veröffentlicht
- Format
- Einsteiger-Guide
- Niveau
- Einsteiger
- Thema
- Datenschutz
Mit Jan kannst du ein KI-Modell direkt auf deinem Computer nutzen – in einer übersichtlichen Chat-App, die ähnlich funktioniert wie bekannte KI-Chatbots. Für einen ersten lokalen Chat brauchst du weder ein Konto noch Programmierkenntnisse. Die App ist als Open-Source-Software verfügbar und läuft auf Windows, macOS und Linux.
Dieser Quick Start führt dich von der Installation bis zur ersten Antwort. Du erfährst außerdem, woran du ein passendes Modell erkennst, wie du Dateien verwendest und wie du sicher zwischen lokaler Verarbeitung und optionalen Cloud-Modellen unterscheidest. Die Anleitung entspricht dem Stand vom 24. Juli 2026.
Das Wichtigste vorab
- Jan ist kostenlos und offen. Lade die App ausschließlich von der offiziellen Website oder dem offiziellen GitHub-Repository.
- Beim ersten Start lädt Jan automatisch ein lokales Standardmodell. Nach dem Download kannst du sofort chatten.
- Lokale Modelle arbeiten auf deinem Gerät. Cloud-Modelle verarbeiten deine Eingaben dagegen beim jeweiligen Anbieter.
- Plane genügend Speicher ein. Mindestens 8 GB RAM sind nötig; mit 16 GB gelingt der Einstieg deutlich angenehmer.
Was du für Jan brauchst
Jan ist die App, nicht das eigentliche KI-Modell. Die App übernimmt Download, Chatoberfläche und Einstellungen. Das Modell ist eine separate Datei mit den gelernten Fähigkeiten der KI. Jan lädt diese Datei in den Arbeitsspeicher deines Computers und berechnet die Antwort dort. Deshalb kann dieselbe App je nach gewähltem Modell sehr unterschiedliche Ergebnisse liefern.
Jan unterstützt Windows 10 oder neuer, Apple-Silicon-Macs ab macOS 13.6 sowie verbreitete Linux-Distributionen. Auf Windows und Linux muss der Prozessor AVX2 unterstützen. Für die App und erste Modelle solltest du mindestens 10 GB freien Speicher einplanen. Große Modelle benötigen deutlich mehr Platz.
Eine eigene Grafikkarte ist für den ersten Versuch nicht zwingend. Sie kann Antworten aber erheblich beschleunigen. Auf Apple-Silicon-Macs nutzt Jan die integrierte Metal-Beschleunigung automatisch; auf Intel-Macs lässt sich die aktuelle Version nicht installieren. Prüfe vorab die Anforderungen für Windows, macOS oder Linux.
Schritt 1: Jan herunterladen und installieren
Öffne die offizielle Downloadseite von Jan. Verwende für den Einstieg die stabile Version, nicht eine Beta- oder Nightly-Ausgabe.
Für Installation und Modelldownload brauchst du zunächst eine Internetverbindung. Danach kann ein bereits geladenes lokales Modell auch offline antworten. Plane für den ersten Start etwas Zeit ein: Modelldateien sind häufig mehrere Gigabyte groß. Schließe Jan während des Downloads nicht und achte bei einem Notebook auf eine stabile Stromversorgung.
Windows
- Lade die Windows-Version herunter.
- Öffne die heruntergeladene
.exe-Datei. - Warte, bis die Installation abgeschlossen ist, und starte Jan.
macOS
- Lade die Mac-Version herunter und öffne die
.dmg-Datei. - Ziehe Jan in den Ordner „Programme“.
- Öffne Jan aus dem Programme-Ordner.
Linux
Unter Linux gelingt die Installation am einfachsten als Flatpak über Flathub. Alternativ stehen ein .deb-Paket für Ubuntu und Debian sowie ein AppImage bereit. Wenn du Flatpak bereits eingerichtet hast, installierst und startest du Jan mit diesen beiden Befehlen:
- Installieren:
flatpak install flathub ai.jan.Jan - Starten:
flatpak run ai.jan.Jan
Schritt 2: Das erste lokale Modell laden
Beim ersten Start lädt Jan automatisch ein lokales Standardmodell. Lass Jan geöffnet, bis der Download beendet ist. Danach kannst du direkt losschreiben. Der Vorteil dieses Wegs: Du musst für den ersten Test weder eine Modellfamilie noch eine Quantisierung auswählen.
Wenn du später ein anderes Modell ausprobieren möchtest, öffnest du links den Hub. Jan bewertet dort Modelle anhand deiner Hardware mit Hinweisen wie „Fits“, „May be slow“ oder „Won’t fit“. Wähle für den Anfang ein Modell mit „Fits“ und nutze die markierte Downloadgröße. Eigene GGUF- und MLX-Modelle lassen sich ebenfalls importieren.
Ein gutes erstes Modell
- wird von Jan als passend für dein Gerät eingeordnet,
- belegt nicht fast deinen gesamten verfügbaren Arbeitsspeicher,
- ist als Chat- oder Instruct-Modell gekennzeichnet und
- stammt aus einer nachvollziehbaren Quelle mit Modellbeschreibung und Lizenz.
Schritt 3: Deinen ersten Chat führen
- Öffne einen neuen Chat.
- Kontrolliere im Modellwähler am Eingabefeld, dass dein heruntergeladenes lokales Modell ausgewählt ist.
- Schreibe eine klare Aufgabe in das Eingabefeld und sende sie ab.
- Prüfe die Antwort. Auch ein lokal laufendes Modell kann Fakten erfinden oder Anweisungen missverstehen.
Ich möchte lernen, wie lokale KI funktioniert. Erkläre mir den Unterschied zwischen einem KI-Modell und einer Chat-App in höchstens fünf kurzen Sätzen. Nutze ein Beispiel aus dem Alltag. Stelle mir anschließend eine Rückfrage, um zu prüfen, ob ich die Erklärung verstanden habe.
Für einen realistischen Test solltest du anschließend zwei oder drei eigene Aufgaben verwenden – zum Beispiel einen selbst geschriebenen Text verbessern, eine Liste strukturieren oder einen freigegebenen Inhalt zusammenfassen. So merkst du schnell, ob Qualität und Geschwindigkeit für deinen Alltag reichen.
So erkennst du, ob der Chat wirklich lokal läuft
Der wichtigste Hinweis ist der ausgewählte Modellname am Eingabefeld. Verwende ein Modell, das du zuvor heruntergeladen hast. Ein weiterer einfacher Test: Trenne nach abgeschlossenem Download kurz die Internetverbindung und stelle eine allgemeine Frage. Antwortet Jan weiterhin, läuft dieses Modell auf deinem Gerät. Fragen nach aktuellen Nachrichten eignen sich dafür nicht, weil ein lokales Modell ohne aktivierte Suche nur mit seinem gespeicherten Wissensstand arbeitet.
Lokal oder Cloud: Achte auf das ausgewählte Modell
Jan kann lokale und externe Modelle in derselben Oberfläche anzeigen. Das ist praktisch, aber für den Datenschutz entscheidend:
| Lokales Modell | Cloud-Modell |
|---|---|
| Die Berechnung läuft auf deinem Computer. | Die Berechnung läuft auf den Servern des Anbieters. |
| Nach dem Download ist kein API-Schlüssel nötig. | Du hinterlegst einen API-Schlüssel unter „Settings > Model Providers“. |
| Chats und angehängte Dateien bleiben bei lokaler Nutzung auf deinem Gerät. | Eingaben und verwendete Dateien werden für die Anfrage an den gewählten Anbieter übertragen. |
| Leistung und Modellgröße hängen von deiner Hardware ab. | Es können Nutzungsgebühren, Limits und eigene Datenschutzbedingungen gelten. |
Cloud-Anbieter wie OpenAI, Anthropic oder Google sind in Jan optional. Für einen rein lokalen Start brauchst du dort nichts einzurichten. Prüfe vor vertraulichen Inhalten immer noch einmal den Modellnamen: Lokale Modelle laufen auf deinem Gerät, externe Modelle senden die Anfrage dagegen an den ausgewählten Dienst. Chats und lokale Modelldaten speichert Jan im eigenen Datenordner.
Dateien in Jan verwenden
Du kannst Dokumente an eine einzelne Nachricht anhängen oder sie einem Projekt hinzufügen. Projektdateien stehen dann in allen Unterhaltungen dieses Projekts als Kontext bereit. Für eine einzelne Nachricht klickst du links unten im Eingabefeld auf das Pluszeichen und wählst Dokumente, Bilder oder Audio aus. Alternativ kannst du Dateien auf das Eingabefeld ziehen.
Ob Bilder und Audio funktionieren, hängt vom gewählten Modell ab. Die jeweilige Auswahl erscheint nur, wenn das Modell diese Eingabeart unterstützt. Zu den unterstützten Dokumenttypen gehören unter anderem PDF-, Markdown- und Office-Dateien.
Beginne bei Dokumenten mit einer konkreten Frage wie „Welche drei Fristen nennt diese Datei?“. Verlange zusätzlich, dass Jan fehlende Informationen offen benennt. Kontrolliere wichtige Angaben anschließend im Original: Die lokale Verarbeitung schützt nicht vor falschen Zusammenfassungen oder erfundenen Details.
Modelle, Chats, Einstellungen und Protokolle speichert Jan im eigenen Datenordner. Du kannst dessen Speicherort unter Settings > General > Jan Data Folder ändern. Standardmäßig liegt er unter Windows in %APPDATA%\Jan\data, unter macOS in ~/Library/Application Support/Jan/data und unter Linux in ~/.local/share/Jan/data. Sichere diesen Ordner, bevor du Jan zurücksetzt oder vollständig entfernst.
Häufige Probleme schnell lösen
Das Modell lädt nicht oder Jan meldet zu wenig Speicher
Wähle ein kleineres Modell oder eine kleinere Downloadvariante und schließe speicherintensive Programme.
Eine Antwort dauert sehr lange
Prüfe unter „Settings > Hardware“, ob Jan deine Grafikeinheit erkennt. Ein kleineres Modell ist für den Einstieg häufig die bessere Lösung.
Ein Modelldownload ist beschädigt
Lösche die unvollständige Datei und lade das Modell erneut aus dem Hub.
Ein Cloud-Modell zeigt Fehler 401 oder 403
Prüfe API-Schlüssel, Berechtigungen und Modellzugriff beim Anbieter.
Jan startet nicht oder stürzt ab
Öffne den System Monitor in Jan und prüfe das App-Protokoll. Entferne persönliche Informationen, bevor du Protokolle mit dem Support teilst.
Soll ich Jan auf Werkseinstellungen zurücksetzen?
Nutze den Werksreset nur als letzten Ausweg: Er löscht Chatverläufe, Modelle und Einstellungen.
Nächster Schritt: Mit echten Aufgaben testen
Du hast Jan jetzt installiert, ein lokales Modell geladen und den ersten Chat geführt. Teste das Modell als Nächstes mit wenigen wiederholbaren Aufgaben aus deinem Alltag. Erst wenn du dabei an klare Grenzen stößt, lohnt sich die Suche nach einem größeren Modell oder neuer Hardware.
Wie Modellgröße, Arbeitsspeicher und Hardware zusammenhängen, erklären wir im ausführlichen Einsteiger-Guide „Open-Source-KI lokal nutzen: Modelle, Software und Hardware“.