kayetana
Modelle

Deine Modelle, deine Wahl.

kayetana arbeitet mit offenen Modellen, die direkt auf deinem Server laufen. Du siehst, was installiert ist, lädst neue Modelle nach und legst fest, welches Modell welche Aufgabe übernimmt.

kayetana.local
Modellverwaltung mit Standardmodellen, installierten Modellen samt Größe, Kontext und Fähigkeiten und dem Feld zum Installieren
Modellverwaltung

Alles Wichtige auf einer Seite.

Für jedes installierte Modell siehst du Größe, Kontextlänge und Fähigkeiten. Oben legst du die Standardmodelle für Chat, Embed und Rerank fest. Darunter installierst du neue Modelle per Name oder löschst, was du nicht mehr brauchst.

  • Größe, Kontextlänge und Fähigkeiten
  • Standardmodell für Chat, Embed und Rerank
  • Installieren und Löschen per Klick
Mitgeliefert

Diese Modelle sind von Anfang an dabei.

ModellAufgabe
qwen3:4b-instructChat, Grundlage für eigenes Fine-tuning
qwen3:14bChat und Reasoning
gpt-oss:20bChat und Reasoning
bge-m3Suche, Rerank und Klassifikation
Whisper large-v3-turboTranskription von Sprache

Alle mitgelieferten Modelle sind offen lizenziert (Apache 2.0 bzw. MIT).

Warum offene Modelle

Was du davon hast.

Läuft bei dir

Die Modelle liegen auf deinem Server. Kein Prompt geht an einen Cloud-Dienst.

Große Auswahl

Weitere offene Modelle lädst du per Name aus der Ollama-Bibliothek nach.

Eigene Varianten

Per Fine-tuning entstehen eigene Modelle, die neben den mitgelieferten erscheinen.

Neues Modell

So kommt ein weiteres Modell dazu.

Namen eingeben

Du trägst den Namen aus der Ollama-Bibliothek ein, etwa für ein größeres Chat-Modell.

Installieren

kayetana lädt das Modell auf deinen Server. Dafür braucht es einmalig Internet.

Als Standard setzen

Wenn es passt, legst du es als Standardmodell für seine Aufgabe fest.

Hardware

Wie viel Modell auf deinen Rechner passt.

Die Größe der Modelle hängt vom Speicher deines Mac Studio ab.

  • Empfehlung: 36 GB Speicher oder mehr
  • Damit Modelle bis ca. 20 Mrd. Parameter
  • Gleichzeitig Suche und Transkription
  • Mehr Speicher erlaubt größere Modelle

Finde die passenden Modelle für dein Team.

Wir beraten dich, welche Modelle und wie viel Speicher zu deinen Aufgaben passen.

FAQ

Häufige Fragen

Kann ich andere Modelle als die mitgelieferten nutzen?

Ja. Weitere offene Modelle lädst du per Name aus der Ollama-Bibliothek nach. Wie groß sie sein dürfen, hängt vom Speicher deines Mac Studio ab.

Was bedeutet Standardmodell?

Für Chat, Embed und Rerank legst du fest, welches Modell verwendet wird, wenn eine Anfrage kein Modell nennt.

Brauche ich für neue Modelle Internet?

Nur zum Herunterladen. Danach läuft das Modell ohne Internet auf deinem Server.

Unter welcher Lizenz stehen die Modelle?

Die mitgelieferten Modelle stehen unter Apache 2.0 bzw. MIT. Bei nachgeladenen Modellen gilt die Lizenz des jeweiligen Modells.