EN Demo anfragen

Glossar

KI-Begriffe, einfach erklärt.

40 Begriffe rund um Sprachmodelle, Datenschutz und Betrieb.

API: Eine API ist eine Schnittstelle, über die Programme miteinander sprechen. Statt im Browser zu klicken, schickt deine Anwendung Anfragen und bekommt Antworten zurück. kayetana bietet eine REST-API unter /v2.

API-Key: Ein API-Key ist ein geheimer Schlüssel, mit dem sich eine Anwendung bei einer API ausweist. Wer den Key hat, darf Anfragen stellen, deshalb gehört er nicht in fremde Hände. In kayetana hat jeder Key ein eigenes Monatslimit.

Aufbewahrungsfrist: Eine Aufbewahrungsfrist legt fest, wie lange Daten gespeichert bleiben, bevor sie gelöscht werden. Kurze Fristen bedeuten weniger gespeicherte Daten. In kayetana wählst du für Nutzungsprotokoll und Datasets unbegrenzt, 7, 30, 90 oder 365 Tage.

Auftragsverarbeitung: Auftragsverarbeitung liegt vor, wenn ein externer Dienstleister personenbezogene Daten in deinem Auftrag verarbeitet. Dafür braucht es nach DSGVO in der Regel einen eigenen Vertrag. Läuft die KI im eigenen Haus, gehen Prompts gar nicht erst an einen externen Dienstleister; die rechtliche Bewertung bleibt bei dir.

Cloud-KI: Bei Cloud-KI laufen die Modelle im Rechenzentrum eines Anbieters. Deine Eingaben gehen dafür über das Internet dorthin. Du brauchst keine eigene Hardware, gibst Daten aber aus dem Haus.

Dataset: Ein Dataset ist eine Sammlung von Beispieldaten, etwa Texte mit Labels oder Gesprächsbeispiele. Es dient zum Einbetten, Trainieren oder Prüfen. kayetana nimmt Datasets als CSV, JSONL, TXT, PDF oder Word entgegen.

Datensouveränität: Datensouveränität heißt, selbst zu bestimmen, wo deine Daten liegen und wer sie verarbeitet. Je weniger Daten an Dritte gehen, desto mehr Kontrolle behältst du. Mit kayetana verlassen Prompts und Dokumente das Haus nicht.

Embedding: Ein Embedding ist ein Text, umgewandelt in eine Liste von Zahlen, die seine Bedeutung abbildet. Texte mit ähnlicher Bedeutung bekommen ähnliche Zahlen. Das ist die Grundlage für semantische Suche, Rerank und Klassifikation.

Fine-tuning: Beim Fine-tuning wird ein bestehendes Modell mit eigenen Beispielen nachtrainiert, damit es Stil oder Aufgaben besser trifft. Das Grundwissen bleibt, das Verhalten passt sich an. In kayetana trainierst du so ein Chat-Modell nach und erhältst ein eigenes Modell „ft-name“.

Function Calling: Beim Function Calling kann ein Modell vorgegebene Werkzeuge aufrufen, etwa eine Suche oder eine Datenbankabfrage. Das Modell liefert dazu Name und Argumente, deine Anwendung führt den Aufruf aus. kayetana unterstützt Werkzeuge im Chat.

Halluzination: Eine Halluzination ist eine Aussage, die überzeugend klingt, aber falsch oder erfunden ist. Sprachmodelle erzeugen wahrscheinliche Texte, nicht geprüfte Fakten. Quellenangaben helfen dir, Antworten nachzuprüfen.

Inferenz: Inferenz ist das Anwenden eines fertigen Modells: Du gibst etwas ein, das Modell rechnet eine Antwort aus. Training passiert vorher, Inferenz bei jeder Anfrage. Bei kayetana läuft die Inferenz auf deinem eigenen Mac Studio.

JSON-Modus: Im JSON-Modus antwortet ein Modell in gültigem JSON statt in freiem Text. So kann ein Programm die Antwort direkt weiterverarbeiten. Im Playground von kayetana schaltest du den JSON-Modus je Anfrage ein.

Klassifikation: Bei der Klassifikation ordnet die KI einen Text einer oder mehreren Kategorien zu, etwa Tickets nach Thema. Zu jedem Label gibt es eine Sicherheit. In kayetana geht das mit Beispielen im Aufruf oder mit einem eigens trainierten Klassifikator.

Konfidenz: Die Konfidenz gibt an, wie sicher sich ein Modell bei einer Zuordnung ist, meist als Wert zwischen 0 und 1. Niedrige Werte sind ein Hinweis, genauer hinzusehen. kayetana zeigt beim Klassifizieren die Sicherheit je Label.

Kontextfenster: Das Kontextfenster ist die Menge an Tokens, die ein Modell auf einmal berücksichtigen kann: Anweisung, Verlauf, Dokumente und Antwort zusammen. Was nicht hineinpasst, sieht das Modell nicht. kayetana zeigt die Kontextlänge jedes installierten Modells an.

Kosinus-Ähnlichkeit: Die Kosinus-Ähnlichkeit misst, wie ähnlich zwei Vektoren in ihrer Richtung sind. Ein Wert nahe 1 heißt: sehr ähnliche Bedeutung. So findet eine Suche passende Texte, auch wenn andere Wörter verwendet werden.

LoRA: LoRA ist eine sparsame Methode für Fine-tuning. Statt das ganze Modell zu verändern, werden nur kleine Zusatzgewichte trainiert. Das braucht weniger Speicher und Rechenzeit; kayetana nutzt LoRA für das Nachtrainieren von qwen3:4b-instruct.

Max. Tokens: Max. Tokens begrenzt, wie lang die Antwort eines Modells höchstens werden darf. Ist die Grenze erreicht, bricht die Antwort ab. So hältst du Antworten kurz und Rechenzeit im Rahmen.

Multimodal: Ein multimodales Modell verarbeitet mehr als nur Text, etwa auch Bilder. Du kannst zum Beispiel ein Foto schicken und Fragen dazu stellen. In kayetana geht das mit Modellen, die Bildverständnis mitbringen.

On-Premises: On-Premises heißt: Die Software läuft auf eigener Hardware in den eigenen Räumen, nicht in der Cloud. Du behältst Kontrolle über Rechner und Daten. kayetana läuft auf einem Mac Studio im eigenen Büro bzw. Netz.

Open-Weight-Modell: Bei einem Open-Weight-Modell sind die trainierten Gewichte frei verfügbar. Du kannst es herunterladen und auf eigener Hardware betreiben. Alle mitgelieferten Modelle in kayetana sind offen lizenziert (Apache 2.0 bzw. MIT).

Parameter: Parameter sind die gelernten Zahlen in einem Modell. Die Anzahl, etwa 4 oder 20 Milliarden, ist ein grobes Maß für Größe und Fähigkeit. Mehr Parameter brauchen mehr Speicher.

Prompt: Der Prompt ist die Eingabe, die du einem Modell gibst: eine Frage, eine Aufgabe oder ein Text. Je klarer der Prompt, desto besser passt meist die Antwort. kayetana speichert Prompts nie.

Pseudonymisierung: Bei der Pseudonymisierung werden Namen und andere direkte Merkmale durch Kennzeichen ersetzt. Ohne Zusatzwissen lässt sich eine Person dann nicht mehr direkt erkennen. Das senkt das Risiko, ersetzt aber keine sorgfältige Prüfung.

Quantisierung: Quantisierung speichert die Zahlen eines Modells mit geringerer Genauigkeit. Das Modell wird kleiner und braucht weniger Speicher, oft bei nur geringem Qualitätsverlust. So passen größere Modelle auf normale Hardware.

Quellenangabe (Citation): Eine Quellenangabe zeigt, aus welchem Dokument eine Aussage stammt. So kannst du jede Antwort selbst nachprüfen. kayetana setzt hochgestellte Nummern je Satz und eine Quellenliste darunter.

RAG (Retrieval-Augmented Generation): Bei RAG bekommt das Modell passende Textstellen aus deinen Dokumenten mitgeliefert und antwortet auf dieser Grundlage. So stützt sich die Antwort auf deine Unterlagen statt nur auf das Trainingswissen. kayetana zeigt dabei je Satz, aus welcher Quelle die Aussage stammt.

Rate Limit: Ein Rate Limit begrenzt, wie viel über eine Schnittstelle abgerufen werden darf. Wird die Grenze überschritten, lehnt die API weitere Anfragen ab. kayetana setzt ein Monatslimit je Key und antwortet darüber mit Status 429.

Reasoning: Beim Reasoning denkt ein Modell in Zwischenschritten nach, bevor es antwortet. Das hilft bei kniffligen Aufgaben, dauert aber länger. In kayetana schaltest du Reasoning ein oder aus und legst ein Budget fest.

Rerank: Beim Rerank wird eine Liste von Dokumenten nach ihrer Relevanz zu einer Frage neu sortiert. Das Wichtigste steht danach oben. kayetana sortiert dafür über die Embedding-Ähnlichkeit mit bge-m3.

Self-Hosting: Self-Hosting bedeutet, einen Dienst selbst zu betreiben, statt ihn bei einem Anbieter zu nutzen. Du bestimmst, wo er läuft und wer Zugriff hat. kayetana ist eine selbst gehostete KI-Plattform.

Sprachmodell (LLM): Ein großes Sprachmodell ist ein KI-Modell, das mit sehr viel Text trainiert wurde und Texte verstehen und schreiben kann. Es sagt Token für Token voraus, was wahrscheinlich folgt. Chat, Zusammenfassungen und Antworten aus Dokumenten beruhen darauf.

Streaming: Beim Streaming kommt die Antwort Stück für Stück, während das Modell noch schreibt. Du siehst den Anfang sofort, statt auf das Ende zu warten. kayetana streamt Chat-Antworten per Server-Sent Events.

Systemprompt: Der Systemprompt ist eine Anweisung, die vor dem eigentlichen Gespräch steht und das Verhalten des Modells festlegt, etwa Rolle, Ton oder Regeln. Er gilt für alle folgenden Nachrichten. Im Playground von kayetana setzt du ihn als Systemanweisung.

Temperature: Die Temperature steuert, wie zufällig ein Modell formuliert. Niedrige Werte liefern gleichbleibende, sachliche Antworten, hohe Werte mehr Abwechslung. Im Playground stellst du sie je Anfrage ein.

Token: Ein Token ist ein Textstück, mit dem ein Sprachmodell rechnet, oft ein Wortteil oder ein kurzes Wort. Modelle lesen und schreiben Text als Folge von Tokens. In kayetana zerlegst du Text unter Tokens selbst in Tokens und wieder zurück.

Transkription: Transkription wandelt gesprochene Sprache in geschriebenen Text um. Zeitmarken zeigen, wann etwas gesagt wurde. kayetana transkribiert Aufnahmen wie MP3, M4A oder WAV bis 100 MB.

Vektor: Ein Vektor ist eine geordnete Liste von Zahlen. In der KI steht ein Vektor meist für die Bedeutung eines Textes, also für sein Embedding. kayetana liefert Vektoren in den Formaten float, int8, uint8, binary und ubinary.

Whisper: Whisper ist ein offenes Spracherkennungsmodell für Transkription in vielen Sprachen. kayetana nutzt Whisper large-v3-turbo.