Was ist ein Kontextfenster und warum ist es wichtig?
Ein Kontextfenster ist die Textmenge, die eine KI auf einmal im Blick behalten kann. Alles, was die KI für eine Antwort berücksichtigen soll, muss hineinpassen: deine Anweisungen, das bisherige Gespräch und alle Dokumente. Was nicht hineinpasst, wird schlicht nicht gesehen. Deshalb verlieren lange Chats den Faden, und große Dateien werden nur teilweise gelesen.
Denk an einen Schreibtisch, nicht an ein Gedächtnis
Stell dir einen Schreibtisch fester Größe vor. Die KI kann alles lesen und nutzen, was auf dem Schreibtisch liegt. Ist er voll und kommt ein neues Blatt dazu, muss ein altes runter.
Das ist etwas anderes als das, was die KI beim Bau gelernt hat. Das hat ihr allgemeines Wissen über Sprache und Welt gegeben. Deine Preisliste, deine Kunden oder die E-Mails der letzten Woche waren nicht dabei. Alles über dein Unternehmen muss jedes Mal auf den Schreibtisch gelegt werden.
Eine KI behält auch nichts zwischen zwei Fragen. Ein Chat fühlt sich nur wie ein durchgehendes Gespräch an, weil die App bei jeder neuen Nachricht das ganze Gespräch wieder auf den Schreibtisch legt.
Wie groß ist ein Kontextfenster?
Das hängt vom KI-Modell ab, und die Größen sind schnell gewachsen. Gemessen wird in Tokens, den kleinen Textstücken, in denen eine KI zählt. Heutige Modelle fassen alles von einem langen Bericht bis zu mehreren Büchern.
Vier Zeichen, dass der Schreibtisch voll ist, und was hilft
| Was du bemerkst | Warum es passiert | Was hilft |
|---|---|---|
| Nach einem langen Chat vergisst die KI eine Regel vom Anfang | Frühe Nachrichten wurden fallen gelassen, um Platz zu schaffen | Einen neuen Chat beginnen und die Regel wiederholen |
| Nur ein Teil einer großen Datei wird genutzt | Die Datei passte nicht hinein | Nur den wichtigen Abschnitt schicken |
| Antworten werden langsamer und kosten mehr | Alles auf dem Schreibtisch wird für jede Antwort neu gelesen | Jeden Chat bei einem Thema halten |
| Ein Detail mitten in einem langen Text wird übersehen | Ein Fakt geht zwischen viel anderem Text unter | Weniger Text geben |
Ist ein größeres Fenster die Lösung?
Teilweise. Ein großes Fenster erlaubt dir, einen ganzen Vertrag auf einmal zu übergeben, was nützlich ist. Du musst trotzdem auswählen, was auf den Schreibtisch kommt, aus drei Gründen.
- Alles auf dem Schreibtisch wird jedes Mal gelesen. Kosten und Wartezeit wachsen mit.
- Je mehr fremder Text einen Fakt umgibt, desto leichter übersieht die KI ihn oder verwechselt ihn mit etwas Ähnlichem.
- Kein Fenster fasst ein ganzes Unternehmen. Jahre an E-Mails, Dateien und Datensätzen sind immer größer.
Das Ziel ist, die richtigen paar Seiten auf den Schreibtisch zu legen, nicht die meisten Seiten.
Was gute KI-Software für dich tut
Du solltest den Schreibtisch nicht von Hand verwalten müssen. Gute KI-Software tut drei Dinge.
- Sie sucht zuerst. Eine Suche findet die Passagen, die zu deiner Frage passen, und nur die gehen an die KI.
- Sie fasst zusammen. Wird ein Gespräch lang, werden die älteren Teile zu einer kurzen Zusammenfassung gekürzt.
- Sie beginnt mit dem, was vor dir liegt. Die KI startet mit dem Kunden oder der Bestellung, die du offen hast, nicht mit allem, was sie erreichen könnte.
Wenn du KI-Produkte vergleichst, frag, wie jedes diese drei Punkte handhabt.
So geht Worknano damit um
Worknano macht alle drei. Der AI Assistant kennt den Bildschirm, auf dem du bist, auf der CRM-Seite startet er also mit dem Deal vor dir. Um alles andere zu finden, nutzt er die semantische Suche, eine Suche, die Text nach seiner Bedeutung findet. Er liest nur die wichtigen Passagen statt ganzer Dokumente, auch Text in PDF-, Word-, Excel- und PowerPoint-Dateien. Lange Gespräche kürzt der Assistant Memory Summarizer, damit der Assistent den Faden behält. Und der Plus-Knopf startet einen frischen Chat, wenn sich das Thema ändert.