cat docs/reasoning-quality.md
Alle Anleitungen Zuletzt aktualisiert

Nachdenken und Qualität

Zwei Arten von Einstellungen bestimmen, wie gut Ihre Antworten sind. Pro Agent wählen Sie die Modellstufe und ob das Modell nachdenkt. Dazu kommt die optionale Gesprächsanalyse, die abgeschlossene Chats im Nachhinein bewertet.

Basis und Premium

In den meisten Tarifen wählen Sie statt eines bestimmten Modells eine Modellstufe:

  • Basis: schnell und günstig, für die meisten Assistenten die richtige Grundeinstellung.
  • Premium: ein stärkeres Modell für schwierigere Fragen. Eine Premium-Antwort verbraucht mehr von Ihrem monatlichen Kontingent an Nachrichten-Credits als eine Basis-Antwort.

In der Auswahl „Qualität“ zeigt jede Stufe den Namen des Modells, das sie gerade nutzt, zum Beispiel „Premium · Mistral Medium 3.5“. Welches Modell hinter einer Stufe steht, legt die Plattform fest, und sie kann eine Stufe auf ein neueres Modell umstellen.

In den Tarifen BYOK und Custom wählen Sie stattdessen selbst das genaue Modell und die Sampling-Einstellungen. Die Stufe legen Sie im Formular des jeweiligen Agenten fest, siehe Agenten.

Längeres Nachdenken

Manche Modelle können ein Problem vor der Antwort erst „durchdenken“. In den Tarifen mit Basis und Premium entscheidet die Plattform, ob eine Stufe denkt, und die Auswahl „Qualität“ kennzeichnet sie dann mit „Extended Thinking“. Bei BYOK und Custom legen Sie unter „Reasoning“ pro Agent fest, wie viel das Modell nachdenkt: „Aus“ oder eine Stufe wie „Niedrig“, „Mittel“ oder „Hoch“, je nach Modell. Eine niedrige Stufe antwortet spürbar schneller, eine hohe denkt gründlicher. Einige Modelle denken immer, zum Beispiel Mistral Large 4, Magistral und GLM: Sie haben kein „Aus“, und ihr Nachdenken lässt sich immer als „Thinking“ anzeigen.

Außerdem bestimmen Sie im Tab „Konfiguration“ unter „Arbeitsweise zeigen“, wie viel Besuchende von der Arbeit des Assistenten sehen. „Dezent“ zeigt eine unauffällige Zeile mit dem aktuellen Schritt. „Tool-Schritte“ listet jeden Schritt mit Dauer und Suchbegriffen auf. „Thinking“ zeigt zusätzlich die Überlegungen des Modells, den ausgeführten Code und dessen Ausgabe. Diese Option können Sie nur wählen, wenn der Agent denkt. In den Tarifen mit Basis und Premium muss dafür die gewählte Modellstufe längeres Nachdenken bieten. Bei BYOK und Custom muss das Modell denken können und das Nachdenken eingeschaltet sein. In jedem Modus erscheint nach 3 Sekunden ohne neuen Text die Zeile „Arbeitet noch“.

Die Schritte jeder Antwort finden Sie in der Detailansicht des Gesprächs unter „Schritte anzeigen“, bei Websuchen auch Adresse und Titel von bis zu zehn Treffern pro Suche. Im privaten Modus werden von jedem Schritt nur Art und Dauer gespeichert.

Gesprächsanalyse

Wenn Sie für einen Agenten „Gespräche auswerten“ einschalten, prüft die Plattform abgeschlossene Chats im Hintergrund und vergibt für jeden:

  • eine Bewertung, ob die Antworten geholfen haben: hilfreich, teilweise hilfreich oder nicht hilfreich;
  • eine Markierung als Wissenslücke mit kurzer Zusammenfassung, wenn der Assistent nicht antworten konnte, weil das nötige Material nicht in seiner Bibliothek stand.

Die Kennzahlen erscheinen auf der Seite „Auswertungen“, und die Gespräche mit einer Wissenslücke sammelt die Seite „Wissenslücken“. Jede Wissenslücke ist dort Ihr Hinweis, die fehlende Antwort als Quelle in die Bibliothek aufzunehmen. Jede Prüfung verbraucht einen kleinen Teil Ihres monatlichen Kontingents. Wie viel, zeigt das Formular des Agenten, sobald Sie die Analyse einschalten.

Beide Seiten im Detail beschreibt die Anleitung Gesprächsanalyse. Wie Sie eine Lücke schließen, steht unter Bibliotheken und Quellen.

Siehe auch: Agenten und Gesprächsanalyse.