Cody Terminologien 101

Ein Leitfaden für Einsteiger, der das Verständnis der Cody-Terminologien vereinfacht.

Bevor Sie mit der Erstellung Ihres eigenen GPT-basierten Bots für Ihr Unternehmen mit Cody beginnen, ist es wichtig, dass Sie die Kernterminologie verstehen, damit die Flexibilität, die unser Bot-Builder bietet, Sie nicht einschüchtert. Sie müssen kein KI-Experte sein oder über Vorkenntnisse in diesem Bereich verfügen, um diese Terminologie zu verstehen, da sie auf möglichst einfache Weise erklärt wird. Betrachten Sie dies als einen Leitfaden für Anfänger oder“Cody für Dummies“.

Dieser Blog wird sich nicht mit der Einrichtung von Cody oder dem Import von Daten in Cody befassen, da wir bereits einige Blogs veröffentlicht haben, die Ihnen bei der Einrichtung helfen werden. In den kommenden Blogs werden wir uns mit diesen Themen näher befassen. Lassen Sie uns ohne weiteres die verschiedenen Terminologien verstehen, auf die Sie bei der Erstellung Ihres Bots stoßen werden.

Persönlichkeit

Cody bietet zwei Möglichkeiten, die Persönlichkeit Ihres Bots zu definieren:
Schablonen-Modus
und
Erweiterter Modus
. Die Persönlichkeit Ihres Bots legt den Kontext und das Verhalten Ihres Bots fest, um sicherzustellen, dass er hilfreiche Antworten erzeugt, die Ihren Erwartungen entsprechen und unvorhergesehene Halluzinationen verhindern.


❓Halluzination
bezieht sich auf das Phänomen, dass ein Sprachmodell Antworten hervorruft, die phantasievoll oder spekulativ sind oder nicht auf sachlichen Informationen beruhen.

Vorlage Modus

Dieser Modus eignet sich für Unternehmen, die eine Plug-and-Play-Lösung für die Erstellung eines Bots wünschen. Unsere Entwickler haben Bot-Vorlagen für verschiedene Geschäftsbereiche erstellt, z. B.
Unterstützung
,
Ausbildung
,
HR
und
Marketing
.

Cody Template Mode Persönlichkeit

Wählen Sie einen der folgenden Bereiche aus und Cody kümmert sich um den Rest. Für zusätzliche Flexibilität bietet Cody auch Einstellungen, mit denen die Persönlichkeit bis zu einem gewissen Grad angepasst werden kann.

Wenn Sie sich z. B. für den IT-Support als Bot-Persönlichkeit entscheiden, können Sie den Spitznamen Ihres Bots ändern und festlegen, wie er mit unbeantworteten Anfragen umgehen soll (ein Standardfall) sowie die Sprachen, in denen er sich unterhalten soll.

Einstellungen des Cody-Vorlagenmodus

Dieser Modus befindet sich noch in der Entwicklung und wird bald aktualisiert werden, um mehrere andere Geschäftsbereiche mit einer Vielzahl von Anpassungsfunktionen abdecken zu können.

Sie brauchen mehr Flexibilität? Keine Sorge, mit unserem erweiterten Modus sind Sie bestens gerüstet.

Erweiterter Modus

Der Advanced Bot Builder gibt Ihnen die Freiheit, mehrere Parameter anzupassen und den perfekten Bot für Ihren Anwendungsfall zu erstellen. Derzeit können Sie die folgenden Parameter anpassen:

  1. Eingabeaufforderung
  2. Bewertung der Relevanz
  3. Token-Verteilung
  4. Dauerhafte Aufforderung
  5. Umgekehrte Vektorsuche

Eingabeaufforderung

Die Aufforderung wird
definiert die Persönlichkeit
deines Bots. Um die Eingabeaufforderung zu vereinfachen, betrachten Sie den Bot als einen Mitarbeiter Ihres Unternehmens. Obwohl es keine spezifische Struktur für das Verfassen von Persönlichkeitsfragen gibt, haben wir eine Liste von Parametern zu Ihrer Information zusammengestellt.

Ein Beispiel für eine Aufforderung:

“Sie sind der Kellner in einer Pizzeria. Bewahren Sie bei allen Interaktionen ein professionelles und freundliches Auftreten, damit sich die Benutzer wohl und unterstützt fühlen. Denken Sie daran, bei Ihren Antworten ein Gefühl von Kompetenz und Vertrauen zu vermitteln. Außerdem möchte ich Sie ermutigen, unsere Premium-Pizzen aktiv zu bewerben, wann immer es angebracht ist. Verweisen Sie nicht auf andere Menüquellen als die in der Wissensdatenbank angegebenen. Nennen Sie bei der Empfehlung von Pizzen auch deren Preise und alle Angebote, die für sie gelten.”

Bewertung der Relevanz

Der Relevanz-Score spiegelt den Grad der Ähnlichkeit zwischen der Anfrage des Nutzers und der Antwort von Cody wider. Bei der semantischen Suche vergleicht Cody die Suchanfrage des Benutzers mit den in der Wissensdatenbank vorhandenen Daten. Eine höhere Relevanzbewertung führt zu einer präzisen Antwort, beeinträchtigt aber das Verständnis des Gesamtzusammenhangs der Anfrage und vice versa. Mit einfachen Worten: Die Relevanzbewertung gibt an, inwieweit die KI Angst hat, Fehler zu machen und Risiken einzugehen, während sie reagiert.

Schieberegler für die Relevanzbewertung

Token-Verteilung

Der Token ist die Berechnungswährung für große Sprachmodelle wie die GPT-Familie. Die vom Benutzer gestellte Anfrage (Eingabeanweisung) wird in Zeichenblöcke unterteilt, die als ‘
Token
‘. Da KI-Modelle sehr ressourcenintensiv sind, haben diese Modelle eine gewisse Grenze für die Eingabedaten, die verarbeitet und generiert werden können, um den Rechen- und Speicherbeschränkungen Rechnung zu tragen. Diese Grenze ist das ‘
Kontextfenster
‘.

Kontextfenster Illustration

Cody verwendet die GPT-Modellfamilie und die Anzahl der verfügbaren Token ist begrenzt. Die Token-Verteilungsfunktion hilft bei der Mikro-Verwaltung der Verwendung von Token für verschiedene Zwecke.

Sie sind hauptsächlich in Kontext, Geschichte und Antwortgenerierung unterteilt.

  1. Kontext: Die Token, die zum Verständnis der Benutzeranfrage und des Kontextes der Wissensdatenbank erforderlich sind.
  2. Verlauf: Die Token, die erforderlich sind, um der Benutzeranfrage anhand des Chatverlaufs einen Kontext hinzuzufügen.
  3. Generierung von Antworten: Die Token, die für die Bewertung der Kohärenz, der Grammatik und der semantischen Gültigkeit des generierten Textes erforderlich sind.

Schieberegler für die Token-Verteilung

Für die höchste Genauigkeit ist es wichtig, dass der
Kontext
einen
großen Teil
der Token-Verteilung ausmacht.

Dauerhafte Aufforderung

Indem Sie die Eingabeaufforderung (die Persönlichkeit des Bots) kontinuierlich verstärken, schaffen Sie eine Art von Gesprächskontext und Einschränkungen, die die KI auf Kurs halten und die Einhaltung der gewünschten Ergebnisse unterstützen. Sie erinnert die KI daran, innerhalb der vordefinierten Grenzen zu bleiben und Antworten zu geben, die relevant und genau sind und mit Ihren Zielen übereinstimmen.

Umgekehrte Vektorsuche

Die umgekehrte Vektorsuche ist eine Funktion, die speziell für Unternehmen entwickelt wurde, die Cody zu Schulungszwecken für Mitarbeiter einsetzen. Es integriert nahtlos zuvor generierte KI-Antworten mit Benutzeranfragen und schafft so ein umfassendes kontextbezogenes Verständnis, das die Qualität und Relevanz der nachfolgenden Antworten verbessert. Es ist besonders wertvoll, wenn Cody für Schritt-für-Schritt-Anleitungen und Lehrzwecke verwendet wird.

 

Dieses Bild beschreibt, wie die umgekehrte Vektorsuche funktioniert.

 

Zum Abschluss

Wenn Sie diese Terminologie gut beherrschen, können Sie die Antworten Ihres Bots verfeinern und sie noch persönlicher gestalten. Bleiben Sie dran für kommende Blogs mit weiteren Anleitungen, Aktualisierungen und zusätzlichen Informationen, um das volle Potenzial Ihres Cody AI Bots auszuschöpfen. Weitere Ressourcen finden Sie auch in unserem Hilfe-Center und in unserer Discord-Community.

 

 

More From Our Blog

Vom Chatbot zur Suchmaschine: Wie die ChatGPT-Suche von OpenAI das Spiel verändert

Vom Chatbot zur Suchmaschine: Wie die ChatGPT-Suche von OpenAI das Spiel verändert

Die Entwicklung der KI-gesteuerten Websuche Die neueste Innovation von OpenAI, ChatGPT Search, stellt einen bedeutenden Sprung in der KI-gesteuerten Websuche dar. Diese Funktion integriert die Echtzeit-Websuche in die ChatGPT-Oberfläche, so dass Ben...

Read More
Nemotron 70B von Nvidia AI veröffentlicht: Sollten sich OpenAI und Anthropic fürchten?

Nemotron 70B von Nvidia AI veröffentlicht: Sollten sich OpenAI und Anthropic fürchten?

Nvidia hat in aller Stille sein neuestes KI-Modell vorgestellt, den Nemotron 70B, der im Bereich der künstlichen Intelligenz Wellen schlägt, indem er etablierte Modelle wie den GPT-4 von OpenAI und den Claude 3.5 Sonnet von Anthropic übertrifft. D...

Read More

Build Your Own Business AI

Get Started Free
Top