Cody Terminologyを簡略化して理解するための初心者向けガイドです。
Codyを使ったGPTベースのボット構築を始める前に、ボットビルダーが提供する柔軟性に惑わされないよう、中核となる用語を理解しておくことが重要です。 これらの用語は、最も単純化された方法で説明されるため、AIの専門家である必要はなく、このドメインに関する予備知識がなくても理解することができます。 初心者向けのガイドブックや「Cody For Dummies」と考えてください。
CodyのセットアップやCodyへのデータインポートについては、すでにいくつかのブログでご紹介していますので、今回のブログではご紹介しません。 これからのブログでは、それらのテーマをより深く掘り下げていきます。 それでは、ボットを作成する際に遭遇するさまざまな用語を理解しましょう。
パーソナリティ
Codyは、ボットの個性を定義するために2つの方法を提供します：
テンプレートモード
と
アドバンスモード
. ボットの個性は、ボットの文脈と行動を確立し、ボットがお客様の期待に沿った役立つ反応を生成し、予期せぬ幻覚を防ぐことを保証します。
幻覚❓幻覚
とは、言語モデルが想像や 憶測、あるいは事実に基づかない応答を生成する現象のことである。
テンプレートモード
このモードは、ボット構築のためのプラグアンドプレイ・ソリューションが必要な企業にとって有用です。 当社の開発者は、以下のようなさまざまなビジネスドメインに対応するボットテンプレートを作成しています。
サポート
,
トレーニング
,
人事
および
マーケティング
.
下記から任意のドメインを選択し、あとはCodyが対応します。 また、自由度を高めるために、Codyはパーソナリティをある程度カスタマイズするための設定も用意しています。
例えば、ボットの性格としてITサポートを選択した場合、ボットのニックネームを変更したり、答えられない問い合わせ（デフォルトのケース）をどのように処理するか、ボットに会話させたい言語を決めることができます。
このモードはまだ開発中であり、近々、カスタマイズ機能のホストで他の複数のビジネスドメインに対応できるように更新される予定です。
もっと柔軟性が必要ですか？ アドバンスド・モードを搭載していますので、ご安心ください。
アドバンスドモード
Advanced Bot Builderは、複数のパラメータを自由にカスタマイズでき、ユースケースに合わせた完璧なボットを構築できます。 現在、以下のパラメーターをカスタマイズすることができます：
- プロンプト
- 関連性スコア
- トークン配布
- 永続的なプロンプト
- 逆ベクトル検索
プロンプト
プロンプトは
ボットの性格を決定する
を決定します。 催促のプロセスを簡略化するために、ボットをあなたの会社の従業員として考えてみてください。 パーソナリティ・プロンプトの書き方には特定の構成があるわけではありませんが、参考までにパラメーターのリストを用意しました。
| パラメータ | 例 |
|---|---|
| AIのニックネーム | “あなたはコーディ “です。 |
| 職務経歴書 | “あなたは私の会社でITサポートエンジニアとして働いています。” |
| トーン | “すべてのやり取りを通じて、プロフェッショナルでフレンドリーな態度を維持し、ユーザーが快適にサポートされていると感じるようにする”。 |
| ドメイン | “テクノロジー、サポート、テクノロジーコンサルタント” |
| 専門家レベル | “専門性と信頼感を伝えることを忘れずに回答する” |
| 倫理的指針 | “自作自演の回答や、学習データに存在しないデータを使用しないこと。会話中に「非構造化知識ベース」やファイル名について言及することは控えてください。” |
| 追加サービス（オプション） | “可能な限りXYZの販売促進を心がける。” |
| デフォルトケース（回答不能なクエリの場合） | “明確な回答が得られない場合、回答できないことを認め、回答できないことをユーザーに伝える。” |
プロンプトのサンプルです：
“あなたはピザ屋のウェイター “です。プロフェッショナルでフレンドリーな態度で接し、ユーザーが快適にサポートされると感じられるようにしましょう。専門的な知識と自信を感じさせる対応を忘れないようにしましょう。さらに、適切な場合には、当社のプレミアムピザを積極的に宣伝することをお勧めします。ナレッジベースに記載されている以外のメニューは紹介しないでください。ピザを勧める際には、その価格と適用されるキャンペーンも明記してください。”
関連性スコア
Relevance Scoreは、ユーザーのクエリと Codyのレスポンスとの 類似度を反映する。 Codyは、セマンティック検索を使用して、ユーザーのクエリと知識ベースに存在するデータを比較します。 関連性スコアが高いほど正確な回答が得られますが、クエリの全体的な文脈を理解することに妥協することになりますし、その逆もまたしかりです。 簡単に言うと、AIがミスやリスクを恐れながら対応する度合いが関連性スコアということになります。
トークン配布
トークンは、GPTファミリーのような大規模な言語モデルの計算通貨である。 ユーザーによるクエリ（入力文）は、”トークン”と呼ばれる文字のブロックに分解されます。
トークン
‘. AIモデルは本当にリソースを必要とするため、計算上の制約やメモリの制限に対応するため、これらのモデルは処理・生成できる入力データに一定の制限を設けています。 この限界は、’
コンテキストウィンドウ
‘.
CodyはGPTファミリーのモデルを使用しており、使用できるトークンの数には限りがあります。 トークン配布機能は、トークンの用途を細かく管理するのに役立ちます。
主に「コンテキスト」「ヒストリー」「レスポンスジェネレーション」に分けられます。
- コンテキストです：ユーザーのクエリや知識ベースのコンテキストを理解するために必要なトークンです。
- 履歴です：チャット履歴を使用してユーザークエリにコンテキストを追加するために必要なトークンです。
- レスポンス生成：生成されたテキストの一貫性、文法、意味的妥当性を評価するために必要なトークンです。
最高の精度を得るためには、以下のことが重要です。
コンテキスト
を構成することが重要です。
の大部分を占めることが重要です。
トークン配布の
永続的なプロンプト
プロンプト（ボットの個性）を継続的に強化することで、会話の文脈と制約の形を作り出し、AIを軌道に乗せ、望ましい結果への準拠を維持できるようにします。 これは、AIがあらかじめ定義された境界線内にとどまり、適切で正確、かつ目標に沿った回答を提供するためのリマインダーとして機能します。
逆ベクトル検索
逆ベクトル検索は、Codyを社員教育に活用する企業向けに特化した機能です。 過去に生成されたAIの応答とユーザーのクエリをシームレスに統合し、包括的な文脈理解を行うことで、その後の応答の品質と関連性を向上させます。 特に、ステップバイステップのガイドやインストラクション目的でCodyを使用する場合に重宝します。
まとめとして
これらの用語をよく理解すれば、ボットの反応を洗練させ、よりパーソナライズされたものにすることができます。 Cody AIボットの可能性を最大限に引き出すためのガイダンス、アップデート、追加情報を提供する今後のブログにご期待ください。 その他のリソースについては、ヘルプセンターをチェックしたり、Discordコミュニティに参加することもできます。
