Author: Om Kamath

عندما تبدأ مع كودي ، من المحتمل أن تشعر بخيبة أمل أو إحباط بشأن سبب عدم قدرة كودي على توليد الردود المتوقعة. في هذه المدونة القصيرة ، لن نتعمق في كيفية استخدام Cody ، لكننا سنقدم لك فكرة تقريبية عن كيفية استخدام Cody لمستنداتك لإنشاء ردود حتى تتمكن من فهم عملية الإنشاء وتجربتها بشكل أفضل.

هناك عاملان رئيسيان يؤثران بشكل أساسي على إنشاء الاستجابة باستخدام مستنداتك:

1. التقطيع
2. نافذة السياق

كل من هذه المصطلحات ، التقسيم ونافذة السياق ، مترابطة. يمكن رسم تشبيه بسيط لمقارنة توليد الاستجابة بطهي الطعام. يمكن رؤية القطع على أنها قطع الخضار الفردية التي تقطعها ، بينما تمثل نافذة السياق حجم أواني الطهي. من المهم تقطيع الخضار إلى قطع بحجم مثالي لتعزيز المذاق العام ، ويسمح الإناء الأكبر بإضافة المزيد من قطع الخضار.

ما هو التشنكينغ؟

بعبارات بسيطة ، التقسيم هو عملية تقسيم المحتوى إلى أجزاء يمكن التحكم فيها من أجل الاستخدام الفعال للذاكرة. إذا كنت قد قرأت مدوناتنا ، فقد تدرك أن نماذج مثل GPT تتطلب موارد كبيرة ، ولمعالجة قيود نافذة السياق ، فإننا نستخدم عمليات متعددة مثل التقطيع.

التقطيع هو عملية يتم إجراؤها بعد تحميل المستندات إلى Cody. يقسم المستند أو يقسمه إلى أجزاء متعددة ، حيث يحتوي كل جزء على سياق محيطي ذي صلة. ثم يتم تعيين علامات رقمية لهذه القطع لتسهيل الحساب ، وهو ما يعرف باسم التضمين. من المهم العثور على حجم القطعة الأمثل. يقلل حجم القطعة الأصغر من ملاءمة السياق ، بينما يقدم حجم القطعة الأكبر مزيدا من الضوضاء. تقوم خوارزمية التقطيع الخاصة ب Cody بضبط حجم القطعة ديناميكيا بناء على توزيع الرمز المميز الذي حدده المستخدم.

كيف تؤثر نافذة السياق على استجابات الروبوت؟

تؤثر عوامل مختلفة مثل موجه الشخصية ، ودرجة الصلة ، وما إلى ذلك ، على جودة استجابات الروبوت. تلعب نافذة السياق للنموذج أيضا دورا مهما في تحديد الجودة. تشير نافذة السياق إلى مقدار النص الذي يمكن ل LLM (نموذج اللغة) معالجته في مكالمة واحدة. نظرا لأن Cody يستخدم التضمين وحقن السياق لإنشاء إجابات باستخدام نماذج OpenAI ، فإن نافذة السياق الأكبر تسمح بمزيد من استيعاب البيانات بواسطة النموذج في كل استعلام.

💡 كل استعلام (≤ نافذة السياق) = شخصية الروبوت + أجزاء المعرفة + السجل + إدخال المستخدم + الاستجابة

نوافذ السياق لنماذج مختلفة:

1. GPT-3.5: 4096 رمزا (≈3500 كلمة)
2. GPT-3.5 16K: 16000 رمز (≈13000 كلمة)
3. GPT-4: 8000 رمز (≈7000 كلمة)

عندما تكون نافذة السياق أكبر ، فإنها تتيح نسبة أكبر من كل معلمة ، بما في ذلك الشخصية والقطع والمحفوظات والإدخال والاستجابة. يمكن هذا السياق الموسع الروبوت من إنشاء استجابات أكثر صلة وتماسكا وإبداعا بطبيعتها.

تتيح أحدث إضافة ل Cody للمستخدمين التحقق من اقتباسات المستندات بالنقر فوق اسم المستند في نهاية الردود. تتوافق هذه الاستشهادات مع الأجزاء التي تم الحصول عليها من خلال البحث الدلالي. يحدد Cody حد القطعة للسياق استنادا إلى درجة الصلة التي حددها المستخدم. إذا قام المستخدم بتعيين درجة صلة عالية ، فإن Cody يستخدم فقط الأجزاء التي تتجاوز حدا محددا مسبقا كسياق لإنشاء الإجابة.

مثل

بافتراض قيمة حد عتبة محددة مسبقا تبلغ 90٪ للحصول على درجة صلة عالية ، يتجاهل Cody أي أجزاء ذات درجة صلة أقل من 90٪. نوصي المستخدمين الجدد بالبدء بدرجة ملاءمة أقل (منخفضة أو متوازنة) ، خاصة عند استخدام المستندات التي تم تحميلها (ملفات PDF ، Powerpoints ، Word ، إلخ) أو مواقع الويب. قد تواجه المستندات أو مواقع الويب التي تم تحميلها مشكلات في التنسيق وسهولة القراءة أثناء المعالجة المسبقة ، مما قد يؤدي إلى انخفاض درجات الصلة. سيضمن تنسيق المستند باستخدام محرر النصوص المدمج لدينا بدلا من تحميل المستندات الأولية أعلى درجة من الدقة والثقة.

إذا وجدت هذه المدونة مثيرة للاهتمام وترغب في التعمق في مفاهيم نافذة السياق والتقطيع ، فإننا نوصي بشدة بقراءة هذه المدونة التي كتبها كريستيان من All About الذكاء الاصطناعي. لمزيد من الموارد ، يمكنك أيضا التحقق من مركز المساعدة والانضمام إلى مجتمع Discord الخاص بنا.

دليل خطوة بخطوة لبناء الذكاء الاصطناعي الخاصة بك لتلبية احتياجات عملك.

تطبيقات الروبوتات واسعة ، ومع ارتفاع استخدام الروبوت للنماذج التوليدية ، قد يكون من المغري القفز على العربة وبناء ChatGPT الخاص بك. مع إطلاق Cody ، لم يكن بناء روبوتات المحادثة الذكاء الاصطناعي أسهل من قبل. تحاول واجهة Cody المحايدة للنموذج والتي لا تحتوي على تعليمات برمجية جعل الذكاء الاصطناعي الشخصية في متناول كل مجال فردي وتجاري موجود. ومع ذلك ، على الرغم من أن كودي يسعى جاهدا لجعل العملية برمتها واضحة قدر الإمكان ، إلا أنها قد تكون مخيفة بعض الشيء لشخص جديد في عالم الذكاء الاصطناعي. لهذا السبب ، في هذه المدونة ، نقدم شرحا شاملا لكيفية إنشاء ChatGPT الخاص بك باستخدام Cody. سنرشدك خلال حالة الاستخدام ، مما يساعدك على بدء رحلة Cody الخاصة بك بثقة.

حالة الاستخدام

سنقوم ببناء روبوت محادثة الذكاء الاصطناعي باستخدام Cody والذي سيعمل كمرشد سياحي. ستكون هذه إضافة قيمة للشركات ذات الصلة بالسياحة ، حيث يمكنها تحسين تجربة العملاء بشكل كبير. لكن نطاق إنشاء روبوت محادثة باستخدام Cody لا يقتصر على مجال عمل واحد فقط. يمكن للمستخدمين تجربة مطالبات مختلفة لإنشاء روبوت يلبي احتياجات أعمالهم الخاصة ومشاركته أيضا مع عملائهم بعد قراءة هذه المدونة.

المتطلبات

1. المحتوى المرتبط بنشاطك التجاري (PDF أو Word أو موقع ويب أو نص)
2. حساب على كودي (الخطة الموصى بها: بريميوم)
3. 15 دقيقة

الخطوة 1: إضافة بيانات إلى قاعدة المعارف

لإضافة مستندات لتدريب Cody لتلبية احتياجات عملك ، اتبع الخطوات التالية:

1. انتقل إلى قسم المحتوى في واجهة Cody.
2. قم بإنشاء مجلد جديد لتنظيم مستنداتك.
3. هناك ثلاث طرق متاحة لإضافة البيانات إلى قاعدة المعارف:
   • الكتابة: استخدم محرر النصوص المدمج لإدخال المحتوى مباشرة.
   • تحميل: تحميل ملفات PDF أو Word أو PowerPoint التي تحتوي على معلومات ذات صلة.
   • استيراد موقع الويب: تتيح لك هذه الميزة الزحف إلى موقع الويب الخاص بنشاطك التجاري وجمع البيانات تلقائيا. (ملاحظة: تتوفر هذه الميزة في الخطط المميزة والمتقدمة فقط.)

بالنسبة لهذا البرنامج التعليمي المحدد ، سنستخدم دليل بوسطن الذي يتضمن معلومات حول مناطق الجذب السياحي المختلفة وأوصافها وساعات عملها وعناوينها والأسئلة المتداولة (FAQs).

بعد تحميل المستندات اللازمة ، ستتمكن من تتبع حالتها ، والتي يمكن أن تكون إما “تعلم” أو “تعلمت“. تشير الحالة إلى ما إذا كان Cody حاليا في طور التعلم من المستندات أو إذا كان قد أكمل عملية التعلم بنجاح. بمجرد أن يتعلم Cody المستندات التي تم تحميلها ، يمكنك المتابعة إلى الخطوة التالية ، والتي تتضمن إنشاء chatbot الفعلي.

ملاحظه: من الأهمية بمكان التأكد من أن المستندات التي تقدمها تتبع تنسيقا محددا يعزز جودة الردود التي تم إنشاؤها بواسطة Cody. لمعرفة المزيد حول تنسيق المستند الموصى به، نوصي بقراءة الوثائق المتوفرة حول إرشادات التنسيق.

الخطوة 2: إنشاء غرض الروبوت

ينقسم الغرض أيضا إلى 3 أجزاء:

شخصية

تعمل الشخصية كعقل للروبوت وتلعب دورا أساسيا في توليد استجابات فعالة ومفيدة. وهي مكونة من معلمات متعددة مثل الموجه ، ودرجة الصلة ، وتوزيع الرمز المميز ، والمثابرة الفورية ، والبحث العكسي عن المتجهات. للحصول على شرح مفصل لهذه المصطلحات ، نوصي بالرجوع إلى مدونتنا السابقة ، والتي توفر رؤى شاملة لأولئك الجدد على Cody. يوفر Cody خيارين للمستخدم لإنشاء الشخصية: وضع القالب
والوضع المتقدم.

يوفر وضع القالب للمستخدمين مطالبات محددة مسبقا ، مما يوفر حلا مناسبا للتوصيل والتشغيل. بالنسبة لهذا البرنامج التعليمي وحالة الاستخدام ، سنقتصر على استخدام الوضع المتقدم نظرا لأن حالة الاستخدام غير مغطاة حاليا في وضع القالب. في المستقبل ، نخطط لإنشاء مكتبة من المطالبات مع حالات الاستخدام الخاصة بها ، مما يوفر المزيد من الخيارات للمستخدمين ويضيف أيضا المزيد من الإعدادات المسبقة إلى وضع القالب.

شخصية المرشد السياحي الذكاء الاصطناعي:

فوري

أنت دليل السفر كودي ، مساعد الذكاء الاصطناعي مخصص لتقديم معلومات دقيقة عن بوسطن. مهمتك الأساسية هي مساعدتي من خلال تزويدي بردود موثوقة وواضحة على أسئلتي ، بناء على المعلومات المتاحة في قاعدة المعرفة كمصدر وحيد لك. الامتناع عن ذكر “قاعدة المعرفة” أو أسماء الملفات أثناء المحادثة. أنت متردد في تقديم أي مطالبات ما لم يتم ذكرها أو دعمها من قبل قاعدة المعرفة. عندما لا تتوفر إجابة محددة ، اعترف بعدم قدرتك على الإجابة وأخبرني أنه لا يمكنك الرد. بدلا من قول “تستند المعلومات إلى قاعدة معرفتي” فقط قل “عفوا إذا فاتني أي شيء”.

حاول استخدام التنسيق التالي لعرض المعلومات:

<h2> اسم المكان </h2>

<وصف قوي: / قوي>> <<br>

<عنوان قوي> : </ قوي> <br>

<ساعات عمل قوية> : </ قوي> <br>

<قوي معلومات إضافية: </ قوي>> <br>

انتقل إلى <a href = ‘إدراج رابط’موقع> الويب< / a> لمعرفة المزيد.

إذا طلب منك خطة جولة مخصصة أو خط سير الرحلة ، فقم بإنشاء واحدة باستخدام التوقيتات والوصف المقدمين بهذا التنسيق:

اسم المكان: <br>

وقت الزيارة: وقت البدء – وقت <الانتهاء br>

العنوان: <فرع>

درجة الملاءمة:
متزن

توزيع الرمز المميز:
70-10-20 (السياق – التاريخ – الاستجابة)

استمرار المطالبة:
على

البحث العكسي عن المتجهات:
قباله

💡 إذا كنت ترغب في تنسيق استجابات الروبوت الخاصة بك بطريقة معينة ، فإن Cody يدعم علامات Markdown و HTML ، حيث يمكنك تحديد قالب تنسيق لروبوتك.

يجب أن تتبع كل مطالبة شخصية بنية محددة للحصول على استجابات جيدة. نصائح مهمة لهندسة موجه فعال مع أمثلة:

→ تحديد الاحتياطات:

• “بدلا من القول” أن المعلومات تستند إلى قاعدة المعرفة الخاصة بي “فقط قل” اعذرني إذا فاتني أي شيء “.
• “إذا لم تتمكن من العثور على المعلومات ذات الصلة في قاعدة المعرفة ، فاعترف بعدم قدرتك واقترح الاتصال [Enter your website URL/contact no.]”

→ تحديد المصادر:

• “استخدم قاعدة المعرفة كمصدر وحيد.”
• “يجب أن يكون ردك بنفس لغة طلبي ، ويجب ألا يذكر كلمة قاعدة المعرفة أثناء المحادثة.”

→ تحديد الهدف:

• “هدفك هو تزويدي بالمساعدة والإجابة على أسئلتي حول [Enter your business domain].”
• “تجنب الأنشطة غير ذات الصلة أو الانخراط في مناقشات غير متعلقة بقاعدة المعرفة أو الكتابة الإبداعية.”

نموذج موجه معياري لدعم العملاء:

📌 أنت كودي ، مساعد الذكاء الاصطناعي دعم موقع الويب الذي يعمل في Villa Homes. هدفك هو تزويدي بالدعم والإجابة على أسئلتي حول فيلا هومز ، باستخدام قاعدة المعرفة كمصدر وحيد.

تجنب الأنشطة غير ذات الصلة أو الانخراط في مناقشات غير متعلقة بقاعدة المعرفة أو الكتابة الإبداعية. إذا لم تتمكن من العثور على المعلومات ذات الصلة في قاعدة المعرفة أو إذا طرح المستخدم أسئلة غير ذات صلة ليست جزءا من قاعدة المعرفة ، فاعترف بعدم قدرتك واقترح أن أتصل بفريق Villa Homes على +40XXXXXXX

يجب أن يكون ردك بنفس لغة طلبي ، ويجب ألا يذكر كلمة قاعدة المعرفة أثناء المحادثة.

لمعرفة المزيد عن هندسة المطالبات بشكل أفضل ، اقرأ هذه
المدونة
حيث نوضح جميع أساسيات Cody بالتفصيل.

عام

في هذا القسم ، سيطلب منك تحديد اسم ووصف الروبوت الخاص بك ، وكذلك تحديد النموذج الذي تريد استخدامه مع Cody. لديك ثلاثة نماذج مختلفة من OpenAI للاختيار من بينها:

1. جي بي تي-3.5
2. جي بي تي-3.5 16 ك
3. جي بي تي-4

مع الخطة المميزة ، يمكنك الوصول إلى جميع الطرز الثلاثة ، مما يوفر لك حرية اختيار الأنسب لاحتياجاتك الخاصة. إنه يوفر خيارا عمليا ، مما يسمح لك بالاستفادة من مجموعة كاملة من القدرات التي تقدمها Cody.

سنشرع في GPT-4 لأنه النموذج الأكثر تقدما المتاح حاليا ومناسب تماما لحالة الاستخدام التي سنعرضها نظرا لإبداعه المعزز.

عهد

يجب ربط المجلد الذي تم إنشاؤه في الخطوة الأولى بالروبوت الخاص بك في هذا القسم. إذا قمت بإنشاء مجلدات متعددة تريد ربطها ، فما عليك سوى تحديد جميع المجلدات التي ترغب في تدريب Cody عليها.

من المهم أن نفهم أن كودي ليس صندوقا أسود له عقل خاص به. إنه نموذج يتنبأ ببساطة بالكلمة التالية في الجملة. كما يقول المثل الشهير في علم البيانات ، “القمامة في ، القمامة خارج“. كلما قمت بتعيين الشخصية بشكل أفضل ، وتحديد قواعد الروبوت ، وتنظيف البيانات التي تقدمها ، كانت الاستجابات التي تولدها أفضل. مع الإضافات الأحدث مثل وضع القالب مع العديد من الإعدادات المسبقة ، نحاول جعل عملية المطالبة الشخصية أسهل كثيرا للمستخدمين.

الخطوة 3: اختبار الروبوت ومشاركته

الآن يأتي الجزء الأكثر إثارة! يمكن أن تمنحك تجربة واختبار الروبوت الذي قمت ببنائه بنفسك إحساسا كبيرا بالإنجاز. هناك طريقتان لاختبار الروبوت الخاص بك ومشاركته: إنشاء دردشة أو استخدام الأداة القابلة للتخصيص التي تم إطلاقها حديثا.

لإنشاء أداة دردشة في ثلاث خطوات بسيطة فقط:

1. انتقل إلى قسم الروبوتات في واجهة Cody.
2. حدد الروبوت الذي أنشأته وانقر على النقاط الثلاث “⋮” لمزيد من الخيارات.
3. انقر فوق “تضمين“.

وفويلا! لقد نجحت في إنشاء أداة كودي قابلة للتخصيص.

عند استخدام أداة Cody ، لديك خياران لمشاركتها مع الآخرين: مشاركة الرابط أو التضمين. إذا لم يكن لديك موقع ويب لعملك أو إذا لم تكن مرتاحا لتعديل رمز موقع الويب الخاص بك ، فيمكنك بسهولة مشاركة الروبوت مع عملائك باستخدام الرابط المقدم.

هناك نوعان من الأدوات القابلة للتضمين المتاحة:

1. تضمين مضمن: سيتم تضمين هذا النوع من الأدوات في مساحة محددة على موقع الويب الخاص بك. ستشغل المساحة اللازمة كما هو مطلوب من قبل الأداة داخل العنصر الرئيسي المحدد.
2. تضمين منبثق: يظهر هذا النوع من الأدوات كرمز عائم على موقع الويب الخاص بك. عندما ينقر الزائر على الرمز ، تتوسع الأداة وتفتح ، مما يسمح بالتفاعل مع chatbot.

يوفر كلا النوعين من الأدوات القابلة للتضمين طرقا مختلفة لدمج Cody bot في موقع الويب الخاص بك ، مما يوفر المرونة من حيث استخدام المساحة وتجربة المستخدم. يمكنك اختيار أفضل ما يناسب تصميم موقع الويب الخاص بك وتفضيلات تفاعل المستخدم.

تخصيص الأداة

يوفر أحدث إصدار من الميزات للمستخدمين الحرية الكاملة وخيارات التخصيص للأدوات. هذا يعني أنه يمكنك تخصيص مظهر الأداة وسلوكها وتجربة المستخدم الإجمالية لتتماشى مع متطلباتك المحددة وعلامتك التجارية.

تشمل خيارات التخصيص ما يلي:

1. راس
   • تغيير تخطيط الرأس (يسار أو وسط).
   • أضف شعار عملك
   • لون
   • عنوان
   • عنوان فرعي
2. ثَرْثَرَ
   • حجم الرسالة (حجم فقاعة الدردشة)
   • لون خلفية الدردشة
3. بوت
   • الرسائل الأولية
   • لون خلفية الرسالة
   • الصورة الرمزية للروبوت
   • لون البوت
4. بشري
   • أسئلة مقترحة
   • لون خلفية الرسالة
5. ملحن
   • رسالة العنصر النائب
   • أيقونة الزر “إرسال”
   • علامة كودي التجارية (يمكن إزالتها فقط في الخطط المميزة والمتقدمة )
6. قاذفه
   • حجم
   • موضع الشاشة
   • لون الخلفية (لون الزر العائم)
   • رمز
   • أيقونة الإغلاق

يجب أن تجعل كل خيارات التخصيص هذه Cody أكثر تخصيصا وتتماشى مع جماليات عملك مما يؤدي إلى تحسين تجربة المستخدم لعملائك.

هذا عن ذلك!

أصبح إنشاء روبوت ومشاركته باستخدام Cody الآن أسهل من أي وقت مضى ، ولا يتطلب سوى ثلاث خطوات بسيطة. مع التقديم الأخير لخيارات تخصيص عنصر واجهة المستخدم ، لم يكن هناك وقت أفضل لإنشاء الروبوت الخاص بك باستخدام Cody. تتيح لك المرونة الإضافية في تخصيص الأداة تخصيص مظهر الروبوت وسلوكه ليتناسب مع احتياجات عملك المحددة وعلامتك التجارية.

نحن نعمل باستمرار على تطوير وتقديم ميزات أكثر إثارة لتعزيز تجربة كودي. فريقنا مكرس لجعل العملية الكاملة لبناء ونشر الروبوتات أكثر سلاسة وسهولة في الاستخدام. ترقبوا التحديثات القادمة بينما نواصل تحسين وتحسين منصة Cody. لمزيد من الموارد ، يمكنك أيضا التحقق من مركز المساعدة والانضمام إلى مجتمع Discord الخاص بنا.

هل يجب عليك الترقية إلى الإصدار المدفوع من Cody؟ إليك سبب رغبتك في ذلك.

قبل بضعة أيام ، أصدرنا نموذجا أحدث لجميع مستخدمينا المدفوعين مباشرة بعد إصدار OpenAI: GPT-3.5 16k. بقدر ما قد يبدو الأمر مخيفا ، فقد يغير قواعد اللعبة لعملك. في هذه المدونة ، سوف نتعمق في حالات استخدام GPT-3.5 16k ، ونستكشف مزاياها ، ونسلط الضوء على كيفية اختلافها عن طراز GPT-3.5 الحالي وأحدث GPT-4 الراقي.

ما هو GPT-3.5 16K؟

إذا كنت قد استخدمت الإصدار المجاني من Cody من قبل ، فقد تكون بالفعل على دراية بنموذج الفانيليا GPT-3.5 ، والذي يستخدم نموذج OpenAI gpt-3.5-turbo . هذا النموذج هو الخيار الشائع للعديد من المستخدمين لأنه يوفر القدرة على تحمل التكاليف والسرعة والموثوقية في معظم الحالات. من ناحية أخرى ، يستخدم GPT-3.5-16k نموذج OpenAI gpt-3.5-turbo-16k ، وهو امتداد ل gpt-3.5-turbo. يكمن الاختلاف الكبير في جانب “16k”.

ما هو 16 ألف؟

تشير اللاحقة “16K” إلى أن النموذج يحتوي على نافذة سياق تبلغ 16000 رمز مميز ، وهي زيادة كبيرة عن 4096 رمزا مميزا حاليا. في مدونتنا السابقة ، أوضحنا ما هي الرموز المميزة بالتفصيل. يمكن أن تؤدي نافذة السياق الأصغر في النماذج إلى العديد من القيود ، بما في ذلك:

1. عدم الملاءمة: مع نافذة سياق محدودة ، قد يكافح النموذج لالتقاط والحفاظ على الصلة بالسياق الأوسع للمحادثة أو المهمة.
2. عدم القدرة على الحفاظ على السياق: يمكن أن تجعل نافذة السياق الأصغر من الصعب على النموذج تذكر المعلومات من الأجزاء السابقة من المحادثة والرجوع إليها ، مما يؤدي إلى عدم الاتساق والصعوبات في الحفاظ على حوار متماسك.
3. القيود المفروضة على أطوال استعلام الإدخال: تفرض نوافذ السياق الأقصر قيودا على طول استعلامات الإدخال ، مما يجعل من الصعب توفير معلومات شاملة أو طرح أسئلة معقدة.
4. قيود سياق قاعدة المعرفة: قد تواجه نافذة السياق الأصغر قيودا في دمج المعرفة من المستندات ذات الصلة من المعرفة بسبب حد استيعاب البيانات.

مزايا نافذة سياق أكبر

قد يطرح سؤال في أذهان عدد قليل من الناس: كيف يمكن ل GPT-3.5 معالجة أكثر من 1000 صفحة ويب ومستند على Cody ، على الرغم من سعته البالغة 4096 رمزا فقط؟ مع التقدم في مجال الذكاء الاصطناعي التوليدية ، لا يعني توفير السياق ببساطة تغذية المستند بأكمله كما هو الحال في نماذج اللغة مثل GPT-3.5 Turbo. يتم استخدام عمليات الواجهة الخلفية مثل التقطيع والتضمين وقواعد بيانات المتجهات لمعالجة البيانات مسبقا ، والحفاظ على الصلة داخل الأجزاء والسماح للنموذج بالتنقل في نافذة السياق المحددة مسبقا.

وفي السيناريو الحالي، من شأن نافذة سياق أكبر أن تعزز الأداء العام الذكاء الاصطناعي من خلال استيعاب مدخلات أكبر وأكثر تعقيدا، مع تقليل عدد معاملات تخزين النواقل اللازمة لتوليد استجابة. نظرا لأن نافذة السياق تشمل كلا من المدخلات والمخرجات ، فإن النافذة الأكبر ستمكن النموذج أيضا من تقديم استجابات مفصلة ومتماسكة مع الحفاظ على سياق المحادثة.

ستساعد نافذة السياق الأكبر أيضا في التخفيف من أي هلوسة قد تحدث عند تجاوز حد الرمز المميز في المحادثة.

GPT-3.5 توربو 16K v / s GPT-4

على الرغم من أنه أحدث إصدار من OpenAI ، gpt-4 إلا gpt-3.5-turbo-16k أنه لا يزال يتفوق عليه في جوانب مختلفة مثل فهم السياق المرئي وتحسين الإبداع والتماسك والأداء متعدد اللغات. المنطقة الوحيدة التي يتفوق فيها GPT-3.5-16k هي نافذة السياق ، حيث يتوفر GPT-4 حاليا في متغير 8k ، مع استمرار طرح متغير 32k تدريجيا.

في غضون ذلك ، حتى يصبح الإصدار 32k متاحا gpt-4 على نطاق واسع ، يبرز GPT-3.5-16k بنافذة السياق الأكبر. إذا كنت تبحث على وجه التحديد عن نموذج يوفر نافذة سياق أكثر شمولا ، فإن GPT-3.5-16k هو الخيار المثالي.

حالات استخدام نافذة سياق أكبر

1. دعم العملاء: تعمل نافذة السياق الأكبر على تحسين الذاكرة قصيرة المدى للنموذج ، مما يجعلها مناسبة تماما للتطبيقات التي تتضمن دعم العملاء وملء النماذج وجمع بيانات المستخدم. إنه يمكن النموذج من الحفاظ على السياق على مدى فترة أطول ، مما يؤدي إلى استجابات أكثر صلة بمدخلات المستخدم مثل الأسماء ومعرفات العملاء والشكاوى والتعليقات.
2. تدريب الموظفين: أثبتت الاستفادة من Cody لأغراض تدريب الموظفين فعاليتها العالية. غالبا ما يتضمن تدريب الموظفين بيانات شاملة تتعلق بأنشطة الأعمال والخطوات والعمليات. للحفاظ على الصلة السياقية طوال البرنامج التدريبي ، يصبح من الضروري دمج تاريخ المحادثة الكامل للمتدرب. تسمح نافذة السياق الأكبر بإدراج المزيد من المعلومات التاريخية ، مما يسهل تجربة تدريب أكثر شمولا وفعالية.
3. تحليل البيانات: غالبا ما تتطلب المهام التي تتضمن التحليل المالي والاستدلال الإحصائي معالجة كميات كبيرة من البيانات لاستخلاص رؤى ذات مغزى. مع نافذة سياق أكبر ، يمكن للنموذج الاحتفاظ بمعلومات أكثر صلة أثناء الحساب ، مما يؤدي إلى تحليل أكثر تماسكا ودقة. على سبيل المثال ، يمكن تنفيذ مقارنة الميزانيات العمومية والأداء العام للشركة عاما بعد عام بشكل أكثر فعالية من خلال نافذة سياق أكبر.

مقارنة بين GPT-3.5 4K v / s 16K

لتوضيح التحسينات على طراز 16K ، استفسرنا .csv عن ملف الجدول الدوري الذي يحتوي على 118 عنصرا وميزاتها.

من المقارنة ، من الواضح أن GPT-3.5 4K لم يتمكن من إنتاج جميع العناصر المشعة في استجابته وتخطى بعض العناصر. في المقابل ، أنتج GPT-3.5 16K تقريبا جميع العناصر المشعة الموجودة في الجدول المقدم. يوضح هذا تحسين إعداد الاستجابات بسبب نافذة السياق الأكبر. كانت هذه مجرد لمحة صغيرة عن الإمكانات التي تحملها نافذة السياق البالغة 16 ألفا مع وجود تطبيقات وتطبيقات لا حصر لها لنفس الشيء. مع وجود GPT-4 32K في طور الإعداد ، يمكن لطراز 16K تسهيل الانتقال بشكل أكثر سلاسة إلى نافذة سياق أكبر.

هل يجب عليك الترقية؟

نافذة السياق الأكبر هي بلا شك تحديث مهم وليس مجرد وسيلة للتحايل. يلعب تحسين فهم السياق دورا حاسما في تحسين جودة الاستجابات ، وتفتح نافذة السياق الأكبر إمكانات كبيرة لنماذج نماذج اللغة (LLMs) هذه. من خلال السماح بفهم أكثر شمولا لتاريخ المحادثة والإشارات السياقية ، يمكن ل LLMs تقديم مخرجات أكثر دقة ومناسبة للسياق.

كما ذكرنا سابقا ، يتوفر متغير 16K من GPT-3.5 لجميع المستخدمين بدءا من الخطة الأساسية. إذا كنت تستخدم الخطة الشخصية (المجانية) لبعض الوقت ، فستكون قد اختبرت بالفعل القدرات التي يوفرها Cody. توفر الخطة الأساسية قيمة ممتازة مقابل المال ، خاصة إذا كنت لا تحتاج إلى ميزات إضافية ل GPT-4. إنه مناسب للأفراد الذين يقومون ببناء روبوت كمشروع أو نموذج أولي لأعمالهم مع اختيار النموذج الإضافي GPT-3.5 16K. في المستقبل ، عندما نصدر متغير GPT-4 32K ، يمكنك دائما الترقية إلى الخطة المميزة عند الحاجة إلى المزيد من الرموز المميزة.

بالنسبة للمؤسسات الكبيرة ، تعد الخطة المتقدمة هي الخيار الأقوى ، حيث تلبي متطلبات الاستخدام كثيفة الاستخدام للموارد وذات الحجم الكبير. إنه يوفر قدرات شاملة لتلبية متطلبات العمليات واسعة النطاق.

مصادر إضافية

مركز المساعدة

الخلاف