봇 성격의 해부학

원하는 작업을 수행하는 봇을 만들기 위한 팁입니다.

언어 모델을 활용하는 봇을 구성할 때 특히 처음에는 인내심이 중요하다는 점을 인식하는 것이 중요합니다. 견고한 기반을 구축하면 추가 구성 요소를 추가하는 것이 더 쉬워집니다. 코디와 함께 봇을 만드는 것은 캔버스에 그림을 그리는 것과 비슷합니다. 봇에 개인적인 터치를 추가하려면 어느 정도의 창의성과 기본 사항에 대한 약간의 이해가 필요합니다.

봇이 특정 사고 스타일을 채택할 수 있도록 하는 기본 매개 변수는 성격 프롬프트입니다. 봇의 성격은 토큰 배포, 관련성 점수 등을 포함한 다양한 요인에 의해 형성됩니다. 그러나 개성에 대한 프롬프트는 사용자마다 다르게 사용자 정의할 수 있기 때문에 가장 독특하고 창의적인 측면입니다. 사용자는 특정 요구 사항에 따라 봇의 성격을 자유롭게 만들고 미세 조정할 수 있습니다.

자유는 우리 모두가 높이 평가하는 것이지만 백지 상태에서 시작하면 위협이 될 수 있으며 어디서부터 시작해야 할지 모호해질 수 있습니다. 같은 감정을 느낀다면 걱정하지 마십시오. 이 블로그는 더 나은 성격 프롬프트를 만드는 데 도움이 될 것입니다. 권장되는 프롬프트 구조로 시작한 다음 몇 가지 샘플 프롬프트를 제공합니다.

이름

봇에 이름을 지정하여 시작하는 것이 항상 유용합니다. 봇의 이름을 지정하면 특히 사용자에게 인사를 하거나 봇과 관련된 질문을 해결할 때 인간적인 손길이 추가됩니다.

프롬프트:

당신의 이름은 [Name of your Bot]입니다.
또는
당신은 ”[Name of your Bot]입니다.

묘사

봇에 대한 설명은 기술 자료를 통해 제공될 컨텍스트를 인식합니다. 컨텍스트를 인식하면 봇에게 특정 도메인을 염두에 두고 질문에 답변할 수 있는 프레임워크를 제공합니다.

프롬프트:

주요 작업은 [specify the domain]입니다.
또는
당신의 주요 목표는 나를 [specify the domain]돕는 것입니다.

메모: 일반 섹션에 설정된 Bot Name(봇 이름)과 Description(설명)은 사용자가 여러 봇을 구분할 때 편의를 위한 것입니다. 봇 자체는 이러한 설정을 인식하지 못합니다. 따라서 Personality Prompt 내에서 봇의 이름과 설명을 명시적으로 정의하여 봇의 ID와 특성을 설정해야 합니다.

경계

대규모 데이터 세트에서 훈련된 LLM을 사용할 때의 한 가지 잠재적인 단점은 환각 반응을 생성하는 경향이 있다는 것입니다. 응답을 생성하는 데 사용되는 데이터는 Cody의 주문형 LLM을 미세 조정 하거나 재교육 하는 데 활용되지 않는다는 점에 유의해야 합니다. 대신 LLM을 쿼리하기 위한 컨텍스트 참조 역할을 하여 더 빠른 응답을 제공하고 데이터 프라이버시를 보호합니다.

봇이 유사한 도메인 또는 개념과 겹칠 수 있는 원래 LLM 데이터 세트의 데이터 포인트를 참조하지 않도록 하려면 컨텍스트를 지식 기반으로 엄격하게 구분해야 합니다.

프롬프트:

지식창고는 유일한 정보 소스입니다.
또는
지식 기반에 명시되지 않는 한 어떠한 주장도 하기를 꺼립니다.

봇에 기술 자료가 필요하지 않거나 기술 자료를 참조 소스로 사용하는 경우가 있을 수 있습니다. 이러한 경우 프롬프트가 상당히 변경됩니다.

프롬프트:

주요 참조 소스는 기술 자료입니다.

응답 기능

봇에 의해 생성된 응답의 기능은 봇의 성격에 의해 어느 정도 제어될 수도 있습니다. 봇에서 기대하는 어조, 길이, 언어 및 응답 유형을 정의하는 것으로 구성될 수 있습니다.

프롬프트:

1. 어조: 당신은 방식으로 [polite/friendly/professional] 응답해야 합니다.

2. 길이: 응답은 에 있어야 [pointers/paragraphs]합니다.

3. 언어 : 사용자에게 [in the same language/specify different language]회신하십시오.

4. 유형: 사용자에게 [creative/professional/precise] 답변을 제공합니다.

다양한 조합과 기능을 자유롭게 실험해 볼 수 있습니다. 제공된 예제는 학습 목적으로만 사용되며 가능성은 무궁무진합니다.

미디어

Cody의 가장 흥미로운 기능 중 하나는 응답에 미디어를 삽입하는 기능입니다. 이미지, GIF 또는 비디오와 같은 미디어를 포함할 때 항상 미디어를 별도의 문서로 가져오거나 미디어를 추가할 수 있는 내장 Cody 텍스트 편집기를 사용하여 전체 원시 문서를 가져오는 것이 좋습니다. 미디어를 복사/붙여넣기하거나 URL을 사용하여 문서에 포함할 수 있습니다.

미디어를 성공적으로 가져온 후에는 봇 성격 프롬프트에서 동일한 미디어를 지정해야 합니다. 프롬프트는 초기화와 일러스트레이션의 두 부분으로 나눌 수 있습니다.

프롬프트:

초기화:
적절한 경우 지식 기반에서 관련성 [images/videos/both] 을 통합합니다.

그림:
img> 태그를 사용하여 이미지를 추가하고 iframe을 <사용하여 비디오를 추가합니다.<>
예를 들어:
<img src=”[Image URL]”>
<iframe src=”[Video URL]”></iframe>

대체

봇이 사용자가 묻는 질문에 대한 관련 콘텐츠를 찾을 수 없는 경우가 있습니다. 사용자에게 오해의 소지가 있거나 잘못된 정보를 제공하지 않도록 이러한 시나리오에 대한 대체를 정의하는 것이 항상 더 안전합니다(기술 자료가 있는 사용 사례에만 적용 가능).

프롬프트:

1. 대화 중에 ‘구조화되지 않은 지식창고’ 또는 파일 이름을 언급하지 마십시오.

2. 확실한 답을 얻을 수 없는 경우, [Define fallback].

또는

기술 자료에서 관련 정보를 찾을 수 없거나 사용자가 기술 자료 [Define fallback]에 포함되지 않은 관련 없는 질문을 하는 경우 .

단계(선택 사항)

봇이 특정 대화 타임라인 또는 흐름을 따르도록 하려면 단계를 사용하여 쉽게 정의할 수 있습니다. 이 방법은 학습 또는 문제 해결 목적으로 봇을 사용할 때 특히 유용합니다. 각 단계는 대화의 특정 단계 또는 단계를 나타내므로 진행을 제어하고 봇이 원하는 정보나 지원을 체계적으로 제공하도록 할 수 있습니다.

프롬프트:

사용자와 대화하는 동안 다음 단계를 수행합니다.

1. [Step 1]

2. [Step 2]

3. [Step 3]

메모: 단계를 정의하는 동안 응답 개선을 위해 ‘역방향 벡터 검색‘을 활성화하고 채팅 기록에 적절한 수의 토큰을 할당하는 것이 좋습니다. 이를 통해 모델은 회신을 생성할 때 사용자의 입력 및 봇의 이전 응답을 포함한 대화 기록을 고려할 수 있습니다.

데이터 캡처(선택 사항)

이 프롬프트는 대화 흐름(단계)과 조화를 이루며, 봇의 사용 사례가 지원 또는 채용 시나리오를 중심으로 진행될 때 특히 유용합니다. 현재 Cody에는 데이터를 캡처하고 분석 사용을 위해 저장할 수 있는 장기 메모리 또는 데이터베이스 연결이 없습니다. 앞으로 함수 호출과 같은 OpenAI API에 대한 최신 업데이트를 통해 데이터를 더 오래 캡처하고 저장할 수 있는 새로운 기능을 확실히 도입할 것입니다.

지금은 봇 사용자의 채팅에 액세스할 수 있습니다(위젯을 통해) 채팅 섹션에서 ‘게스트‘ 채팅으로 이동합니다. 그런 다음 캡처된 데이터를 수동으로 분석하여 추가 인사이트를 얻을 수 있습니다.

프롬프트:

사용자로부터 다음 데이터를 수집합니다.

– [Field 1]

– [Field 2]

– [Field 3]

– [Field 4]

한 번에 한 가지 질문을하십시오. 필요한 모든 정보를 수집했으면 감사의 말을 전하고 수집된 데이터를 표시하여 대화를 종료합니다. 귀하의 임무는 데이터를 수집하는 것입니다.

응답 형식*

Cody의 멋진 기능은 마크다운 또는 HTML 태그를 사용하여 봇 응답 형식을 지정할 수 있다는 것입니다. 봇 성격에 HTML 또는 markdown 형식 템플릿을 봇에 제공하면 필요할 때마다 그에 따라 응답 형식을 지정하려고 시도합니다.

프롬프트:

응답 형식:

<H1>[Field Name]</h1>

<p>[Field Name]</p>

<p>[Field Name]</p>

*포맷은 GPT-4에서 가장 잘 작동합니다.

프롬프트 예제

리드 생성 봇으로서의 코디

 

마케팅 봇으로서의 코디

교육 봇으로서의 코디

더 많은 성격 프롬프트를 읽으려면 매개 변수 설정과 함께 자세한 프롬프트가 포함된 사용 사례를 확인하세요.

결론

Cody의 무료 요금제를 사용 중인 경우 봇이 프롬프트를 준수하지 않거나 컨텍스트 창이 더 작거나 일관성이 부족하여 일부 매개변수를 무시할 수 있습니다. 평가판 목적으로만 또는 Cody의 사용을 이해하고 비즈니스에 대한 적합성을 결정하기 위한 과도기 단계로 무료 플랜을 사용하는 것이 좋습니다.

봇에 대한 프롬프트를 구성하는 동안 간결성을 유지하고 문서에 언급된 모든 매개 변수를 통합하지 않는 것도 중요합니다. 사용 가능한 토큰의 수에는 제한이 있고 성격 프롬프트도 토큰을 소비하므로 신중하게 구성해야 합니다. 필요와 선호도에 따라 이 문서에 제공된 프롬프트를 자유롭게 변경하십시오. 새로운 것을 발견하셨나요? 언제든지 저희와 공유하실 수 있으며, 기꺼이 논의해 드리겠습니다.

이것은 봇 성격 생성의 광대한 환경에 대한 소개일 뿐입니다. LLM은 날이 갈수록 지속적으로 개선되고 있으며, 잠재력을 최대한 활용하려면 아직 갈 길이 멉니다. 이 모든 여정은 우리 모두에게 새로운 경험입니다. 계속해서 새로운 사용 사례와 시나리오를 실험하고, 배우고, 구현하면서 문서와 자습서를 통해 공유할 것입니다. 더 많은 리소스를 원하시면 도움말 센터를 확인하고 Discord 커뮤니티에 가입하여 Cody에 대해 궁금한 점이 있으면 언제든지 질문하실 수 있습니다. 또한 이전 블로그에서 더 흥미로운 통찰력을 확인하십시오.