코디 용어 101
Cody 용어를 단순화된 방식으로 이해하기 위한 초보자 가이드입니다.
Cody를 사용하여 비즈니스를 위한 고유한 GPT 기반 봇 구축을 시작하기 전에 봇 빌더가 제공하는 유연성이 위협적이지 않도록 핵심 용어를 이해하는 것이 중요합니다. 이러한 용어가 가장 단순화된 방식으로 설명되므로 이러한 용어를 이해하기 위해 AI 전문가이거나 이 영역에 대한 사전 지식이 필요하지 않습니다. 이것을 초보자 가이드 또는 ‘Cody For Dummies‘로 생각하십시오.
이 블로그에서는 설정에 도움이 되는 몇 가지 블로그를 이미 게시했기 때문에 Cody를 설정하거나 Cody로 데이터를 가져오는 방법을 다루지 않습니다. 다음 블로그에서 우리는 이러한 주제에 대해 더 깊이 파고들 것입니다. 더 이상 고민하지 않고 봇을 빌드하는 동안 접하게 될 다양한 용어를 이해합시다.
인격
Cody는 봇의 성격을 정의하는 두 가지 방법인
템플릿 모드
와
고급 모드를
제공합니다. 봇의 성격은 봇의 컨텍스트와 동작을 설정하여 봇이 사용자의 기대에 부합하는 유용한 응답을 생성하고 예상치 못한 환각을 방지할 수 있도록 합니다.
❓환각은
언어 모델이 상상력이 풍부하거나 추측적이거나 사실적 정보에 근거하지 않은 응답을 생성하는 현상을 말합니다.
템플릿 모드
이 모드는 봇을 구축하기 위한 플러그 앤 플레이 솔루션을 원하는 기업에 유용합니다. 우리 개발자들은
지원
,
교육
,
HR
및
마케팅
과 같은 다양한 비즈니스 영역에 맞는 봇 템플릿을 만들었습니다.
다음 중에서 도메인을 선택하면 Cody가 나머지를 처리합니다. 유연성을 높이기 위해 Cody는 성격을 어느 정도 사용자 지정하는 데 사용할 수 있는 설정 도 제공합니다.
예를 들어. IT 지원을 봇 성격으로 사용하기로 선택한 경우 봇의 닉네임을 변경하고 응답할 수 없는 쿼리(기본 사례)를 처리하는 방법과 봇이 대화해야 하는 언어를 결정할 수 있습니다.
이 모드는 아직 개발 중이며 다양한 사용자 지정 기능을 사용하여 다른 여러 비즈니스 도메인을 수용할 수 있도록 곧 업데이트될 예정입니다.
더 많은 유연성이 필요하십니까? 걱정하지 마세요, 우리는 당신을 우리의 고급 모드로 덮었습니다.
어드밴스드 모드
Advanced Bot Builder를 사용하면 여러 파라미터를 자유롭게 사용자 지정할 수 있으며 사용 사례에 적합한 완벽한 봇을 구축할 수 있습니다. 현재 다음 매개 변수를 사용자 지정할 수 있습니다.
- 프롬프트
- 관련성 점수
- 토큰 분배
- 지속적 프롬프트
- 역방향 벡터 검색
프롬프트
프롬프트는 봇의
성격을 정의합니다
. 프롬프트 프로세스를 간소화하려면 봇을 비즈니스의 직원으로 간주합니다. 성격 프롬프트를 작성하기 위한 구체적인 구조는 없지만 참조할 수 있도록 매개변수 목록을 준비했습니다.
| 매개 변수 | 본보기 |
|---|---|
| AI의 별명 | “넌 코디야.” |
| 직무 프로필 | “우리 회사에서 IT 지원 엔지니어로 일하고 있잖아요.” |
| 성조 | “모든 상호 작용에서 전문적이고 친근한 태도를 유지하여 사용자가 편안하고 지원을 받을 수 있도록 합니다.” |
| 도메인 | “기술, 지원, 기술 컨설턴트” |
| 전문성 수준 | “당신의 대답에 전문성과 자신감을 전달하는 것을 잊지 마십시오.” |
| 윤리 지침 | “자신의 응답을 구성하거나 학습 데이터에 존재하지 않는 데이터를 사용하지 마십시오. 대화 중에 ‘구조화되지 않은 지식창고’나 파일 이름을 언급하지 마십시오.” |
| 추가 서비스(선택 사항) | “가능한 한 XYZ의 판매를 촉진하십시오.” |
| 기본 대소문자(답변할 수 없는 쿼리의 경우) | “확실한 답변을 사용할 수 없는 경우 답변할 수 없음을 인정하고 사용자에게 응답할 수 없음을 알립니다.” |
샘플 프롬프트 :
“당신은 피자 가게의 웨이터입니다. 모든 상호 작용에서 전문적이고 친근한 태도를 유지하여 사용자가 편안하고 지원을 받을 수 있도록 합니다. 답변에 전문성과 자신감을 전달하는 것을 잊지 마십시오. 또한 적절할 때마다 프리미엄 피자를 적극적으로 홍보하는 것이 좋습니다. 기술 자료에 제공된 메뉴 소스 이외의 메뉴 소스를 참조하지 마십시오. 피자를 추천할 때 가격과 피자에 적용할 수 있는 모든 제안도 명시하십시오.”
관련성 점수
관련성 점수는 사용자의 쿼리와 Cody의 응답 간의 유사성 정도를 반영합니다. Cody는 의미 체계 검색을 사용하여 사용자의 쿼리를 기술 자료에 있는 데이터와 비교합니다. 관련성 점수가 높을수록 정확한 답변이 나오지만 쿼리의 전체 컨텍스트를 이해하는 데 방해가 되며 그 반대의 경우도 마찬가지입니다. 간단히 말해서 관련성 점수는 AI가 대응하는 동안 실수를 저지르고 위험을 감수하는 것을 두려워하는 정도입니다.
토큰 분배
토큰은 GPT 패밀리와 같은 대규모 언어 모델의 계산 통화 입니다. 사용자가 요청한 쿼리(입력 문)는 ‘토큰’이라는 문자 블록으로 나
뉩니다
. AI 모델은 실제로 리소스 집약적이기 때문에 계산 제약 및 메모리 제한을 해결하기 위해 이러한 모델에는 처리 및 생성할 수 있는 입력 데이터에 대한 특정 제한이 있습니다. 이 제한은 ‘
컨텍스트 창
‘입니다.
Cody는 GPT 모델 제품군을 사용하며 사용 가능한 토큰 수가 제한되어 있습니다. 토큰 배포 기능은 다양한 목적을 위한 토큰 사용을 세세하게 관리하는 데 도움이 됩니다.
주로 Context, History 및 Response Generation으로 나뉩니다.
- 컨텍스트: 사용자 쿼리 및 기술 자료 컨텍스트를 이해하는 데 필요한 토큰입니다.
- 기록: 채팅 기록을 사용하여 사용자 쿼리에 컨텍스트를 추가하는 데 필요한 토큰입니다.
- 응답 생성: 생성된 텍스트의 일관성, 문법 및 의미론적 유효성을 평가하는 데 필요한 토큰입니다.
가장 높은 정확성을 위해서는
컨텍스트
가 토큰 배포의
많은 부분을
차지하는 것이 중요합니다.
지속적 프롬프트
프롬프트(봇의 성격)를 지속적으로 강화하여 AI를 추적하고 원하는 결과를 준수하는 데 도움이 되는 대화형 컨텍스트 및 제약 조건의 형태를 만듭니다. AI가 미리 정의된 경계 내에 머물면서 관련성 있고 정확하며 목표에 부합하는 응답을 제공하도록 상기시키는 역할을 합니다.
역방향 벡터 검색
역방향 벡터 검색은 직원 교육 목적으로 Cody를 활용하는 기업을 위해 특별히 설계된 기능입니다. 이전에 생성된 AI 응답을 사용자 쿼리와 원활하게 통합하여 후속 응답의 품질과 관련성을 향상시키는 포괄적인 컨텍스트 이해를 생성합니다. 단계별 가이드 및 교육 목적으로 Cody를 사용할 때 특히 유용합니다.
마무리하기 위해
이러한 용어를 잘 이해하면 봇의 응답을 구체화하고 더욱 개인화할 수 있습니다. Cody AI 봇의 잠재력을 최대한 발휘할 수 있도록 추가 지침, 업데이트 및 추가 정보를 제공하는 향후 블로그를 계속 지켜봐 주십시오. 더 많은 리소스를 보려면 도움말 센터를 확인하고 Discord 커뮤니티에 가입할 수도 있습니다.
