Terminologias da Cody 101

Um guia para principiantes para compreender as Terminologias Cody de uma forma simplificada.

Antes de começar a criar o seu próprio bot baseado em GPT para o seu negócio utilizando o Cody, é essencial que compreenda as principais terminologias para que a flexibilidade que o nosso construtor de bots oferece não o intimide. Não é necessário ser um especialista em IA ou ter conhecimentos prévios neste domínio para compreender estas terminologias, uma vez que serão explicadas da forma mais simplificada possível. Pense nisto como um guia para principiantes ou“Cody For Dummies“.

Este blogue não abordará a configuração da Cody ou a importação de dados para a Cody, uma vez que já publicámos alguns blogues que o ajudarão com a configuração. Nos próximos blogues, iremos aprofundar estes temas. Sem mais demoras, vamos compreender as diferentes terminologias com que se vai deparar ao construir o seu bot.

Personalidade

O Cody oferece duas formas de definir a personalidade do seu bot:
Modo de modelo
e
Modo Avançado
. A personalidade do seu bot estabelece o contexto e o comportamento do seu bot para garantir que este gera respostas úteis que correspondem às suas expectativas e evitam quaisquer alucinações imprevistas.

Alucinação
refere-se ao fenómeno em que um modelo linguístico gera respostas que podem ser imaginativas, especulativas ou não baseadas em informações factuais.

Modo de modelo

Este modo é útil para as empresas que pretendem uma solução “plug-and-play” para criar um bot. Os nossos programadores criaram modelos de bot para diferentes domínios de negócio, tais como
suporte
,
Formação
,
RH
e
Marketing
.

Cody Template Mode Personalidade

Seleccione qualquer domínio de entre os seguintes e a Cody tratará do resto. Para maior flexibilidade, Cody também fornece definições que podem ser utilizadas para personalizar a personalidade até certo ponto.

Por exemplo, se optar pelo Suporte Informático como personalidade do seu bot, pode alterar a alcunha do seu bot e decidir como este irá lidar com as perguntas sem resposta (um caso predefinido) e as línguas em que precisa que o bot converse.

Definições do modo de modelo Cody

Este modo ainda se encontra em desenvolvimento e será brevemente atualizado para poder abranger vários outros domínios de atividade com uma série de funcionalidades de personalização.

Precisa de mais flexibilidade? Não se preocupe, o nosso Modo Avançado dá-lhe cobertura.

Modo avançado

O Advanced Bot Builder dá-lhe a liberdade de personalizar vários parâmetros e permite-lhe criar o bot perfeito que se adapta ao seu caso de utilização. Atualmente, é possível personalizar os seguintes parâmetros:

Prompt
Pontuação de relevância
Distribuição de tokens
Prompt persistente
Pesquisa de vectores inversa

Prompt

O aviso irá
definirá a personalidade
do teu bot. Para simplificar o processo de solicitação, considere o bot como um funcionário da sua empresa. Embora não exista uma estrutura específica para a redação de um tema de personalidade, preparámos uma lista de parâmetros para sua referência.

Parâmetro	Exemplo
Alcunha da IA	“Tu és o Cody.”
Perfil do emprego	“Trabalha como engenheiro de apoio informático na minha empresa.”
Tom	“Manter uma atitude profissional e amigável em todas as interacções, assegurando que os utilizadores se sintam confortáveis e apoiados.”
Domínio	“Tecnologia, apoio, consultor tecnológico”
Nível de especialização	“Lembre-se de transmitir uma sensação de perícia e confiança nas suas respostas.”
Directrizes éticas	“Não invente as suas próprias respostas nem utilize dados que não existam nos dados de formação. Evite mencionar ‘base de conhecimentos não estruturada’ ou nomes de ficheiros durante a conversa.”
Serviços adicionais (opcional)	“Tentar promover as vendas de XYZ sempre que possível.”
Caso por defeito (para consultas sem resposta)	“Nos casos em que não esteja disponível uma resposta definitiva, reconheça a sua incapacidade de responder e informe o utilizador de que não pode responder.”

Um exemplo de pedido:

“Você é o empregado de mesa de uma pizzaria. Mantenha uma atitude profissional e amigável em todas as interacções, assegurando que os utilizadores se sentem confortáveis e apoiados. Não se esqueça de transmitir uma sensação de perícia e confiança nas suas respostas. Além disso, encorajo-o a promover ativamente as nossas pizzas premium sempre que for apropriado. Não faça referência a outras fontes de menu para além das fornecidas na base de conhecimentos. Ao recomendar pizzas, indique também os respectivos preços e quaisquer ofertas que lhes sejam aplicáveis.”

Pontuação de relevância

A pontuação de relevância reflecte o grau de semelhança entre a consulta do utilizador e a resposta da Cody. Utilizando a pesquisa semântica, o Cody compara a consulta do utilizador com os dados presentes na base de conhecimentos. Uma pontuação de relevância mais elevada resultará numa resposta precisa, mas comprometerá a compreensão do contexto geral da consulta e vice-versa. Por outras palavras, a pontuação de relevância é o grau em que a IA receia cometer erros e correr riscos ao responder.

Controlo deslizante da pontuação de relevância

Distribuição de tokens

O token é a moeda computacional para grandes modelos de linguagem como a família GPT. A consulta (instrução de entrada) pedida pelo utilizador é dividida em blocos de caracteres conhecidos como ‘
tokens
‘. Como os modelos de IA consomem muitos recursos, para fazer face aos constrangimentos computacionais e às limitações de memória, estes modelos têm um certo limite para os dados de entrada que podem ser processados e gerados. Este limite é a ‘
janela de contexto
‘.

Ilustração da janela de contexto

O Cody utiliza a família de modelos GPT e o número de fichas disponíveis é limitado. A funcionalidade de distribuição de tokens ajuda a microgerir a utilização de tokens para diferentes fins.

Dividem-se principalmente em Contexto, História e Geração de Respostas.

Contexto: Os tokens necessários para compreender a consulta do utilizador e o contexto da base de conhecimentos.
Histórico: Os tokens necessários para adicionar contexto à consulta do utilizador utilizando o histórico do chat.
Geração de respostas: Os tokens necessários para avaliar a coerência, a gramática e a validade semântica do texto gerado.

Para uma maior precisão é importante que o
contexto
constitua uma
grande parte
da distribuição dos tokens.

Prompt persistente

Reforçando continuamente o prompt (personalidade do bot), cria-se uma forma de contexto de conversação e restrição que mantém a IA no caminho certo e ajuda a manter a conformidade com os resultados desejados. Funciona como um lembrete para que a IA se mantenha dentro dos limites predefinidos e forneça respostas que sejam relevantes, precisas e alinhadas com os seus objectivos.

Pesquisa de vectores inversa

A Pesquisa de Vectores Inversos é uma funcionalidade especificamente concebida para empresas que utilizam o Cody para fins de formação de funcionários. Integra na perfeição as respostas de IA geradas anteriormente com as consultas dos utilizadores, criando uma compreensão contextual abrangente que melhora a qualidade e a relevância das respostas subsequentes. É especialmente valioso quando se utiliza Cody para guias passo-a-passo e fins didácticos.

Esta imagem descreve como funciona a pesquisa vetorial inversa.

Para terminar

Quando tiver um bom domínio destas terminologias, poderá aperfeiçoar as respostas do seu bot e torná-las ainda mais personalizadas. Fique atento aos próximos blogues que oferecerão mais orientações, actualizações e informações adicionais para libertar todo o potencial do seu bot Cody AI. Para obter mais recursos, pode também consultar o nosso Centro de ajuda e juntar-se à nossa comunidade Discord.