Anatomia de uma personalidade de bot

Dicas para criar um bot que faça exatamente o que pretende.

É essencial reconhecer que, ao construir bots que utilizam modelos de linguagem, a paciência é crucial, especialmente no início. Depois de estabelecer uma base sólida, torna-se mais fácil acrescentar componentes adicionais. Construir bots com o Cody é como pintar numa tela. É necessário um certo grau de criatividade e alguma compreensão dos fundamentos para dar o seu toque pessoal ao bot.

O parâmetro principal que permite ao seu bot adotar um estilo de pensamento particular é o Prompt de Personalidade. A personalidade do bot é moldada por vários factores, incluindo a distribuição de tokens, a pontuação de relevância e muito mais. No entanto, o pedido de personalidade é o aspeto mais distinto e criativo, uma vez que pode ser personalizado de forma diferente por cada utilizador. Os utilizadores têm a liberdade de criar e ajustar a personalidade do bot de acordo com as suas necessidades específicas.

A liberdade é algo que todos apreciamos, mas quando se começa com uma folha em branco, também se pode tornar intimidante e levar à ambiguidade sobre por onde começar. Se tem sentido o mesmo, não se preocupe; este blogue deve ajudá-lo a criar uma melhor personalidade. Começaremos por apresentar a estrutura recomendada para os avisos e, em seguida, forneceremos alguns exemplos de avisos.

Nome

É sempre vantajoso começar por dar um nome ao seu bot. Dar um nome ao seu bot dá um toque humano, especialmente quando cumprimenta os utilizadores ou aborda questões relacionadas com o bot.

Sugestões:

O teu nome é [Name of your Bot].
OU
Você é ‘[Name of your Bot]’.

Descrição

A descrição do bot torna-o consciente do contexto que será fornecido pela base de conhecimentos. A consciência do contexto fornece ao bot uma estrutura para responder a perguntas, tendo em mente um domínio específico.

Sugestões:

A sua principal tarefa é [specify the domain].
OU
O vosso principal objetivo é ajudar-me em [specify the domain].

Nota: O Nome do Bot e a Descrição definidos na Secção Geral são apenas para conveniência do utilizador na diferenciação entre vários bots. O próprio bot não tem conhecimento destas definições. Portanto, é necessário definir explicitamente o nome e a descrição do bot no Prompt de Personalidade para estabelecer sua identidade e características.

Limites

Uma potencial desvantagem da utilização de LLMs treinados em grandes conjuntos de dados é a tendência para gerar respostas alucinadas. É importante notar que os dados utilizados para gerar respostas não são utilizados para afinar ou reciclar o LLM a pedido do Cody. Em vez disso, serve de referência contextual para a consulta da LLM, resultando em respostas mais rápidas e preservando a privacidade dos dados.

Para garantir que o bot não se refere a pontos de dados do conjunto de dados LLM original, que podem sobrepor-se a domínios ou conceitos semelhantes, temos de delimitar o contexto estritamente à nossa base de conhecimentos.

Sugestões:

A base de conhecimentos é a sua única fonte de informação.
OU
É relutante em fazer quaisquer afirmações, a menos que estejam indicadas na base de conhecimentos.

Pode haver alguns casos em que o bot não necessite de uma base de conhecimentos ou utilize a base de conhecimentos como fonte de referência. Nestes casos, a mensagem muda consideravelmente.

Prompt:

A sua principal fonte de referência é a base de conhecimentos.

Características da resposta

As características da resposta gerada pelo bot também podem ser controladas, em certa medida, pela personalidade do bot. Pode consistir em definir o tom, a duração, a linguagem e o tipo de resposta que espera do seu bot.

Sugestões:

1. Tom: Deve responder de uma forma [polite/friendly/professional].

2. Comprimento: As respostas devem ser dadas em [pointers/paragraphs].

3. Língua: Responder ao utilizador [in the same language/specify different language].

4. Tipo: Fornecer ao utilizador [creative/professional/precise] respostas.

É livre de experimentar várias combinações e características. Os exemplos fornecidos são apenas para efeitos de aprendizagem e as possibilidades são infinitas.

Media

Uma das características mais interessantes do Cody é a possibilidade de incorporar conteúdos multimédia nas respostas. Ao incorporar meios de comunicação, como imagens, GIFs ou vídeos, é sempre recomendável importar os meios de comunicação para um documento separado ou importar todo o documento em bruto utilizando o editor de texto Cody incorporado, onde pode adicionar meios de comunicação. Pode copiar/colar os meios de comunicação ou incorporá-los no documento utilizando URLs.

Depois de importar com êxito os suportes de dados, é necessário especificar os mesmos no nosso prompt de personalidade do bot. O prompt pode ser dividido em duas partes: Inicialização e Ilustração.

Sugestões:

Inicialização:
Incorporar [images/videos/both] relevante da base de conhecimentos quando adequado.

Ilustração:
Adicione imagens utilizando a etiqueta <img> e vídeos utilizando o iframe <>
Por exemplo:
<img src=”[Image URL]”>
<iframe src=”[Video URL]”></iframe>

Recuos

Haverá alturas em que o bot não consegue encontrar conteúdo relevante para a pergunta feita pelo utilizador. É sempre mais seguro definir soluções alternativas para esses cenários, a fim de evitar fornecer informações enganosas ou incorrectas ao utilizador (apenas aplicável em casos de utilização em que exista uma base de conhecimentos).

Sugestões:

1. Não mencionar “base de conhecimentos não estruturada” ou nomes de ficheiros durante a conversa.

2. Nos casos em que não é possível obter uma resposta definitiva, [Define fallback].

OU

Se não for possível encontrar informações relevantes na base de conhecimentos ou se o utilizador fizer perguntas não relacionadas que não façam parte da base de conhecimentos, [Define fallback].

Etapas (opcional)

Se quiser que o seu bot siga uma linha de tempo ou um fluxo de conversação específico, pode defini-lo facilmente utilizando passos. Esta abordagem é particularmente útil quando se utiliza o bot para fins de formação ou de resolução de problemas. Cada passo representa uma fase ou etapa específica da conversa, permitindo-lhe controlar a progressão e garantir que o bot fornece as informações ou a assistência desejadas de uma forma sistemática.

Prompt:

Siga estes passos enquanto conversa com o utilizador:

1. [Step 1]

2. [Step 2]

3. [Step 3]

Nota: Ao definir as etapas, recomenda-se ativara “Pesquisa de vetor invertido” para melhorar as respostas e atribuir um número adequado de tokens ao histórico de conversações. Isto permite que o modelo considere o histórico da conversa, incluindo a entrada do utilizador e a resposta anterior do bot, ao gerar uma resposta.

Captura de dados (opcional)

Este prompt, em harmonia com o fluxo de conversação (etapas), é particularmente benéfico quando o caso de utilização do seu bot gira em torno de cenários de apoio ou recrutamento. Atualmente, não existe memória de longo prazo ou conetividade de base de dados no Cody que possa captar os dados e armazená-los para consumo analítico. No futuro, com as novas actualizações da API da OpenAI, como a chamada de funções, iremos certamente introduzir novas funcionalidades para podermos captar e armazenar os dados a longo prazo.

Por enquanto, pode aceder aos chats dos utilizadores do seu bot (através de widgets) navegando para os chats“Convidados” na secção de chats. Pode então analisar manualmente os dados capturados para obter mais informações.

Prompt:

Recolha os seguintes dados dos utilizadores:

– [Field 1]

– [Field 2]

– [Field 3]

– [Field 4]

Fazer uma pergunta de cada vez. Quando tiver recolhido todas as informações necessárias, encerre a conversa agradecendo e mostrando os dados recolhidos. Lembre-se de que a sua tarefa consiste apenas em recolher dados.

Formatação da resposta*

Uma caraterística interessante do Cody é o seu suporte para formatar respostas de bots utilizando etiquetas markdown ou HTML. Ao fornecer ao seu bot um modelo de formato HTML ou markdown na personalidade do bot, este tentará formatar as respostas em conformidade, sempre que necessário.

Prompt:

Formato de resposta:

<h1>[Field Name]</h1>

<p>[Field Name]</p>

<p>[Field Name]</p>

*A formataçãofunciona melhor em GPT-4

Exemplo de aviso

Cody como um bot de geração de leads

 

Cody como um bot de marketing

Cody como um bot de treino

Para saber mais sobre os avisos de personalidade, consulte os nossos casos de utilização, que contêm avisos pormenorizados juntamente com as suas definições paramétricas.

Conclusão

Se estiver a utilizar o plano gratuito do Cody, existe a possibilidade de o bot perder a aderência ao prompt ou de simplesmente ignorar alguns parâmetros devido à janela de contexto mais pequena ou à falta de coerência. Recomendamos a todos que utilizem o plano gratuito apenas para fins de teste ou como uma fase de transição para compreender a utilização da Cody e determinar a sua adequação à sua empresa.

Ao construir prompts para o seu bot, também é importante manter a concisão e evitar incorporar todos os parâmetros mencionados no artigo. Como há um limite para o número de fichas disponíveis e o prompt de personalidade também consome fichas, deve construí-las criteriosamente. Pode alterar os prompts apresentados neste artigo de acordo com as suas necessidades e preferências. Descobriu algo novo? Pode sempre partilhá-lo connosco, e teremos todo o gosto em discuti-lo.

Esta foi apenas uma introdução à vasta paisagem da criação de personalidades de bots. Os LLM estão a melhorar continuamente a cada dia que passa, e ainda temos um longo caminho a percorrer para utilizar plenamente o seu potencial. Toda esta viagem é uma experiência nova para todos nós. À medida que continuamos a experimentar, aprender e implementar novos casos de utilização e cenários, partilhá-los-emos consigo através de artigos e tutoriais. Para obter mais recursos, pode também consultar o nosso Centro de ajuda e não hesite em colocar quaisquer questões relativas ao Cody, juntando-se à nossa comunidade Discord. Consulte também os nossos blogues anteriores para obter mais informações interessantes.