Modelo Claude 2.1 lançado com janela de contexto de 200K: O que há de novo?

O Claude 2.1, desenvolvido pela Anthropic, marca um salto significativo nas capacidades de modelos de linguagem de grande porte. Com uma inovadora janela de contexto de 200.000 tokens, o Claude 2.1 pode agora processar documentos com até 133.000 palavras ou aproximadamente 533 páginas. Este avanço também coloca o Claude 2.1 à frente do GPT-4 Turbo da OpenAI em termos de capacidade de leitura de documentos, tornando-o um líder no sector.

O que é o Claude 2.1?

O Claude 2.1 é uma atualização significativa em relação ao anterior modelo Claude 2, oferecendo uma maior precisão e desempenho. Esta última versão apresenta uma janela de contexto duplicada e capacidades pioneiras de utilização de ferramentas, permitindo um raciocínio e uma geração de conteúdos mais complexos. O Claude 2.1 destaca-se pela sua precisão e fiabilidade, mostrando uma diminuição notável na produção de afirmações falsas – é agora duas vezes menos provável que gere respostas incorrectas quando se baseia na sua base de conhecimentos interna.

Em tarefas que envolvem o processamento de documentos, como o resumo e a resposta a perguntas, Claude 2.1 demonstra um maior sentido de honestidade. Atualmente, é 3 a 4 vezes mais propenso a reconhecer a ausência de informações de apoio num determinado texto do que a afirmar incorretamente uma afirmação ou a fabricar respostas. Esta melhoria da honestidade conduz a um aumento substancial da factualidade e da fiabilidade dos resultados do Claude.

Principais destaques

  • Uma maior honestidade leva a uma redução das alucinações e a uma maior fiabilidade.
  • Janela de contexto alargada para análise de conteúdos de formato longo e Retrieval-Augmented Generation (RAG).
  • Introdução da utilização de ferramentas e da chamada de funções para capacidades e flexibilidade alargadas.
  • Técnicas especializadas de engenharia rápida adaptadas ao Claude 2.1.

Quais são as técnicas de solicitação do Claude 2.1?

Embora as técnicas básicas de solicitação para o Claude 2.1 e a sua janela de contexto de 200K reflictam as utilizadas para o 100K, há um aspeto crucial a ter em conta:

Estruturação de consulta de documento de solicitação

Para otimizar o desempenho do Claude 2.1, é crucial colocar todas as entradas e documentos antes de quaisquer perguntas relacionadas. Esta abordagem tira partido das capacidades avançadas de análise de documentos e RAG do Claude 2.1.

As entradas podem incluir vários tipos de conteúdo, tais como:

  • Prosa, relatórios, artigos, livros, ensaios, etc.
  • Documentos estruturados como formulários, tabelas e listas.
  • Trechos de código.
  • Resultados do RAG, incluindo documentos fragmentados e snippets de pesquisa.
  • Textos de conversação como transcrições, históricos de conversação e trocas de perguntas e respostas.

Claude 2.1 Exemplos para a estruturação de um prompt

Em todas as versões do Claude, incluindo a mais recente, Claude 2.1, a organização das consultas após os documentos e entradas sempre melhorou significativamente o desempenho em comparação com a ordem inversa.

claude 2.1 exemplos de prompt do sistema

A imagem acima foi retirada desta fonte.

 

Esta abordagem é especialmente crucial para que o Claude 2.1 obtenha resultados óptimos, particularmente quando se trata de documentos que, no total, excedem alguns milhares de tokens de comprimento.

O que é um prompt do sistema no Claude 2.1?

Um prompt de sistema no Claude 2.1 é um método para definir o contexto e as directivas, orientando o Claude para um objetivo ou função específicos antes de colocar uma pergunta ou tarefa. Os avisos do sistema podem incluir:

  • Instruções específicas da tarefa.
  • Elementos de personalização, incluindo jogos de papéis e definições de tons.
  • Contexto de fundo para as entradas do utilizador.
  • Directrizes de criatividade e estilo, tais como comandos de brevidade.
  • Incorporação de conhecimentos e dados externos.
  • Estabelecimento de regras e de protecções operacionais.
  • Medidas de verificação dos resultados para aumentar a credibilidade.

O suporte do Claude 2.1 para avisos do sistema marca uma nova funcionalidade, melhorando o seu desempenho em vários cenários, como um maior envolvimento da personagem na representação de papéis e uma adesão mais rigorosa às directrizes e instruções.

Como usar os avisos do sistema com o Claude 2.1?

No contexto de uma chamada à API, uma solicitação do sistema é simplesmente o texto colocado acima do símbolo ‘
Human:
‘ em vez de depois dele.

Vantagens da utilização de prompts do sistema no Claude 2.1

Os avisos do sistema elaborados de forma eficaz podem melhorar significativamente o desempenho do Claude. Por exemplo, em cenários de interpretação de papéis, os avisos do sistema permitem ao Claude:

  • Manter uma personalidade coerente durante conversas prolongadas.
  • Manter-se resistente aos desvios do carácter atribuído.
  • Apresentar respostas mais criativas e naturais.

Além disso, os avisos do sistema reforçam a adesão do Claude às regras e instruções, tornando-o:

  • Mais compatível com as restrições das tarefas.
  • Menor probabilidade de gerar conteúdos proibidos.
  • Mais concentrado em manter-se fiel às tarefas que lhe foram atribuídas.

Figura 2.1 Exemplos de avisos do sistema

Os avisos do sistema não requerem linhas separadas, uma função designada de “sistema” ou qualquer frase específica para indicar a sua natureza. Basta começar a escrever diretamente a mensagem! Todo o prompt, incluindo o prompt do sistema, deve ser uma única string de várias linhas. Lembre-se de inserir duas novas linhas após o prompt do sistema e antes de ‘
Humano:

claude 2.1 exemplos de prompt do sistema

Felizmente, as técnicas de estímulo com que já está familiarizado continuam a ser aplicáveis. A principal variação reside na sua colocação, quer seja antes ou depois do turno “Humano:”.

Isto significa que pode continuar a direcionar as respostas do Claude, independentemente de as suas indicações fazerem parte do aviso do sistema ou da rotação “Humano:”. Certifique-se de que prossegue com este método seguindo a direção “Assistente:”.

exemplo de técnica de prompt do sistema claude 2.1

Além disso, tem a opção de fornecer ao Claude vários recursos, tais como documentos, guias e outras informações para fins de recuperação ou pesquisa no prompt do sistema. Isto é semelhante à forma como incorporaria estes elementos na pergunta “Human:”, incluindo a utilização de etiquetas XML.

exemplo de técnica de prompt do sistema claude 2.1

Para incorporar texto de documentos extensos ou de numerosas entradas de documentos, é aconselhável utilizar o seguinte formato XML para organizar estes documentos no prompt do sistema:

exemplo de técnica de prompt do sistema claude 2.1

Esta abordagem modificaria o seu prompt para aparecer da seguinte forma:

exemplo de técnica de prompt do sistema claude 2.1

Todos os exemplos acima foram retirados desta fonte

 

Quais são as características do Claude 2.1?

As funcionalidades avançadas do Claude 2.1, incluindo a janela de contexto alargada e as taxas de alucinação reduzidas, fazem dele uma ferramenta ideal para uma variedade de aplicações empresariais.

Compreensão e resumo

As melhorias do Claude 2.1 na compreensão e resumo, especialmente para documentos longos e complexos, são dignas de nota. O modelo demonstra uma redução de 30% nas respostas incorrectas e uma taxa significativamente mais baixa de conclusões erradas dos documentos. Isto faz com que o Claude 2.1 seja particularmente adequado para analisar documentos legais, relatórios financeiros e especificações técnicas com um elevado grau de precisão.

Experiência do programador melhorada e de fácil utilização

O Claude 2.1 oferece uma experiência de desenvolvimento melhorada com o seu produto intuitivo Console e Workbench. Estas ferramentas permitem aos programadores testar facilmente e iterar prompts, gerir vários projectos de forma eficiente e gerar snippets de código para uma integração perfeita. A tónica é colocada na simplicidade e na eficácia, servindo tanto os programadores experientes como os recém-chegados ao domínio da IA.

Casos de utilização e aplicações

Desde a elaboração de planos de negócios detalhados e a análise de contratos complexos até ao fornecimento de um apoio ao cliente abrangente e à produção de análises de mercado perspicazes, a Claude 2.1 é um parceiro de IA versátil e fiável.

Revolucionar os campos académicos e criativos

No meio académico, o Claude 2.1 pode ajudar a traduzir trabalhos académicos complexos, resumir materiais de investigação e facilitar a exploração de vastas obras literárias. Para os profissionais criativos, a sua capacidade de processar e compreender grandes textos pode inspirar novas perspectivas na escrita, investigação e expressão artística.

Sectores jurídico e financeiro

As capacidades melhoradas de compreensão e resumo do Claude 2.1, em particular para documentos complexos, proporcionam uma análise mais precisa e fiável. Isto é inestimável em sectores como o direito e as finanças, onde a precisão e o detalhe são fundamentais.

Qual será o impacto do Claude 2.1 no mercado?

Com o Claude 2.1, as empresas ganham uma vantagem competitiva na tecnologia de IA. As suas capacidades melhoradas de processamento de documentos e fiabilidade permitem às empresas enfrentar desafios complexos de forma mais eficaz e eficiente.

O modelo de preços reestruturado do Claude 2.1 não tem apenas a ver com eficiência de custos; tem a ver com a definição de novos padrões no mercado da IA. O seu preço competitivo desafia o status quo, tornando a IA avançada mais acessível a uma gama mais vasta de utilizadores e indústrias.

O futuro do Claude 2.1

A equipa responsável pelo Claude 2.1 está empenhada na melhoria contínua e na inovação. Esperam-se futuras actualizações para melhorar as suas capacidades, fiabilidade e experiência do utilizador.

Além disso, o feedback dos utilizadores desempenha um papel fundamental na definição do futuro do Claude 2.1. A equipa incentiva a participação ativa dos utilizadores para garantir que o modelo evolui de acordo com as necessidades e expectativas da sua base de utilizadores diversificada.

Leia mais: 20 maiores atualizações de ferramentas e modelos de IA em 2023 [With Features]

Perguntas frequentes

O Claude 2.1 tem taxas de alucinação reduzidas?

O Claude 2.1 apresenta uma redução notável nas taxas de alucinação, com uma diminuição de duas vezes nas declarações falsas em comparação com o seu antecessor, o Claude 2.0. Esta melhoria promove um ambiente mais fiável e seguro para as empresas integrarem a IA nas suas operações, especialmente no tratamento de documentos complexos.

Qual é o aspeto da integração da utilização da ferramenta API no Claude 2.1?

A integração da utilização da ferramenta API no Claude 2.1 permite uma incorporação perfeita nas aplicações e fluxos de trabalho existentes. Esta funcionalidade, juntamente com a introdução de avisos do sistema, permite aos utilizadores dar instruções personalizadas ao Claude, optimizando o seu desempenho para tarefas específicas.

Quanto custa o Claude 2.1?

O Claude 2.1 não só traz superioridade técnica, como também apresenta uma estrutura de preços competitiva. Com entradas de token de $0,008/1K e saídas de token de $0,024/1K, oferece uma solução mais económica em comparação com o GPT-4 Turbo da OpenAI.

O que é a janela de contexto de 200K no Claude 2.1?

A janela de contexto de 200K do Claude 2.1 permite-lhe processar até 200.000 tokens, o que se traduz em cerca de 133.000 palavras ou 533 páginas. Esta funcionalidade permite o tratamento de documentos extensos, como bases de código completas ou grandes demonstrações financeiras, com maior eficiência.

As pequenas empresas e as empresas em fase de arranque podem pagar o Claude 2.1?

O modelo de preços acessíveis do Claude 2.1 torna a tecnologia de IA avançada mais acessível a pequenas empresas e startups, democratizando a utilização de ferramentas de IA de ponta.

Como é que o Claude 2.1 se compara ao GPT-4 Turbo em termos de janela de contexto?

O Claude 2.1 ultrapassa o GPT-4 Turbo com a sua janela de contexto de 200.000 tokens, oferecendo uma maior capacidade de processamento de documentos do que os 128.000 tokens do GPT-4 Turbo.

Quais são os benefícios da redução das taxas de alucinação na Cláusula 2.1?

A redução significativa das taxas de alucinação significa que o Claude 2.1 fornece resultados mais precisos e fiáveis, aumentando a confiança e a eficiência das empresas que dependem da IA para a resolução de problemas complexos.

Como é que a utilização da ferramenta API melhora a funcionalidade do Claude 2.1?

A utilização da ferramenta API permite que o Claude 2.1 se integre com funções definidas pelo utilizador, APIs e fontes Web. Permite-lhe executar tarefas como a pesquisa na Web ou a recuperação de informações de bases de dados privadas, aumentando a sua versatilidade em aplicações práticas.

Quais são as vantagens de preço do Claude 2.1 em relação ao GPT-4 Turbo?

O Claude 2.1 é mais económico, com o seu preço fixado em $0,008 por 1.000 entradas de fichas e $0,024 por 1.000 saídas de fichas, em comparação com as taxas mais elevadas do GPT-4 Turbo.

O Claude 2.1 pode ser integrado nos fluxos de trabalho empresariais existentes?

Sim, a funcionalidade de utilização da ferramenta API do Claude 2.1 permite-lhe ser perfeitamente integrada nos processos e aplicações empresariais existentes, melhorando a eficiência e a eficácia operacionais.

Como é que o produto Workbench melhora a experiência do programador com o Claude 2.1?

O produto Workbench fornece uma interface de fácil utilização para os programadores testarem, iterarem e optimizarem os avisos, aumentando a facilidade e a eficácia da integração do Claude 2.1 em várias aplicações.

 

Author

Oriol Zertuche

Oriol Zertuche is the CEO of CODESM and Cody AI. As an engineering student from the University of Texas-Pan American, Oriol leveraged his expertise in technology and web development to establish renowned marketing firm CODESM. He later developed Cody AI, a smart AI assistant trained to support businesses and their team members. Oriol believes in delivering practical business solutions through innovative technology.

More From Our Blog

Do chatbot ao mecanismo de busca: como o ChatGPT Search da OpenAI está mudando o jogo

Do chatbot ao mecanismo de busca: como o ChatGPT Search da OpenAI está mudando o jogo

A evolução das pesquisas na Web com tecnologia de IA A mais recente inovação da OpenAI, o ChatGPT Search, marca um salto significativo nos recursos de pesquisa na Web orientados por IA. Esse recurso integra a pesquisa na Web em tempo real à inte...

Read More
Lançado o Nemotron 70B da Nvidia AI: Você deve ter medo da OpenAI e da Anthropic?

Lançado o Nemotron 70B da Nvidia AI: Você deve ter medo da OpenAI e da Anthropic?

A Nvidia apresentou discretamente seu mais recente modelo de IA, o Nemotron 70B, que está causando impacto no setor de inteligência artificial ao superar modelos bem estabelecidos como o GPT-4 da OpenAI e o Claude 3.5 Sonnet da Anthropic. Esse lanÃ...

Read More

Build Your Own Business AI

Get Started Free
Top