O modelo 180B, por exemplo, é o maior e mais potente, adequado para tarefas complexas, enquanto o modelo 1,3B oferece uma opção mais acessível para aplicações menos exigentes.

A natureza de código aberto do Falcon LLM, em particular dos seus modelos 7B e 40B, elimina as barreiras ao acesso à tecnologia de IA. Esta abordagem promove um ecossistema de IA mais inclusivo, em que os indivíduos e as organizações podem implementar estes modelos nos seus próprios ambientes, incentivando a inovação e a diversidade nas aplicações de IA.

Santo Falcão! 🤯

Um Falcon LLM 7B está a ser executado no M1 Mac com CoreML a mais de 4 tokens/seg. É isso mesmo. pic.twitter.com/9lmigrQIiY

– Itamar Golan 🤓 (@ItakGol) 3 de junho de 2023

O que é o Falcon 40B?

O Falcon 40B faz parte do conjunto Falcon Large Language Model (LLM), especificamente concebido para colmatar a lacuna entre a elevada eficiência computacional e as capacidades avançadas de IA. Trata-se de um modelo de IA generativo com 40 mil milhões de parâmetros, que oferece um equilíbrio entre desempenho e requisitos de recursos.

Apresentamos o Falcon-40B! 🚀

Situado no topo da tabela de classificação Open-LLM, o Falcon-40B superou o LLaMA, o SableLM, o MPT, etc.

Disponível no ecossistema HuggingFace, é super fácil de usar! 🚀

Vê isto 👇 pic.twitter.com/YyXpXvNKKC

– Akshay 🚀 (@akshay_pachaar) 28 de maio de 2023

O que pode fazer o Falcon LLM 40B?

O Falcon 40B tem capacidade para uma vasta gama de tarefas, incluindo a geração de conteúdos criativos, a resolução de problemas complexos, operações de serviço ao cliente, assistência virtual, tradução de línguas e análise de sentimentos.

Este modelo é particularmente notável pela sua capacidade de automatizar tarefas repetitivas e aumentar a eficiência em várias indústrias. O Falcon 40B, pelo facto de ser open-source, oferece uma vantagem significativa em termos de acessibilidade e inovação, permitindo a sua livre utilização e modificação para fins comerciais.

Como é que o Falcon 40B foi desenvolvido e treinado?

Treinado no enorme conjunto de dados REFINEDWEB de 1 trilião de tokens, o desenvolvimento do Falcon 40 B envolveu uma utilização extensiva de GPUs e processamento de dados sofisticado. O Falcon 40B passou pelo seu processo de treino no AWS SageMaker utilizando 384 GPUs A100 de 40GB, empregando uma abordagem de paralelismo 3D que combinava o Paralelismo Tensor (TP=8), o Paralelismo Pipeline (PP=4) e o Paralelismo de Dados (DP=12) juntamente com o ZeRO. Esta fase de formação teve início em dezembro de 2022 e foi concluída em dois meses.

Esta formação dotou o modelo de uma compreensão excecional da linguagem e do contexto, estabelecendo um novo padrão no domínio do processamento de linguagem natural.

A conceção arquitetónica do Falcon 40B baseia-se na estrutura do GPT -3, mas incorpora alterações significativas para melhorar o seu desempenho. Este modelo utiliza a incorporação posicional rotativa para melhorar a sua compreensão dos contextos de sequência.

Os seus mecanismos de atenção são aumentados com a atenção multi-consulta e o FlashAttention para um processamento enriquecido. No bloco descodificador, o Falcon 40B integra configurações de atenção paralela e Perceptron de várias camadas (MLP), empregando uma abordagem de normalização de duas camadas para manter um equilíbrio entre eficiência e eficácia computacional.

O que é o Falcon 180B?

O Falcon 180B representa o auge da suite Falcon LLM, ostentando uns impressionantes 180 mil milhões de parâmetros. Este modelo de descodificação causal é treinado com base em 3,5 triliões de tokens do RefinedWeb, o que o torna um dos LLMs de código aberto mais avançados disponíveis. Foi construído por
TII
.

Destaca-se numa vasta gama de tarefas de processamento de linguagem natural, oferecendo capacidades sem paralelo em testes de raciocínio, codificação, proficiência e conhecimento.

A sua formação no extenso conjunto de dados RefinedWeb, que inclui uma gama diversificada de fontes de dados, como documentos de investigação, textos jurídicos, notícias, literatura e conversas nas redes sociais, garante a sua proficiência em várias aplicações.

O lançamento do Falcon 180 B é um marco significativo no desenvolvimento da IA, apresentando um desempenho notável na compreensão da linguagem multitarefa e em testes de referência, rivalizando e até ultrapassando outros modelos proprietários líderes.

Como é que o Falcon 180B funciona?

Como uma iteração avançada do modelo Falcon 40B da TII, o modelo Falcon 180B funciona como um modelo de linguagem auto-regressivo com uma arquitetura de transformador optimizada.

Treinado com um extenso conjunto de 3,5 biliões de fichas de dados, este modelo inclui dados da Web provenientes do RefinedWeb e do Amazon SageMaker.

O Falcon 180B integra uma estrutura de formação distribuída personalizada denominada Gigatron, que utiliza o paralelismo 3D com otimização ZeRO e kernels Trion personalizados. O desenvolvimento desta tecnologia foi intensivo em termos de recursos, utilizando até 4096 GPUs num total de 7 milhões de horas de GPU. Esta formação extensiva torna o Falcon 180B aproximadamente 2,5 vezes maior do que os seus homólogos como o Llama 2.

Estão disponíveis duas versões distintas do Falcon 180B: o modelo 180B standard e o 180B-Chat. O primeiro é um modelo pré-treinado, oferecendo flexibilidade às empresas para o afinarem para aplicações específicas. O último, 180B-Chat, está optimizado para instruções gerais e foi aperfeiçoado em conjuntos de dados de instrução e de conversação, o que o torna adequado para tarefas do tipo assistente.

Qual é o desempenho do Falcon 180B?

Em termos de desempenho, o Falcon 180B solidificou a posição dos Emirados Árabes Unidos no sector da IA, apresentando resultados de topo e superando muitas das soluções existentes.

Obteve pontuações elevadas na tabela de classificação do Hugging Face e compete de perto com modelos proprietários como o PaLM-2 da Google. Apesar de estar ligeiramente atrás do GPT-4, o treino extensivo do Falcon 180 B num vasto corpus de texto permite uma compreensão excecional da língua e proficiência em várias tarefas linguísticas, revolucionando potencialmente o treino do bot Gen-AI.
O que distingue o Falcon 180B é a sua arquitetura aberta, que permite o acesso a um modelo com um vasto conjunto de parâmetros, possibilitando assim a investigação e a exploração no processamento da linguagem. Esta capacidade apresenta inúmeras oportunidades em sectores como os cuidados de saúde, as finanças e a educação.

Como aceder ao Falcon 180B?

O acesso ao Falcon 180B está disponível através do HuggingFace e do sítio Web da TII, incluindo a pré-visualização experimental da versão de conversação. A AWS também oferece acesso através do serviço Amazon SageMaker JumpStart, simplificando a implementação do modelo para utilizadores empresariais.

Falcon 40B vs 180B: Qual é a diferença?

Os modelos pré-treinados e de instrução do Falcon-40B estão disponíveis ao abrigo da licença de software Apache 2.0, enquanto os modelos pré-treinados e de conversação do Falcon-180B estão disponíveis ao abrigo da licença TII. Eis 4 outras diferenças importantes entre o Falcon 40B e o 180B:

1. Tamanho e complexidade do modelo

O Falcon 40B tem 40 mil milhões de parâmetros, o que o torna um modelo poderoso mas mais fácil de gerir em termos de recursos computacionais. O Falcon 180B, por outro lado, é um modelo muito maior, com 180 mil milhões de parâmetros, que oferece capacidades e complexidade acrescidas.

2. Formação e utilização de dados

O Falcon 40B é treinado em 1 trilião de tokens, o que lhe dá uma ampla compreensão da linguagem e do contexto. O Falcon 180B ultrapassa isto com a formação em 3,5 biliões de tokens, resultando num modelo linguístico mais matizado e sofisticado.

3. Aplicações e casos de utilização

O Falcon 40B é adequado para uma vasta gama de aplicações de utilização geral, incluindo geração de conteúdos, serviço ao cliente e tradução de idiomas. O Falcon 180B é mais hábil a lidar com tarefas complexas que requerem um raciocínio e compreensão mais profundos, tornando-o ideal para projectos avançados de investigação e desenvolvimento.

4. Necessidades de recursos

O Falcon 40B requer menos potência computacional para funcionar, tornando-o acessível a uma maior variedade de utilizadores e sistemas. O Falcon 180B, devido à sua dimensão e complexidade, exige significativamente mais recursos computacionais, visando aplicações de topo de gama e ambientes de investigação.

Leia mais: A usabilidade comercial, a tecnologia de código aberto e o futuro do Falcon LLM

F-FAQ (Perguntas Frequentes do Falcão)

1. O que distingue o Falcon LLM de outros modelos linguísticos de grande dimensão?

O Falcon LLM, em particular os seus modelos Falcon 180B e 40B, destaca-se pela sua natureza de código aberto e escala impressionante. O Falcon 180B, com 180 mil milhões de parâmetros, é um dos maiores modelos de código aberto disponíveis, treinado com uns impressionantes 3,5 biliões de fichas. Esta formação extensiva permite uma compreensão linguística excecional e uma versatilidade nas aplicações. Além disso, a utilização de tecnologias inovadoras pelo Falcon LLM, como a atenção a múltiplas consultas e os núcleos Trion personalizados na sua arquitetura, aumenta a sua eficiência e eficácia.

2. Como funciona o mecanismo de atenção a múltiplas consultas do Falcon 40B?

O Falcon 40B utiliza um mecanismo único de atenção multi-consulta, em que é utilizado um único par de chave e valor em todas as cabeças de atenção, o que difere dos esquemas tradicionais de atenção multi-cabeças. Esta abordagem melhora a escalabilidade do modelo durante a inferência sem afetar significativamente o processo de pré-treino, melhorando o desempenho e a eficiência globais do modelo.

3. Quais são as principais aplicações do Falcon 40B e 180B?

O Falcon 40B é versátil e adequado para várias tarefas, incluindo a criação de conteúdos, o serviço de apoio ao cliente e a tradução de línguas. O Falcon 180B, sendo mais avançado, destaca-se em tarefas complexas que exigem um raciocínio profundo, como pesquisa avançada, codificação, avaliações de proficiência e testes de conhecimentos. O seu treino extensivo em diversos conjuntos de dados também o torna uma ferramenta poderosa para o treino de bots Gen-AI.

4. O Falcon LLM pode ser personalizado para casos de utilização específicos?

Sim, uma das principais vantagens do Falcon LLM é a sua natureza de código aberto, permitindo que os utilizadores personalizem e afinem os modelos para aplicações específicas. O modelo Falcon 180B, por exemplo, está disponível em duas versões: um modelo pré-treinado padrão e uma versão optimizada para conversação, cada uma delas para responder a diferentes requisitos. Esta flexibilidade permite que as organizações adaptem o modelo às suas necessidades específicas.

5. Quais são os requisitos computacionais para a execução de modelos Falcon LLM?

A execução de modelos Falcon LLM, especialmente as variantes maiores como o Falcon 180B, requer recursos computacionais substanciais. Por exemplo, o Falcon 180B necessita de cerca de 640 GB de memória para a inferência, e a sua grande dimensão torna difícil a sua execução em sistemas informáticos normais. Esta elevada procura de recursos deve ser tida em conta no planeamento da utilização do modelo, em especial para operações contínuas.

6. Como é que o Falcon LLM contribui para a investigação e o desenvolvimento da IA?

A estrutura de código aberto do Falcon LLM contribui significativamente para a investigação e o desenvolvimento da IA, fornecendo uma plataforma para a colaboração e a inovação a nível mundial. Os investigadores e os programadores podem contribuir para o modelo e aperfeiçoá-lo, conduzindo a rápidos avanços na IA. Esta abordagem colaborativa garante que o Falcon LLM se mantém na vanguarda da tecnologia de IA, adaptando-se à evolução das necessidades e dos desafios.

7. Quem ganhará entre o Falcon LLM e o LLaMA?

Nesta comparação, o Falcon surge como o modelo mais vantajoso. O tamanho mais pequeno do Falcon torna-o menos intensivo em termos de computação para treinar e utilizar, uma consideração importante para quem procura soluções de IA eficientes. Destaca-se em tarefas como a geração de texto, a tradução de línguas e uma vasta gama de criação de conteúdos criativos, demonstrando um elevado grau de versatilidade e proficiência. Além disso, a capacidade do Falcon para ajudar em tarefas de codificação aumenta ainda mais a sua utilidade em várias aplicações tecnológicas.

Lembra-se do LLaMA-2?

Foi o melhor LLM de fonte aberta do último mês.

NÃO MAIS!

Bem-vindo Falcon-180B!

Fiz uma comparação

GPT-4 vs. Falcon-180B

Os resultados são inesperados!

(Marcar como favorito para referência futura)

➤ O Falcon soa menos robótico

O estilo de escrita predefinido do ChatGPT… pic.twitter.com/OqdcIvEBMe

– Luke Skyward (@Olearningcurve) 8 de setembro de 2023

Por outro lado, o LLaMA, embora seja um modelo formidável por si só, enfrenta certas limitações nesta comparação. A sua maior dimensão traduz-se num maior custo computacional, tanto na formação como na utilização, o que pode ser um fator significativo para os utilizadores com recursos limitados. Em termos de desempenho, o LLaMA não consegue igualar a eficiência do Falcon na geração de texto, tradução de línguas e criação de diversos tipos de conteúdo criativo. Além disso, as suas capacidades não se estendem a tarefas de codificação, o que restringe a sua aplicabilidade em cenários em que é necessária assistência relacionada com a programação.

Embora tanto o Falcon como o LLaMA sejam impressionantes nos seus respectivos domínios, o design mais pequeno e mais eficiente do Falcon, juntamente com a sua gama mais vasta de capacidades, incluindo a codificação, confere-lhe uma vantagem nesta comparação.

The post Falcon 180B e 40B: Casos de utilização, desempenho e diferença appeared first on Cody - The AI Trained on Your Business.