As teorias sobre o Code llama começaram ainda no início deste mês e já indicavam a segmentação para programadores. 

O que é o Llama 2? 

O llama 2 é um modelo de linguagem desenvolvido em conjunto pela Meta e Microsoft, voltado para o treinamento de IA generativa. (tecnologia com capacidade de aprender a padrões complexos de comportamento a partir de uma base de dados. Com uma técnica chamada “aprendizagem de máquina”, as IAs generativas como o ChatGPT e Bard conseguem reproduzir conteúdos após receber treinamento). E publicado em código aberto.

Assim, o Code llama segmenta códigos, enquanto o modelo geral é aplicável em diferentes circunstâncias. E deve alimentar grande parte dos lançamentos de inteligência artificial da empresa proprietária do Facebook. 

“Acreditamos que os modelos de IA, especialmente aqueles voltados para a programação, podem se beneficiar enormemente de uma abordagem aberta. Isso não só promove a inovação, mas também permite uma auditoria mais completa da segurança dessas ferramentas”

Afirmou um porta-voz da Meta

De acordo com a Meta, o Code llama tem um desenvolvimento melhor do que os grandes modelos de linguagem disponíveis publicamente em testes de desempenho. No entanto, a empresa não especificou quais plataformas testou.

No teste HumanEval, o sistema obteve pontuação 52,7% e foi capaz de escrever códigos com precisão com base em uma descrição textual. Dessa forma, o desenvolvedor lançará três variantes do Code Llama, sendo que a menor delas poderá ser executada em um sistema com uma única GPU (Unidade de Processamento Gráfico).

Modelos do código Llama

O Code llama está disponível em três modelos diferentes, cada um disponível com três tamanhos – parâmetros 7B, 13B e 34B. Os três códigos endereçam diferentes requisitos de serviço e latência. 

Uma única GPU pode servir o modelo 7B. O modelo 34B fornece os melhores resultados e facilita uma assistência de programação aprimorada, enquanto os modelos menores, 7B e 13B, oferecem maior velocidade e são mais apropriados para tarefas que demandam baixa latência, como a função de autocompletar em tempo real.

Code llama (7B): Versão geral capaz de criar códigos ou solucionar dúvidas a partir de linguagem natural (prompts em textos) e linguagem de código. Compatível com Python, C ++, Java, PHP, Typescript (Java script), C# e Bash. 

Code llama – Python (13B): Versão especializada em Python, com treinamento aperfeiçoado com 100 bilhões de tokens da linguagem de programação. 

Code llama – Instruct (34B): Modelo adaptado para compreender pedidos em linguagem de programação. Ele foi pr ojetado para servir a uma ampla variedade de setores, que vão desde pesquisa e indústria até projetos de código aberto e organizações não governamentais.

Modelo de linguagem de código aberto

No lançamento do Llama 2, a Meta defendeu a abordagem aberta para a nova geração de modelo de linguagem como uma forma de beneficiar grupos que teriam dificuldades de desenvolver uma ferramenta dessa escala e com tamanho poder de computação. 

“O código aberto impulsiona a inovação, porque permite que muito mais desenvolvedores criem utilizando novas tecnologias. Também melhora a segurança, porque, quando o software é aberto, mais pessoas podem examiná-lo para identificar e corrigir possíveis problemas. Acredito que haveria mais progresso se o ecossistema fosse mais aberto, e é por isso que abrimos o código Llama 2”

Mark Zuckerberg – CEO do Faceboook

 Segundo a Meta, o Llama 1 teve mais de 100 mil solicitações de acesso por parte dos pesquisadores.

Assim sendo, espera-se que a nova geração de Large Language Model Meta AI envie mais soluções e produtos por meio da vasta rede de apoiadores da tecnologia em nível global. Entre os apoiadores, estão nomes como: Amazon, IBM, NVIDIA, Intel, LG, Spotify, Zoom, DropBox, Telefônica, Shopify e Accenture. 

Ainda mais, os modelos do Llama 2 podem ser baixados diretamente pelo site ai.meta.com/llama e estão disponíveis no Azure e Windows (por meio da parceria da Meta com a Microsoft) e também na Amazon Web Services e no Hugging Face.

O post Code llama 2: Meta lança IA que gera códigos de programação apareceu primeiro em Gestão de Performance.