Se você deseja se aprofundar no funcionamento dos Modelos de Linguagem de Grande Escala (LLMs) neste final de semana, preparei uma apresentação de workshop de 3 horas sobre como implementar, treinar e usar LLMs.

O vídeo contém capítulos clicáveis, permitindo que você navegue diretamente para os tópicos que mais lhe interessam. Abaixo está a tabela de conteúdos que resume o que será abordado:

0:00 – Visão geral do workshop

2:17 – Parte 1: Introdução aos LLMs

9:14 – Materiais do workshop

10:48 – Parte 2: Compreendendo os dados de entrada dos LLMs

23:25 – Uma classe simples de tokenização

41:03 – Parte 3: Codificando uma arquitetura de LLM

45:01 – GPT-2 e Llama 2

1:07:11 – Parte 4: Pré-treinamento

1:29:37 – Parte 5.1: Carregando pesos pré-treinados

1:45:12 – Parte 5.2: Pesos pré-treinados via LitGPT

1:53:09 – Parte 6.1: Ajuste fino com instruções

2:08:21 – Parte 6.2: Ajuste fino com instruções via LitGPT

2:26:45 – Parte 6.3: Avaliação de benchmark

2:36:55 – Parte 6.4: Avaliando o desempenho conversacional

2:42:40 – Conclusão

Esta abordagem é um pouco diferente do meu conteúdo habitual baseado em texto, mas como a última vez que fiz isso, alguns meses atrás, foi muito bem recebida, achei que seria interessante realizar outra vez!

"Aproveite a visualização!"

Referências https://www.youtube-nocookie.com/embed/quh7z1q7-uc?rel=0&autoplay=0&showinfo=0&enablejsapi=0