Turma Exclusiva. Estudos de estratégias e construção de modelos inteligentes, de maneira a viabilizar o processamento e o entendimento de línguas naturais pelos computadores modernos.
Híbrido
40h
Carga horária
Este curso faz parte do Programa de Formação Intensiva em Transformação Digital - FIT.
Público Alvo: Servidores públicos federais ocupantes de cargos de Nível Superior da Enap, SGD - Secretaria de Governo Digital e CGU - Controladoria Geral da União, que atuem com a temática do curso.
O curso tem como objetivo principal o estudo de estratégias e a construção de modelos inteligentes, de maneira a viabilizar o processamento e o entendimento de línguas naturais pelos computadores modernos.
Estrutura do curso híbrido:
i) Aulas presenciais expositivas dialogadas, na Enap, em Brasília/DF;
ii) Aulas remotas online, na plataforma Zoom;
iii) Atividades assíncronas: textos e/ou vídeos preparatórios, materiais didáticos e atividades avaliativas, na plataforma Google Sala de Aula.
O curso será ministrado em formato híbrido, com aulas presenciais e remotas, focando no desenvolvimento e treinamento de modelos de linguagem baseados em redes neurais recorrentes e Transformers. Algumas atividades práticas serão passadas para serem realizadas em horário extra-curso visando solidificar o conteúdo visto durante as aulas.
Em momento oportuno, as/os alunas/os matriculados receberão por e-mail as orientações detalhadas sobre o acesso ao curso.
O curso tem carga horária de 40 horas, sendo 30 horas de atividades síncronas e 10 horas de atividades assíncronas. A participação mínima (80%) nas aulas é obrigatória.
Período: 01/04 a 29/05 - Horário: 09h às 12h
Local das aulas presenciais: Laboratório Enap 104 / 104A - Enap - Brasília/DF
Locas das aulas remotas: Link Zoom
| ABRIL | Tipo | MAIO | Tipo |
| 01/04 | Aula Remota | 06/05 | Aula Remota |
| 03/04 | Aula Remota | 08/05 | Aula Presencial |
| 05/04 | Plantão de dúvidas (Remoto) | 10/05 | Plantão de dúvidas (Remoto) |
| 08/04 | Aula Remota | 13/05 | Aula Remota |
| 10/04 | Aula Presencial | 17/05 | Plantão de dúvidas (Remoto) |
| 12/04 | Plantão de dúvidas (Remoto) | 29/05 | Aula Presencial |
| 15/04 | Aula Remota | ||
| 17/04 | Aula Remota | ||
| 19/04 | Plantão de dúvidas (Remoto) | ||
| 22/04 | Aula Presencial |
O curso é dividido nos seguintes módulos:
1. Background
- Pré-processamento, term frequency-inverse document frequency (TF-IDF), regressão logística e similaridade cosseno;
- Modelos de linguagem, neurônios artificiais, backpropagation, funções de ativação e função loss.
2. Redes Neurais Recorrentes
- Modelo Vanilla e Long Short-Term Memory (LSTM): modelo matemático e treinamento;
- Construindo arquiteturas RNN/LSTM: fluxos bidirecionais, stack de células RNN/LSTM, camadas Dropout, camada totalmente conexa e otimização de hiperparâmetros;
- Word Embeddings: word2vec, GloVe, transferência de aprendizado e fine tuning.
3. Mecanismos de Atenção e Transformers
- Arquitetura Encoder-Decoder (Seq2Seq): modelo matemático e aplicação em tradução automática;
- Mecanismos de Atenção: Self Attention e Multihead Attention;
- Arquitetura Transformers: modelo matemático, BERT, GPT-3 e Llama.
4. Large Language Models (LLMs)
- Geração Automática de Texto;
- Fine-Tuning e Quantização de LLM.
Inscrições encerradas
Híbrido
Local
Aulas presenciais - Enap/Remotas - Zoom
Professores
Vinicius Ruela Pereira Borges
Luis Paulo Faina Garcia
Thiago De Paulo Faleiros
01 abr
Seg
09h00 às 12h00
03 abr
Qua
09h00 às 12h00
08 abr
Seg
09h00 às 12h00
10 abr
Qua
09h00 às 12h00
15 abr
Seg
09h00 às 12h00
17 abr
Qua
09h00 às 12h00
22 abr
Seg
09h00 às 12h00
06 mai
Seg
09h00 às 12h00
08 mai
Qua
09h00 às 12h00
13 mai
Seg
09h00 às 12h00
29 mai
Qua
09h00 às 12h00
Inscrições encerradas
Período do curso: 01/04 a 29/05/2024
Horário: 09h às 12h
Local das aulas presenciais: Laboratório Enap 104 / 104A - Enap - Brasília/DF
Locas das aulas remotas: Link Zoom
Pré-Inscrição: A solicitação de inscrição está disponível no link "Inscreva-se". A matrícula será confirmada por e-mail.
Dificuldades ou problemas para fazer login ou inscrição pelo Portal do Aluno Enap? Envie mensagem para cse@enap.gov.br.
Dúvidas sobre o curso? Envie mensagem para aperfcarreiras@enap.gov.br.
Ainda com dúvidas? Consulte as perguntas frequentes sobre Cursos
