Conceitos de IA generativa

O que cai na prova

• Definir conceitos: inteligência artificial, processamento de linguagem natural, machine learning, IA generativa
• Modelos de fundação, modelos multimodais, modelos de difusão e LLMs
• Engenharia de prompt e ajuste de prompt (prompt tuning)
• Abordagens de machine learning: supervisionada, não supervisionada e por reforço

Resumo da aula

IA, ML e IA generativa

IA é o campo de criar sistemas que fazem tarefas que pedem inteligência. Machine learning é a parte da IA que aprende padrões com dados. IA generativa usa ML para criar conteúdo novo: texto, imagem, áudio, vídeo e código. Processamento de linguagem natural (PLN) é a área que lida com a linguagem humana.

Modelos de fundação

Modelos grandes treinados com dados muito variados, que servem de base para muitas tarefas sem treinar do zero. LLMs (modelos de linguagem grandes) são modelos de fundação de texto. Multimodais trabalham com vários tipos de dado juntos.

Difusão

Modelos de difusão geram imagens partindo de ruído e removendo esse ruído aos poucos, até chegar a uma imagem que combina com a descrição. Estão por trás de geradores como o Imagen.

Prompt e ajuste

Engenharia de prompt é escrever bem a instrução para conseguir a resposta certa. Ajuste de prompt (prompt tuning) é uma forma leve de ajuste fino: treina um pequeno conjunto de parâmetros que guiam o modelo, sem mudar o modelo todo.

Formas de aprender

Supervisionada: aprende com exemplos rotulados, como e-mails marcados como spam. Não supervisionada: encontra grupos e padrões em dados sem rótulo. Por reforço: aprende por tentativa e erro, com recompensas, como um robô que aprende a andar.