A engenharia de prompt é uma disciplina recente focada no desenvolvimento e otimização de prompts para o uso eficiente de modelos de linguagem (LMs) em diversas aplicações e pesquisas. Competências [Conhecimento; Habilidades; Experiências] em engenharia de prompt auxiliam na compreensão dos recursos e limitações de modelos de linguagem grandes (LLMs). Profissionais a usam para melhorar a capacidade dos LLMs em tarefas como responder a perguntas e raciocínio aritmético. Desenvolvedores a utilizam para projetar técnicas de prompt robustas e eficazes que interagem com LLMs e outras ferramentas.
A engenharia de prompt engloba diversas habilidades e técnicas para interagir e desenvolver com LLMs, sendo essencial para construir e entender seus recursos, podendo ser utilizada para aumentar a segurança dos LLMs e criar novos recursos, como aprimorar os LLMs com conhecimento de domínio e ferramentas externas. Este breve guia de engenharia de prompt contém artigos, guias de aprendizagem, modelos, palestras, referências e novas ferramentas relacionadas à engenharia de prompt.
Configurações de LLM: Um Guia para Iniciantes
O desafio de configurar os Modelos de Linguagem Grandes (LLMs) tornou-se premente. O conteúdo foi elaborado para descomplicar os aspectos mais importantes das configurações, tornando-o acessível mesmo para quem não tem muita experiência prévia.
O que são LLMs e por que as configurações importam?
LLMs são modelos de inteligência artificial que podem gerar texto, traduzir idiomas, escrever diferentes tipos de conteúdo criativo e responder às suas perguntas de maneira informativa. As configurações de um LLM permitem que você controle como o modelo gera as respostas, afetando diretamente a precisão, criatividade e o tom da saída.
Parâmetros Essenciais: Temperatura e Top_p
Ao trabalhar com prompts, você pode interagir diretamente com o LLM ou através de uma API, ajustando alguns parâmetros para obter resultados diferentes para seus prompts. Os dois parâmetros mais importantes são:
Temperatura
- O que é: Controla o grau de aleatoriedade das respostas geradas pelo LLM.
- Como funciona:
- Temperatura baixa: As respostas são mais determinísticas, com o modelo escolhendo sempre o token (palavra) mais provável. Isso resulta em respostas mais factuais e concisas.
- Temperatura alta: Aumenta a aleatoriedade, incentivando respostas mais diversas e criativas. O modelo considera uma gama maior de palavras, tornando as respostas mais "imprevisíveis".
- Quando usar:
- Baixa temperatura: Para tarefas como controle de qualidade, respostas factuais, ou onde a precisão é crucial.
- Alta temperatura: Para geração de poemas, histórias, brainstorming, ou onde a criatividade é o objetivo.
Top_p
- O que é: Outra forma de controlar o determinismo do modelo, usando uma técnica de amostragem chamada amostragem de núcleo.
- Como funciona: Top_p limita a amostragem do modelo aos tokens mais prováveis, com base na soma de suas probabilidades.
- Top_p baixo: O modelo se concentra nos tokens mais prováveis, similar à baixa temperatura.
- Top_p alto: O modelo considera uma gama maior de tokens, permitindo maior diversidade nas respostas.
- Quando usar: Semelhante à temperatura, use um valor baixo para respostas factuais e um valor alto para criatividade.
Recomendação: É geralmente recomendado alterar apenas um desses parâmetros (temperatura ou top_p) de cada vez para controlar o comportamento do modelo de forma mais previsível.
Tabela Resumo
| Parâmetro | Efeito | Uso |
|---|---|---|
| Temperatura | Controla a aleatoriedade das respostas | Baixa (fatos), Alta (criatividade) |
| Top_p | Controla a seleção de tokens mais prováveis | Baixo (precisão), Alto (diversidade) |
Glossário de Termos
- LLM (Large Language Model): Modelo de linguagem grande, um tipo de inteligência artificial que processa e gera texto.
- Prompt: Instrução ou entrada que você fornece a um LLM.
- Token: A menor unidade de texto que um LLM processa (geralmente palavras ou partes de palavras).
- Determinístico: Comportamento previsível e consistente.
- Aleatoriedade: Variação ou imprevisibilidade nas respostas.
- API (Application Programming Interface): Interface que permite que programas diferentes se comuniquem.
Ao experimentar e ajustar esses parâmetros, você poderá moldar as respostas do modelo para atender às suas necessidades específicas . Lembre-se, os resultados podem variar dependendo da versão do LLM que você está usando.
Básico de Prompting: Um Guia para Iniciantes
O conteúdo apresentado de modo simples irá apresentar os fundamentos para que você comece a interagir com Modelos de Linguagem Grandes (LLMs) de forma eficaz.
O que é Prompting?
Prompting é a arte de criar instruções (prompts) que você fornece a um LLM para obter as respostas desejadas. Um prompt pode ser uma pergunta, uma instrução ou qualquer tipo de entrada que você dá ao modelo. A qualidade dos resultados que você obtém depende diretamente de como o prompt é elaborado.
Elementos de um Prompt
Um prompt pode incluir diversos elementos para instruir o modelo e obter melhores resultados. Os principais elementos são:
- Instrução/Pergunta: A parte central do seu prompt, definindo a tarefa que o modelo deve realizar.
- Contexto: Informações adicionais que ajudam o modelo a entender o que você quer.
- Entradas: Dados que o modelo precisa para realizar a tarefa (p.ex: texto, dados numéricos) .
- Exemplos: Demonstrações de como você quer que o modelo responda. Isso é especialmente útil com a técnica de "few-shot prompting", que veremos a seguir.
Os elementos de um prompt são componentes essenciais para a sua elaboração e determinam a eficácia das respostas geradas por um LLM. Um prompt pode conter qualquer um dos seguintes componentes:
- Instrução: Define a tarefa ou instrução específica que você deseja que o modelo execute.
- Contexto: Fornece informações externas ou adicionais que podem direcionar o modelo para melhores respostas.
- Dados de entrada: É a entrada ou pergunta para a qual estamos interessados em encontrar uma resposta.
- Indicador de saída: Indica o tipo ou formato da saída desejada.
Nem todos os componentes são necessários para um prompt, e o formato depende da tarefa em questão.
Formatos de Prompt
Existem diferentes formas de formatar seus prompts, dependendo da tarefa que você deseja realizar:
- Prompt Simples:
- <Pergunta>? ou <Instrução>
- Exemplo: "O céu é..."
- Prompt Zero-Shot: Você pede diretamente ao modelo para responder sem nenhum exemplo.
- Prompt Few-Shot: Você fornece exemplos para demonstrar a tarefa ao modelo. O formato pode ser:
- <Pergunta>? <Resposta> <Pergunta>? <Resposta> <Pergunta>? <Resposta> <Pergunta>?
- Em um formato de Pergunta e Resposta:
- Q: <Pergunta>? A: <Resposta> Q: <Pergunta>? A: <Resposta> Q: <Pergunta>? A: <Resposta> Q: <Pergunta>? A:
- Exemplo:
- Isso é incrível! // Positivo Isso é mau! // Negativo Uau, esse filme foi radical! // Positivo Que espetáculo horrível! // Negativo
Dicas para Criar Prompts
- Seja claro e específico: Quanto mais claro for o seu prompt, melhores serão os resultados.
- Forneça contexto: Dê ao modelo informações suficientes para entender a tarefa.
- Use exemplos (few-shot): Demonstre o tipo de resposta que você deseja, especialmente para tarefas mais complexas .
- Experimente: A melhor maneira de aprender é testar diferentes prompts e ver o que funciona melhor.
Com essas noções básicas, você está pronto para começar a explorar o mundo do prompting e obter o máximo dos LLMs.
As dicas gerais para projetar prompts são cruciais para obter bons resultados ao interagir com LLMs. Aqui estão algumas dicas importantes:
Comece Simples: A criação de prompts é um processo iterativo. Comece com prompts simples e adicione mais elementos e contexto gradualmente para obter melhores resultados. O controle de versão do seu prompt é vital . Use um ambiente simples como o da OpenAI ou Cohere para começar. Muitas vezes, a especificidade, simplicidade e concisão resultam em melhores resultados . Dividir tarefas grandes em subtarefas menores pode evitar adicionar complexidade ao design do prompt no início.
A Instrução: Use comandos como "Escrever", "Classificar", "Resumir", "Traduzir", "Ordenar" etc., para instruir o modelo sobre o que você deseja alcançar . Experimente diferentes palavras-chave, contextos e dados para ver o que funciona melhor para sua tarefa específica. Quanto mais específico e relevante for o contexto, melhor .
Especificidade: Seja específico sobre a instrução e a tarefa que você deseja que o modelo execute. Quanto mais descritivo e detalhado for o prompt, melhores serão os resultados. Isso é importante para obter o resultado ou estilo de geração desejado. Fornecer exemplos no prompt é eficaz para obter a saída desejada em formatos específicos.
Evite Imprecisões: É melhor ser direto e específico em vez de tentar ser "inteligente" ao criar prompts .
Fazer ou não fazer?: Evite dizer o que não fazer; em vez disso, concentre-se em dizer o que fazer. Isso incentiva a especificidade e a atenção aos detalhes que levam a boas respostas.
Exemplos de Prompts: Guia Prático para Iniciantes
Esta seção apresenta exemplos práticos de prompts para ajudar você a começar a usar LLMs. Os exemplos demonstram como diferentes tipos de prompts podem ser usados para alcançar diversos objetivos.
Extração de Informações
Objetivo: Extrair informações específicas de um texto.
Prompt: Extraia o nome dos lugares no texto a seguir. Formato desejado: Local: <lista_de_nomes_de_empresa_separados_por_vírgula> Input: "Embora estes desenvolvimentos sejam encorajadores para os investigadores, muito ainda é um mistério. “Muitas vezes temos uma caixa preta entre o cérebro e o efeito que vemos na periferia”, diz Henrique Veiga-Fernandes, neuroimunologista do Centro Champalimaud para o Desconhecido em Lisboa. “Se queremos utilizá-lo no contexto terapêutico, precisamos de facto de perceber o mecanismo.""
Saída: Local: Centro Champalimaud para o Desconhecido, Lisboa
Tradução
Objetivo: Traduzir um texto para outro idioma.
Prompt: ### Instrução ### Traduza o texto abaixo para o espanhol: Texto: "olá!"
Saída: ¡Hola!
Recomendações (Evitando o que NÃO fazer)
Objetivo: Obter recomendações, evitando pedir informações pessoais.
Prompt: O agente a seguir recomenda filmes para um cliente. O agente é responsável por recomendar um filme dos principais filmes de tendências globais. Deve abster-se de perguntar aos usuários sobre suas preferências e evitar pedir informações pessoais. Se o agente não tiver um filme para recomendar, ele deve responder "Desculpe, não foi possível encontrar um filme para recomendar hoje.". Cliente: Por favor, recomende um filme baseado nos meus interesses. Agente:
Saída: Desculpe, não tenho nenhuma informação sobre seus interesses. No entanto, aqui está uma lista dos principais filmes de tendências globais no momento: [lista de filmes]. Espero que encontre algo que goste!
Estes são apenas alguns exemplos de como os prompts podem ser usados. Ao experimentar e adaptar esses exemplos, você pode criar prompts para uma variedade de tarefas. Lembre-se de ser específico, fornecer contexto e usar exemplos (few-shot) para melhores resultados.
Aqui estão exemplos de prompts para diferentes tarefas, juntamente com explicações:
1. Resumo de Texto
- Prompt (Certo): "Explique os antibióticos".
- Saída (Exemplo): "Os antibióticos são um tipo de medicamento usado para tratar infecções bacterianas... "
- Prompt (Errado): "Antibióticos?" (Muito vago).
- Motivo: Falta especificidade. O modelo não tem contexto suficiente para gerar um resumo útil.
2. Extração de Informações
- Prompt (Certo): "Mencione o produto baseado em modelo de linguagem grande mencionado no parágrafo acima".
- Saída (Exemplo): "O produto baseado em modelo de linguagem grande mencionado no parágrafo acima é o ChatGPT."
- Prompt (Errado): "Quais são os produtos?". (Vago e pode levar a uma lista desnecessária).
- Motivo: Falta direcionamento. Não especifica a informação a ser extraída.
3. Resposta à Pergunta
- Prompt (Certo): "Responda a pergunta com base no contexto abaixo. Mantenha a resposta curta e concisa. Responda 'Não tenho certeza sobre a resposta' se não tiver certeza da resposta. Contexto: Teplizumab... Pergunta: De onde veio originalmente o OKT3? Responder:".
- Saída (Exemplo): "Camundongos."
- Prompt (Errado): "OKT3?". (Incompleto e não fornece contexto).
- Motivo: Ausência de contexto e pergunta clara.
4. Classificação de Texto
- Prompt (Certo): "Classifique o texto em neutro, negativo ou positivo. Texto: Acho que as férias estão boas. Sentimento: neutro. Texto: Acho que a comida estava boa. Sentimento:".
- Saída (Exemplo): "neutro"
- Prompt (Errado): "A comida é boa. Qual o sentimento?".
- Motivo: Falta de exemplos ou formato de saída desejado. O modelo pode não entender o formato esperado.
5. Conversação
- Este tópico se refere a instruir o LLM sobre como se comportar, sua intenção e sua identidade . Exemplos de prompts específicos não foram fornecidos no texto.
6. Geração de Código
- Prompt (Certo): ""Tabela departamentos, colunas = [DepartmentId, DepartmentName] Alunos da tabela, colunas = [DepartmentId, StudentId, StudentName] Crie uma consulta MySQL para todos os alunos do Departamento de Ciência da Computação"".
- Saída (Exemplo): SELECT AlunoId, AlunoNome DE alunos WHERE DepartmentId IN (SELECT DepartmentId FROM departamentos WHERE DepartmentName = 'Ciência da Computação');
- Prompt (Errado): "Código?". (Muito genérico e não fornece informações suficientes).
- Motivo: Ausência de especificação da linguagem e da tarefa a ser executada.
7. Raciocínio
- Prompt (Certo): "Quanto é 9.000 * 9.000?"
- Saída (Exemplo): 81.000.000
- Prompt (Errado): "Resolva o problema.". (Não especifica o problema ou o tipo de raciocínio desejado).
- Motivo: Falta de especificidade e clareza na tarefa.