# O que é LLM Inference?

O processo de um modelo de inteligência artificial treinado gerar uma resposta a uma pergunta que lhe é feita.

## Definição
A inferência é o momento em que um modelo de inteligência artificial usa as informações aprendidas durante a fase de treinamento para fazer previsões sobre uma nova entrada e gerar um resultado. Este processo é o momento em que o modelo 'pensa' ou 'responde'. Diferente da fase de treinamento, aqui o modelo não aprende nada novo, ele apenas aplica o que já sabe.

## Como funciona
A entrada (prompt) é fornecida ao modelo, o modelo processa essa entrada com seus pesos internos e gera a resposta prevendo a próxima palavra mais lógica. Este processo requer um cálculo muito rápido.

## Onde é usado
É utilizado no momento de execução de aplicações de inteligência artificial, em chamadas de API e em testes de desempenho de modelos.

## Costuma ser confundido com
Não deve ser confundido com o treinamento (training) do modelo; o treinamento é o processo de aprendizado do modelo, enquanto a inferência é o processo de aplicação.

## Perguntas frequentes
**O modelo continua aprendendo durante a inferência?**
Não, a inferência é apenas o processo de usar o conhecimento existente; ele não aprende nada novo.

**Por que isso é importante?**
A velocidade e o custo das aplicações dependem de quão eficiente é o processo de inferência.


## Termos relacionados
- [LLM](/pt/dictionary/llm/)
- [Inference](/pt/dictionary/inference/)
- [Generative AI](/pt/dictionary/generative-ai/)

## Ferramentas relacionadas
- [ODS](/pt/discover/ods/)

---
Fonte: TreScout Glossário · https://trescout.com/pt/dictionary/llm-inference/