# O que é RLHF?

> Reinforcement Learning from Human Feedback

É um processo de melhoria que treina a inteligência artificial com feedback humano.

## Definição
RLHF é quando as respostas dadas pela inteligência artificial são pontuadas por humanos, tornando o modelo mais seguro e útil. Este processo garante que o modelo não apenas tenha conhecimento, mas também se comporte de acordo com as preferências humanas.

## Como funciona
Primeiro, o modelo produz respostas diferentes. As pessoas classificam essas respostas da melhor para a pior. Com esse feedback, um modelo de recompensa é treinado e o modelo principal de IA é ajustado para obter pontuações altas desse modelo de recompensa.

## Onde é usado
É aplicado na fase final para que chatbots como o ChatGPT possam falar com naturalidade e segurança como humanos.

## Costuma ser confundido com
Não é apenas treinamento, é o processo de alinhamento do comportamento do modelo.

## Perguntas frequentes
**Por que é necessário?**
Porque modelos treinados apenas com dados da Internet podem, às vezes, fornecer informações grosseiras ou imprecisas.

**As pessoas estão avaliando isso?**
Sim, a pontuação geralmente é feita por especialistas treinados ou por um público amplo.


## Termos relacionados
- [Fine-tuning](/pt/dictionary/fine-tuning/)
- [LLM](/pt/dictionary/llm/)
- [AI Skills](/pt/dictionary/ai-skills/)
- [Hallucination](/pt/dictionary/hallucination/)

---
Fonte: TreScout Glossário · https://trescout.com/pt/dictionary/rlhf/