Geração de texto
Continua um texto palavra a palavra
O texto completo é apresentado em inglês; o título e o resumo estão traduzidos.
O QUE ESTA CAPACIDADE SIGNIFICA
Given a passage as context, the model writes what comes next. Both input and output are text and no particular transformation is targeted: it can continue a story, finish an explanation or draft an email. It differs from conversation in that no instruction format is required, and from summarisation or translation in that neither compression nor a language switch is the goal — both ends stay in the same modality.
Como é feita tecnicamente
The dominant route is an autoregressive Transformer language model: text is split into tokens, the model predicts the probability of the next token position by position, and training maximises likelihood over the corpus. GPT, Llama and Qwen all follow it, differing in scale, data and post-training recipe. At inference, temperature, top-k and top-p shape diversity, while long outputs reuse cached keys and values to cut cost.
Produtos representativos
27GPT-4o
2024Um modelo geral nativamente multimodal: texto, imagem e áudio por uma única porta
Llama
2023A família que tornou a rota de pesos abertos mainstream
Qwen
2023Uma família de pesos abertos com muitos tamanhos e versões multimodais
DeepSeek-V3
2024Um MoE de pesos abertos com 671B parâmetros, ativando 37B por token
Mistral Large
2024O modelo comercial principal de um laboratório europeu de pesos abertos
Gemini
2023Um modelo geral nativamente multimodal, feito para contextos muito longos
Claude
2023Um modelo de conversa geral conhecido por contexto longo e alinhamento de segurança
MiniMax-M
2025Um modelo de raciocínio de pesos abertos com atenção híbrida e contexto de um milhão de tokens
DeepSeek-R1
2025Um modelo de raciocínio treinado com RL sobre cadeias de pensamento, com pesos abertos sob licença MIT
Apple Intelligence
2024IA em nível de sistema que divide o trabalho entre o dispositivo e a nuvem privada
Command R
2024Um modelo comercial feito para recuperação aumentada e uso de ferramentas
Jamba
2024Um modelo de pesos abertos que mistura um modelo de espaço de estados com um Transformer
DBRX
2024Modelo de linguagem MoE de pesos abertos da Databricks
Gemini
2024Uma entrada de chat que reúne busca, escritório e um modelo multimodal
Grok
2023Um modelo de conversa ligado aos dados de uma rede social
Yi
2023Um modelo de pesos abertos bilíngue chinês-inglês, com versões de contexto muito longo
Kimi
2023Um assistente de conversa chinês conhecido por lidar com contextos longos
Hunyuan
2023A família de modelos gerais da Tencent, com versões de pesos abertos
Microsoft Copilot
2023IA conversacional integrada ao sistema operacional e aos apps de escritório
Doubao
2023O modelo de conversa geral e o aplicativo da ByteDance
Phi
2023Modelos pequenos e eficientes, construídos com dados selecionados
Step
2023Uma família de modelos gerais voltada à multimodalidade e ao uso no dispositivo
Baichuan
2023Um modelo geral de pesos abertos voltado ao uso em chinês
GLM
2023Um modelo geral chinês que começou com pré-treinamento de preenchimento de lacunas autorregressivo
ChatGPT
2022A janela de chat que colocou um grande modelo de linguagem nas mãos de todos
Character.AI
2022Chat de interpretação com personagens que você define e com quem conversa por muito tempo
ERNIE
2019Um modelo chinês que começou com pré-treinamento enriquecido por conhecimento, versão inicial representativa
Organizações relacionadas
Usos típicos
- First drafts and rewriting
- Drafting email, documents and copy
- Code comments and API docs
- Test data and synthetic corpora
Como avaliar se funciona bem
- Perplexity
- Predictive uncertainty on held-out text; lower is better
- Human-preference Elo
- Preference ranking from pairwise comparison
- ROUGE/BLEU on constrained tasks
- Reference overlap when an answer key exists
Limites e dificuldades
- Fluency is not truth: the model states wrong facts with confidence — hallucination
- Over long outputs, earlier setup drifts and the text contradicts itself
- Poor sampling settings can trap the model in repetitive or degenerate loops
Conceitos por trás
Arquitetura Transformer
Substituir o revezamento palavra a palavra por uma sala onde todos falam ao mesmo tempo, deixando dependências distantes a um salto
Pré-treinamento e ajuste fino
Aprender a língua primeiro com texto não rotulado e depois especializar com poucos dados: o paradigma mais eficiente em dados da IA moderna
Engenharia de prompts e alinhamento
Tornar um modelo útil, honesto e inofensivo é mais difícil do que apenas torná-lo maior