Treinamento e Ajuste de Hiperparâmetros no Amazon SageMaker

Um trabalho de treinamento é o objeto mais caro que você cria antes de um modelo servir a primeira requisição, e é o objeto sobre o qual o exame AIF-C01 pede que você raciocine com mais precisão. O Domínio 1 carrega 20% do conteúdo pontuado, e a Tarefa 1.3 nomeia diretamente "realizar ajuste de hiperparâmetros ou otimização de modelo". O modo de falha nunca é "você não sabia que o SageMaker treina". É que você escolheu o modo File para um conjunto de dados de 600 GB composto por arquivos pequenos, ou escolheu Bayesian quando o requisito era "reproduzir o conjunto idêntico de combinações em cada reexecução", ou habilitou o Spot sem checkpoint e depois esbarrou no limite de espera de 3.600 segundos que não está documentado nas suas notas.

Ao final desta lição você será capaz de:

• nomear os campos obrigatórios de CreateTrainingJob e explicar o que cada um controla;
• escolher entre os modos de entrada File, FastFile e Pipe usando os próprios limiares de tamanho da AWS, e configurar canais (s3_data_type, distribution, compression, record_wrapping);
• selecionar uma família de instância ml.* para treinamento versus inferência, e calcular o tamanho do cluster como instâncias × GPUs;
• decidir entre paralelismo de dados e paralelismo de modelo, e nomear as bibliotecas da AWS (SMDDP, SMP v2) que os implementam;
• executar o Ajuste Automático de Modelo e escolher a estratégia certa: Grid vs. Random vs. Bayesian vs. Hyperband;
• configurar o Managed Spot Training corretamente (MaxWaitTimeInSeconds ≥ MaxRuntimeInSeconds) e calcular a economia real com a fórmula oficial;
• dimensionar um fluxo de checkpoint para que um trabalho interrompido retome em vez de reiniciar;
• ler as métricas de treinamento do CloudWatch e explicar o que fazem o Debugger e os Experiments, e que o Debugger está fechado para novos clientes;
• defender um veredito comparativo sobre Grid vs. Random vs. Bayesian e sobre treinamento gerenciado vs. faça você mesmo;
• responder dez questões em formato de exame escritas na voz oficial, incluindo dois cálculos de custo.

---

1. Anatomia de um trabalho de treinamento do SageMaker

1.1 As oito peças obrigatórias

CreateTrainingJob é uma única chamada de API, mas é um conjunto de oito decisões independentes. O exame tende a testá-las como "qual destas está faltando / mal configurada", então aprenda-as como uma checklist.

Dois limites valem a pena memorizar porque são baratos de lembrar e aparecem com frequência: o MaxRuntimeInSeconds de um único trabalho de treinamento começa em 1 dia e para de forma brusca em 28 dias, e a soma de execução mais espera não pode exceder 30 dias. Ao parar, o SageMaker envia SIGTERM e espera 120 segundos para o seu código descarregar os dados: que é exatamente a janela dentro da qual o seu manipulador de checkpoint tem que funcionar.

1.2 O ciclo de vida que um trabalho realmente percorre

1.3 O que o treinamento custa, e como é cobrado

O SageMaker cobra por instância-segundo para horas de instância parciais, sem mínimo e sem compromisso antecipado. Isso importa mais do que qualquer tarifa horária isolada: um trabalho de treinamento de 90 segundos custa 90 segundos de uma instância, não uma hora inteira.

• 📚 Você sabia? O free tier de treinamento do SageMaker é de 50 horas de ml.m4.xlarge ou ml.m5.xlarge nos primeiros dois meses: suficiente para cerca de seis dias úteis completos de treinamento contínuo em CPU, mas apenas para um punhado de execuções em GPU. A AWS rotula a janela de dois meses como uma promoção na página de preços, então confirme os termos antes de montar um orçamento de curso em cima dela.

---

2. Como colocar dados no trabalho: modos de entrada e canais

Este é o tópico de maior retorno desta lição. A AWS documenta exatamente três modos de entrada no enum da API, File, FastFile e Pipe, e o guia de desenvolvedor ainda chama o File de padrão.

2.1 Os três modos lado a lado

2.2 Modo File: o padrão que silenciosamente custa tempo

No modo File, a instância de treinamento precisa ter espaço de armazenamento suficiente para caber no conjunto de dados inteiro: essa é uma citação direta do guia de desenvolvedor, e é o mecanismo por trás do item clássico de exame: "o treinamento só começa depois de uma longa fase de transferência de dados, e o armazenamento da instância tem que comportar o conjunto de dados inteiro." Resposta: File.

O modo File é também o único modo que a documentação liga explicitamente ao treinamento incremental, e ele aceita os três valores de s3_data_type, incluindo AugmentedManifestFile. O sharding entre instâncias é feito com distribution = ShardedByS3Key.

A própria orientação de dimensionamento da AWS: o modo File atende conjuntos de dados abaixo de 50 to 100 GB, e na taxa documentada de 50 GB em cerca de 5 minutos com fragments de 100 MB, a AWS recomenda serializar arquivos menores que 50 MB em blocos de cerca de 150 MB (TFRecord ou RecordIO).

Exemplo resolvido 1, dimensionamento do modo File (seção 12, Exemplo 1). Um conjunto de dados de 80 GB no modo File precisa de um volume ≥ 80 GB mais espaço para a saída. Na taxa da AWS, o download leva cerca de 8 minutos antes do passo um rodar, aproximadamente 21% de um trabalho de 30 minutos gastos copiando. Mude para o FastFile, ou faça o sharding com ShardedByS3Key.

2.3 FastFile: transmita sem copiar

O FastFile identifica os objetos mas não baixa nada. O S3 é exposto como um sistema de arquivos POSIX e lido sob demanda, então a inicialização é rápida e o espaço local só é necessário para os artefatos. Duas restrições para memorizar: ele aceita somente prefixo (sem manifesto aumentado), e leituras aleatórias funcionam, mas leituras sequenciais são as melhores. Cobranças extras de CloudTrail e KMS podem se aplicar porque o FastFile registra acessos em nível de objeto.

2.4 Pipe: o modo de streaming original

O Pipe transmite os objetos do S3 para um pipe FIFO com alto pré-carregamento, mantém o disco apenas para os artefatos e oferece embaralhamento por época gerenciado, compressão Gzip e empacotamento RecordIO. A AWS agora o descreve como "largamente substituído pelo … fast file mode", então no exame o Pipe costuma ser o distrator de streaming quando o FastFile é a resposta melhor, ou a resposta correta quando a questão menciona RecordIO/Gzip/embaralhamento por época.

2.5 Canais: como os objetos são enumerados e divididos

Um canal é uma entrada do trabalho. Seus campos de configuração são onde o esconde o detalhe.

As lojas suportadas são Amazon S3, Amazon EFS e Amazon FSx for Lustre (mais S3 Express One Zone), e o conjunto de dados tem que viver na mesma Região do trabalho de treinamento: um bucket S3 em us-west-2 alimentando um trabalho em us-east-1 não é um padrão suportado.

2.6 Escolhendo um modo, usando os limiares da AWS

---

3. Escolhendo a computação: as famílias de instância ml.*

3.1 A regra de nomenclatura

Todo SKU de computação do SageMaker é prefixado com ml.. Esse prefixo é o indício mais barato do exame: se uma opção diz p4d.24xlarge sem o ml. quando o contexto é um trabalho de treinamento do SageMaker ou um endpoint, ela está descrevendo EC2, não SageMaker. As famílias se separam limpo por papel.

3.2 O hardware de GPU que a AWS publica

3.3 Duas regras de dimensionamento que decidem a sua fatura

Regra 1: dimensione o tamanho da instância antes de adicionar instâncias. A orientação da AWS sobre treinamento distribuído é explícita: um único ml.p3.16xlarge supera dois ml.p3.8xlarge para as mesmas 8 GPUs, porque você paga por um interconect em vez de um salto de rede. Adicionar instâncias é o que se faz quando uma máquina não consegue conter o modelo ou os dados.

Regra 2: tamanho do cluster = instâncias × GPUs. Dois nós ml.p3.16xlarge dão um cluster de 16 GPUs, não 8. Todo grau de paralelismo, cálculo de tamanho de lote e custo de comunicação da seção 4 deriva desse produto.

Exemplo resolvido 2: dimensionamento distribuído (seção 12, Exemplo 2). ml.p3.16xlarge × 2 = 8 GPUs por nó → tamanho do cluster 16. A referência publicada da AWS para um LLM de 70 bilhões de parâmetros é 32 × ml.p4d.24xlarge = 256 GPUs, com grau de paralelismo de dados fragmentado de 256 e tamanho de lote 2; um modelo de 175B precisa de 64 × ml.p4d.24xlarge, enquanto um modelo de 7B cabe em 1 × ml.p4d.24xlarge.

• 📚 Você sabia? O ml.p5.48xlarge sai de fábrica com 8 × H100 e 640 GB de memória total de GPU e rede EFAv2 de 3.200 Gbps: mais largura de banda do que a maioria dos racks tinha uma década atrás, e a razão de o treinamento multi-nó nessa família ser limitado por banda e não por computação. Ele atingiu disponibilidade geral em 4 de agosto de 2023, inicialmente em us-east-1 e us-west-2.

---

4. Treinamento distribuído: paralelismo de dados vs. paralelismo de modelo

4.1 A distinção que o exame quer

A formulação do exame costuma ser um sintoma: "o modelo não cabe na memória de uma única GPU, mas o conjunto de dados é modesto" → paralelismo de modelo. O espelho disso: "o modelo treina bem em uma GPU, mas o conjunto de dados é enorme" → paralelismo de dados.

4.2 As bibliotecas que a AWS nomeia

Para trabalhos multi-nó grandes, a orientação da AWS converge na mesma pilha toda vez: GPUs habilitadas para EFA, de preferência ml.p4d/ml.p4de (A100) ou mais novo, mais Amazon FSx for Lustre para o conjunto de dados. O EFA importa porque contorna a pilha de rede do SO; o FSx importa porque mil pequenos arquivos lidos pelo S3 vão sufocar 256 GPUs.

Exemplo resolvido 3: quanto modelo cabe onde (seção 12, Exemplo 3). As referências publicadas da AWS: Llama 2 7B → 1 × ml.p4d.24xlarge; Llama 2 70B → 32 × ml.p4d.24xlarge; 175B → 64 ×; GPT-2 10B → 16 ×. Leia-as como uma regra prática: a contagem de parâmetros, não o tamanho do conjunto de dados, é o que dita o número de instâncias depois que você ultrapassa a capacidade de uma GPU.

---

5. Ajuste Automático de Modelo: o que um trabalho de ajuste faz

5.1 A ideia em uma frase

O Ajuste Automático de Modelo (AMT) executa muitos trabalhos de treinamento sobre os intervalos de hiperparâmetros que você fornece e mantém o que tem melhor desempenho na sua métrica objetivo. Você define os intervalos; o SageMaker executa a busca; você recebe de volta a melhor tentativa.

O exame chama isso de "ajuste de hiperparâmetros ou otimização de modelo", e está bem dentro da Tarefa 1.3.

5.2 O fluxo do trabalho de ajuste

5.3 Intervalos, escalas e a métrica objetivo

Os intervalos de hiperparâmetros são tipados e escalados. Auto, Linear, Logarithmic e ReverseLogarithmic são as quatro opções de escala, e cada uma tem uma regra de domínio que vale conhecer porque é uma verificação de correção grátis no exame:

TrainingJobEarlyStoppingType é OFF por padrão e pode ser definido como AUTO para interromper tentativas que claramente não vão vencer. O warm start reusa as tentativas-pai de um trabalho de ajuste anterior, o que reduz tanto o custo quanto o tempo de relógio quando você estende uma busca em vez de reiniciá-la.

5.4 Os limites que você deve conseguir recitar

Duas consequências seguem imediatamente. Primeiro, a AWS recomenda manter a contagem de hiperparâmetros bem abaixo do teto de 30: cada dimensão extra dilui a busca. Segundo, o RandomSeed torna uma busca Random ou Hyperband reprodutível em até 100%, que é o mecanismo por trás do item de exame sobre "reproduzir combinações idênticas".

Exemplo resolvido 4: orçamento de ajuste e aritmética de cota (seção 12, Exemplo 4). MaxNumberOfTrainingJobs = 20, uma hora cada em ml.g4dn.12xlarge à tarifa publicada da AWS de $4.89/h → 20 × $4.89 = $97.80. Com MaxParallelTrainingJobs = 10 você roda 2 ondas ≈ 2 horas em vez de 20. Empurrar para 100 trabalhos custa $489 sem nenhuma garantia de precisão melhor. Separadamente, o próprio exemplo de cota da AWS: 10 trabalhos de ajuste × 100 trabalhos de treinamento × 20 simultâneos em ml.m4.xlarge passa pelos limites de 100 ajustes simultâneos e de 750 trabalhos, mas precisa de aumento para 20 trabalhos de treinamento simultâneos (padrão 10) e 200 instâncias ml.m4.xlarge (padrão 20).

• 📚 Você sabia? Um trabalho de ajuste do SageMaker não é um produto de computação separado: é um orquestrador que cria trabalhos de treinamento comuns e observa as métricas deles no CloudWatch. É por isso que as cotas de trabalho de ajuste são expressas tanto em trabalhos de ajuste (100 simultâneos) quanto em trabalhos de treinamento (10 paralelos, 750 no total): você é medido nos mesmos instância-segundos de qualquer forma.

---

6. Estratégias de ajuste: Grid vs. Random vs. Bayesian vs. Hyperband

Esta é a comparação que o exame pede que você faça sob pressão de tempo. Aprenda a linha que difere, não a tabela inteira.

6.1 A comparação completa

6.2 Grid: determinístico, categórico, combinatório

O Grid enumera toda combinação distinta dos valores categóricos que você dá, e o SageMaker calcula a contagem de trabalhos automaticamente: você deve definir MaxNumberOfTrainingJobs com esse número. É a estratégia para reproduzir resultados e para cobrir uniformemente um espaço de busca.

Exemplo resolvido 5: contagem de trabalhos do Grid (seção 12, Exemplo 5). Dois parâmetros categóricos com 5 e 4 valores → 5 × 4 = 20 combinações → o SageMaker cria 20 trabalhos de treinamento. Acrescente um terceiro parâmetro com 3 valores → 60 trabalhos. O Grid explode combinatorialmente, e é exatamente por isso que a AWS direciona espaços de busca grandes para o Bayesian ou o Random.

6.3 Random: paralelismo máximo, aprendizagem zero

Como o Random ignora resultados anteriores, cada tentativa é independente e a estratégia suporta o maior número de trabalhos de treinamento simultâneos de qualquer estratégia. É também a única estratégia cujo teto de trabalhos pode ser elevado de 750 para 10.000, e com um RandomSeed fixo ela reproduz a sequência idêntica de configurações.

6.4 Bayesian: o padrão do SDK e um otimizador sequencial

O Bayesian constrói um modelo de regressão sobre as tentativas concluídas até então e propõe a próxima configuração onde a melhora parece mais provável. Isso o torna o melhor uso de um orçamento pequeno e o padrão no HyperparameterTuner do SageMaker SDK, mas também o torna sequencial: a tentativa n+1 depende da tentativa n, então a AWS afirma que ele não escala massivamente em paralelo.

6.5 Hyperband: multi-fidelidade, somente algoritmos iterativos

O Hyperband realoca épocas entre rodadas sucessivas, interrompe trabalhos fracos cedo e roda muitos trabalhos em paralelo. A restrição dura é o algoritmo: ele precisa de algoritmos iterativos que possam ser julgados de forma significativa no meio do caminho. XGBoost e Random Cut Forest se qualificam; árvores de decisão e k-NN, não. A AWS o comercializa como até 3× mais rápido que o Bayesian: esse número vem de uma página what-is da AWS, então cite-o como uma afirmação da AWS, não como um benchmark reproduzido.

---

7. Managed Spot Training e checkpoints

7.1 O que é

O Managed Spot Training executa o seu trabalho de treinamento em capacidade Spot do EC2, com o SageMaker gerenciando as interrupções para você. A AWS o lançou em 26 de agosto de 2019 e publicou desde então dois números diferentes de economia: ambos publicados pela AWS, e ambos aparecem em material de exame:

7.2 A fórmula oficial, e o único cálculo de que você precisa

$$\text{Savings (\%)} = \left(1 - \frac{\text{BillableTimeInSeconds}}{\text{TrainingTimeInSeconds}}\right) \times 100$$

Exemplo resolvido 6: a matemática da economia do Spot (seção 12, Exemplo 6). Um trabalho roda por 500 segundos e é cobrado por 100 segundos:

$$(1 - 100/500) \times 100 = 80\%$$

O trabalho de demonstração do blog de lançamento da AWS rodou 2.423 segundos e foi cobrado por 837 → $(1 - 837/2423) \times 100 \approx \mathbf{65\%}$. Calcule por trabalho; nunca assuma um número fixo.

Exemplo resolvido 7, On-Demand vs. Spot para uma execução em GPU (seção 12, Exemplo 7). ml.g4dn.12xlarge publicado pela AWS = $4.89/h. Duas horas On-Demand = $9.78. Se apenas 36 dos 120 minutos de relógio forem faturáveis no Spot: $0.6 \times 4.89 \approx$ $2.93, cerca de 70% de economia, batendo com a história do cliente Cinnamon AI.

7.3 As duas regras de configuração

Exemplo resolvido 8, configuração do Spot (seção 12, Exemplo 8). Um trabalho de 6 horas com checkpoint: MaxRuntimeInSeconds = 21.600 e MaxWaitTimeInSeconds maior que isso (a demonstração da AWS usou 48 h = 172.800 s), mais CheckpointConfig.S3Uri. Rode o mesmo trabalho de 6 horas sem checkpoint e o teto de espera é 3.600 s, então você acrescenta checkpoint ou roda On-Demand.

7.4 Checkpoints: retomar, não reiniciar

7.5 O que um trabalho interrompido realmente parece

A máquina de estados documentada é Starting → Downloading → Training → Uploading, com laços Interrupted → Starting → … no meio e um terminal Stopped: MaxWaitTimeExceeded quando o orçamento de espera se esgota antes de o trabalho terminar.

---

8. Observando a execução: métricas, Debugger e Experiments

8.1 Para onde os números vão

As métricas de treinamento são publicadas no Amazon CloudWatch sob o namespace /aws/sagemaker/TrainingJobs, e a visão Training jobs → Monitor do console do SageMaker as grafica. Esta é a resposta sempre que uma questão pergunta como você sabe se um trabalho está convergindo, divergindo ou saturando a GPU.

8.2 Debugger: tensores, regras e ações

Assim o item de exame "interromper automaticamente o trabalho de treinamento quando uma regra de gradiente desvanecente disparar e enviar um e-mail para a equipe" se resolve nas ações incorporadas do Debugger: com a ressalva de que o Debugger está fechado para novos clientes.

8.3 SageMaker Experiments

O Experiments rastreia cada tentativa e execução, os hiperparâmetros usados, as métricas produzidas, os artefatos gravados, para que você possa comparar execuções lado a lado. A saída do Debugger pode ser roteada para o TensorBoard para visualização. O Experiments é a resposta para "qual das minhas 20 execuções foi a melhor, e com quais configurações"; o Debugger é a resposta para "o que está acontecendo dentro desta execução agora".

---

9. Caminhos que pulam o loop de treinamento inteiro

9.1 JumpStart: modelos pré-treinados que você pode ajustar

O JumpStart é o hub do SageMaker de modelos de código aberto pré-treinados, extraídos do TensorFlow Hub, PyTorch Hub, Hugging Face e GluonCV. Dois números importam para o exame: ele cobre 15 tipos de problema, dos quais 8 são treináveis, ou seja, você pode fazer treinamento incremental / fine-tuning neles, e ele se integra ao Ajuste Automático de Modelo.

9.2 Autopilot: AutoML para dados tabulares (e, via v2, mais)

Escopo: dados tabulares de até centenas de gigabytes; tarefas de texto, imagem e previsão mais fine-tuning de LLM são tratados pela API AutoML v2. A UI migrou para o SageMaker Canvas em 30 de novembro de 2023, então usuários sem código vão para o Canvas, e o Autopilot permanece como o caminho de API.

9.3 Escolhendo um ponto de partida

• 📚 Você sabia? A lista curta de algoritros do Autopilot é deliberadamente pequena, árvores impulsionadas por gradiente, uma DNN feedforward e regressão logística, porque o AutoML é um mecanismo de seleção e ajuste, não um laboratório de pesquisa. O estágio de HPO que ele executa internamente é o mesmo mecanismo de Ajuste Automático de Modelo descrito na seção 5, e é por isso que os dois dividem a linguagem de cotas.

---

10. Veredito comparativo: estratégias e gerenciado vs. faça você mesmo

10.1 Treinamento gerenciado vs. construir você mesmo

10.2 Estratégia de ajuste num relance

---

11. Limites, cotas e evidências de custo em um lugar só

11.1 Limites e benchmarks publicados

11.2 Evidências de custo

11.3 Atualizações de 2026 (em outubro de 2026)

Todo número das seções 1 to 10 vem de páginas da AWS verificadas em 6 de outubro de 2026. O que realmente se moveu em 2025 to 2026 foi sobretudo a disponibilidade, não a aritmética: o produto mudou de nome, uma faixa inteira de funcionalidades do SageMaker em torno do loop de treinamento foi colocada em manutenção, e o guia do exame foi revisado. Mudanças de disponibilidade importam no exame porque uma funcionalidade fechada para novos clientes pode ser a resposta errada mesmo quando o guia de desenvolvedor ainda a documenta por completo.

O próprio vocabulário de ciclo de vida da AWS (AWS General Reference, Service lifecycle) vale a pena aprender porque diz o que "fechado" realmente significa: Maintenance = sem novos clientes, sem funcionalidades novas, ainda suportado; Sunset = um fim planejado de operações, tipicamente com cerca de 12 meses de antecedência; Full Shutdown = removido do portfólio. Todo item do SageMaker no aviso de 30 de julho de 2026 está no primeiro estado, não no terceiro, e é exatamente por isso que esta lição mantém o Debugger na seção 8 com uma data anexada em vez de deletá-lo.

• 📚 Você sabia? A AWS afirma que mudanças no guia do exame aparecem no exame vivo cerca de um mês após a publicação, então os objetivos do v1.1 publicados em 30 de abril de 2026 se tornaram examináveis a partir de aproximadamente finais de maio de 2026. Essa mesma revisão colocou o SageMaker JumpStart na lista de serviços no escopo (seção 9.1 desta lição), removeu o Amazon MemoryDB e deixou a aritmética do exame intocada: 65 questões (50 pontuadas + 15 não pontuadas), 90 minutos, 100 USD, aprovação em 700/1000, validade de três anos, com domínios ponderados 20 / 24 / 28 / 14 / 14.

---

12. Exemplos resolvidos da AWS com números

Exemplo 1: dimensionamento do modo File. Conjunto de dados de 80 GB, modo File → volume ≥ 80 GB mais folga para a saída. Na taxa documentada da AWS (50 GB ≈ 5 min com fragments de 100 MB) a cópia leva ≈ 8 minutos, cerca de 21% de um trabalho de 30 minutos, antes do primeiro passo de treinamento. Correção: FastFile, ou distribution = ShardedByS3Key.

Exemplo 2: dimensionamento distribuído. ml.p3.16xlarge × 2 → 8 GPUs/nó → tamanho do cluster 16. Orientação da AWS: tente o nó único maior primeiro (1 × 16xlarge supera 2 × 8xlarge para as mesmas 8 GPUs). Escala de referência: 7B → 1 × ml.p4d.24xlarge, 70B → 32 × (256 GPUs, grau de paralelismo de dados fragmentado 256, lote 2), 175B → 64 ×.

Exemplo 3, o cabimento do modelo dita o número de instâncias. A contagem de parâmetros, não o tamanho do conjunto de dados, decide o número de nós depois que você ultrapassa a memória de uma GPU: 8 × A100 40 GB = 320 GB em um ml.p4d.24xlarge, 8 × H100 = 640 GB em um ml.p5.48xlarge. Se o modelo mais o estado do optimizer exceder o dispositivo, nenhum volume de paralelismo de dados ajuda, você precisa de paralelismo de modelo (SMP v2).

Exemplo 4: orçamento de ajuste e aritmética de cotas. MaxNumberOfTrainingJobs = 20 × 1 h × ml.g4dn.12xlarge @ $4.89/h = $97.80; com MaxParallelTrainingJobs = 10 → 2 ondas ≈ 2 h em vez de 20 h. Com 100 trabalhos a fatura é $489 sem nenhuma garantia de precisão. O exemplo de cota da AWS: 10 trabalhos de ajuste × 100 trabalhos de treinamento × 20 simultâneos → passa pelos limites de 100 trabalhos de ajuste e 750 trabalhos de treinamento, mas precisa de aumentos para 20 trabalhos de treinamento simultâneos (padrão 10) e 200 instâncias ml.m4.xlarge (padrão 20).

Exemplo 5: contagem de trabalhos do Grid. 5 valores × 4 valores = 20 trabalhos. Acrescente um terceiro parâmetro com 3 valores → 60 trabalhos. O Grid cresce multiplicativamente; esse é o argumento para o Bayesian ou o Random em qualquer espaço não trivial.

Exemplo 6, economia do Spot. 500 s de treinamento, 100 s cobrados → $(1 - 100/500) \times 100 = \mathbf{80\%}$. Trabalho do blog de lançamento: 837 / 2.423 → ≈ 65%. O mesmo trabalho com fração faturável de 90% economizaria apenas 10%, a economia é uma medição por trabalho, nunca um desconto fixo.

Exemplo 7: On-Demand vs. Spot. ml.g4dn.12xlarge à tarifa publicada da AWS de $4.89/h: 2 h On-Demand = $9.78. Spot com 36 minutos faturáveis de 120 → $0.6 \times 4.89 \approx$ $2.93, ou seja ≈ 70% de economia.

Exemplo 8: configuração de Spot + checkpoint. Trabalho de 6 horas: MaxRuntimeInSeconds = 21.600, MaxWaitTimeInSeconds maior (a demonstração da AWS usou 48 h), mais CheckpointConfig.S3Uri e código gravando em /opt/ml/checkpoints. O mesmo trabalho com um algoritmo incorporado e sem checkpoint → espera limitada a 3.600 s → rode On-Demand em vez disso.

• 📚 Você sabia? O SageMaker cobra o treinamento por segundo e sem mínimo, então o experimento falho mais barato é o rápido. Esse é o argumento real por trás de TrainingJobEarlyStoppingType = AUTO: interromper uma tentativa sem esperança no minuto 12 em vez do minuto 60 é uma redução de 5/6 na fatura daquela tentativa, e com até 100 trabalhos de treinamento simultâneos por trabalho de ajuste essas economias se multiplicam por toda a busca.

---

13. Fatos conflitantes, não verificados e não examináveis

Separe o que a AWS documenta do que a AWS comercializa. Mantenha esta tabela fora do seu conjunto de memorização, exceto onde ela estiver marcada como "use no exame".

Fontes primárias desta lição: as páginas do guia de desenvolvedor do SageMaker model-access-training-data, model-access-training-data-best-practices, automatic-model-tuning{,-how-it-works,-considerations,-limits}, multiple-algorithm-hpo-create-tuning-jobs, model-managed-spot-training{,-status}, model-checkpoints{,-resume}, distributed-training{,-get-started,-scenarios}, model-parallel-intro-v2, model-parallel-best-practices-v2, train-debugger, debugger-debug-training-jobs, debugger-built-in-actions, experiments-mlops, view-train-metrics, cmn-info-instance-types, jumpstart-models, studio-jumpstart, use-auto-ml, autopilot-automate-model-development; a referência da API API_CreateTrainingJob, API_AlgorithmSpecification, API_Channel, API_HyperParameterTuningJobConfig, API_ResourceLimits, API_StoppingCondition; boto3 create_training_job / describe_training_job; o SDK do SageMaker HyperparameterTuner; o Guia do Exame AIF-C01; e as páginas de preços do SageMaker.

---

14. Casos Reais

A AWS publica poucas histórias de clientes sobre treinamento como tal, o momento faturável raramente é fotogênico, então estas quatro são a metade de treinamento-e-ajuste do registro de estudos de caso da AWS: cada uma nomeia seus serviços, seus números e sua fonte, e cada uma mapeia de volta para uma seção acima. Leia cada porcentagem como um número afirmado pelo cliente ou pela AWS, não auditado, e leia "de até" como um teto.

14.1 As quatro histórias

HAYAT HOLDING: Ajuste Automático de Modelo em uma linha de produção ao vivo (manufatura, 2023). O fabricante de painéis de MDF havia construído seus próprios ambientes de ML e os descrevia como "demorados e complicados". A arquitetura publicada roda 194 sensores via OPC-UA para um SiteWise Edge Gateway do AWS IoT Greengrass, depois SageMaker Model Training + Automatic Model Tuning + Model Deployment, com o SageMaker Edge Manager servindo o modelo resultante no dispositivo. Resultado relatado: $300.000 por ano economizados, ao lado de qualidade mais alta e produção otimizada. Esta é a seção 5 em produção: varreduras manuais de hiperparâmetros substituídas pelo AMT em 194 entradas: com o alvo de implantação sendo um dispositivo de borda e não um endpoint. Fonte: AWS Machine Learning Blog, blogs/machine-learning/hayat-holding-uses-amazon-sagemaker-to-increase-product-quality-and-optimize-manufacturing-output-saving-300000-annually (2023).

RareJob: treinamento Spot gerenciado em vez de uma fila (EdTech, 2020). A pontuação de testes de fala (PROGOS) começou em um PC local, o que permitia um modelo por desenvolvedor, e depois migrou para EC2/ECS e ainda custava caro demais. A arquitetura da AWS alimenta AWS Glue e Amazon Athena para trabalhos de treinamento Spot gerenciados do SageMaker em paralelo. Resultado relatado: 25% menos tempo de treinamento, mais de 10× de eficiência de desenvolvimento, 100 horas por mês economizadas, e notas devolvidas em 2 to 3 minutos. Esta é a seção 7 em produção: o gargalo era o enfileiramento, não a qualidade do modelo, e o Spot mais a orquestração transformaram uma fila serial em um fan-out. Fonte: estudo de caso da AWS, solutions/case-studies/rare-job-case-study (2020).

Chronomics, a falha documentada de treinamento faça você mesmo (health-tech, 2022). Quatro meses de modelagem interna de visão computacional customizada para ler resultados de testes de COVID-19 nunca atingiram a meta. A equipe entregou com Amazon Rekognition Custom Labels (AutoML da AWS) em 3 to 4 semanas com 96,5% de precisão / F1 de 97,9%, pontuado com DetectCustomLabels. A análise de limiares publicada é a parte que vale memorizar: um limiar de confiança de 0,99 → 99,6% das previsões corretas com 5% descartados, e 0,999 → 99,87% com 27% descartados. A lição é a seleção de nível (seção 9): para uma tarefa de visão estreita, o AutoML gerenciado superou um loop de treinamento construído à mão, e alguém ainda tem que decidir o que acontece com os 5% descartados, o caminho humano documentado pela AWS para essa cauda é o Amazon A2I. Fonte: AWS Machine Learning Blog, blogs/machine-learning/chronomics-detects-covid-19-test-results-with-amazon-rekognition-custom-labels (2022).

Forethought, o que a infraestrutura faça você mesmo custa a uma equipe de três pessoas (suporte de clientes SaaS). O SupportGPT lida com 30 milhões de interações por ano com vários modelos por cliente, e a equipe de 3 pessoas não conseguia rodar modelos e Kubernetes ao mesmo tempo, exceções de memória e quedas os tiraram do próprio Amazon EKS. Eles migraram para endpoints multimodelo do SageMaker e SageMaker Serverless Inference: 66% de custo menor nos endpoints multimodelo com latência melhor, cerca de 80% menor no Serverless (manchete: de até 80%), e mais de 80% da inferência em GPU rodando agora no SageMaker. A ligação com esta lição é o veredito da seção 10: cada dólar economizado na servição é um dólar de volta no orçamento de treinamento e ajuste, e a infraestrutura autogerenciada é o imposto oculto que as duas colunas daquela tabela alertam. Fonte: estudo de caso da AWS, solutions/case-studies/forethought-technologies-case-study.

14.2 Serviços, números e fontes num relance

• 📚 Você sabia? O "antes" mais dramático de todo o registro de estudos de caso pertence ao Sun Finance (fintech, ML Blog 2026): o primeiro protótipo enviava fotos de documento direto para o Claude Sonnet 4 e pontuava 61,8% no geral, 43% no número do documento, e foi rejeitado. Separar as tarefas (Amazon Textract para OCR, Rekognition como fallback e máscara de rosto, o modelo apenas para estruturar, mais regras de validação em 585 imagens) levou o mesmo pipeline a 85% e depois a 90,80% de precisão, −91% de custo por documento e 20 horas → menos de 5 segundos. O loop de treinamento nunca foi o problema; a avaliação foi.

14.3 O que cada caso prova nesta lição

---

Perguntas de Prática (Practice Questions)

---