Carregando com volume

🌐 Também em 19 idiomas

English · Español · 日本語 · Français · Deutsch · Italiano · 한국어 · 简体中文 · Português (Portugal) · 繁體中文 · Bahasa Indonesia · Türkçe · Polski · Tiếng Việt · ไทย · Українська · Español (México) · Français (Canada) · Deutsch (Schweiz)

Imagem gerada com IA

Traduzido por IA. Ainda não revisado pela comunidade. Ler em inglês Esta seção mudou em inglês e ainda não foi traduzida de novo. (52)

Módulo 2 de 5 do capítulo Migração e sincronização, capítulo 10 do curso Data Architect. Cada módulo se sustenta sozinho. Anterior: A migração é, antes de tudo, um projeto de qualidade · Próximo: A automação durante a carga

A pergunta que este módulo responde: Como o Número de Zeros muda a forma de carregar dados no Salesforce?

Dez registros? Quase dá para digitar. Mil? Agora preciso de uma ferramenta. Um milhão? É um problema de arquitetura. A operação não mudou (criar ou atualizar registros), mas o Número de Zeros muda como eu a faço. Vimos isso na modelagem, nas consultas, no compartilhamento e nas integrações, e a migração não é diferente. Com volume, me importa como movo os dados, como os divido em trabalho, em que ordem eles se movem, o que mais o Salesforce está fazendo enquanto carrego, como me recupero quando algo falha e se consigo rodar tudo de novo.

Start With the Picture

Same landscape, same amber arrow as module 1: RouteDesk’s open work coming into Salesforce the weekend RouteDesk retires. ⟲

Clique para ampliar

Module 1 decided what moves on this arrow. This module is about how it moves. ⟲

Module 1 decided what comes in: the deliveries not yet made and the ones still inside the 60-day claim window, about 196,400 deliveries. Each one becomes a Work Order, with its line items (about 1.6 per delivery, so about 314,000) and its Service Appointment (about 196,400 more). That’s roughly 707,000 records, prepared in the preparation data store and ready to go. Not millions, but well past anything I’d send one record at a time. So, how do they get in? ⟲

A doca de carga nos fundos do banco

Quando ensino a Bulk API, uso o banco. Você entra com uma pilha de depósitos, e o caixa pega 200 e manda você para o fim da fila. Com um milhão de registros, são 5.000 voltas na fila, 5.000 chamadas de API. Enquanto isso, um caminhão para ao lado do banco, descarrega uma quantidade enorme de depósitos e, vinte minutos depois, vai embora enquanto você ainda está na fila. Essa é a doca de carga, e o nome dela é Bulk API.

The 200 is still real. A REST sObject Collections request takes “up to 200 records” (Create Records Using sObject Collections (abre em uma nova aba), REST API Developer Guide), and a SOAP create() call the same: “If a create request exceeds 200 records, then the entire operation fails” (create() (abre em uma nova aba), SOAP API Developer Guide; both checked 2026-10-27). Every 200 more records is another call. RouteDesk’s 707,000 records would be over 3,500 trips to the teller. ⟲

Clique para ampliar

Same records, different door. ⟲

A doca de carga tem cinco etapas:

1. Abrir o job. Aperte a campainha vermelha e pegue uma senha: o ID do job.
2. Fazer o upload. A doca se abre e você carrega os seus arquivos CSV com essa senha, um arquivo ou cem.
3. Fechar o job. O Salesforce não sabe que você terminou até você apertar o grande botão azul: upload concluído. Agora ele começa a processar.
4. “Já chegamos?” Como os meus filhos no banco de trás: você pergunta, com o ID do job, se já terminou. Já terminou? Já terminou?
5. Pegar os resultados. Baixe os registros bem-sucedidos (com os seus novos IDs do Salesforce) ou as falhas (com os seus erros).

Clique para ampliar

Submit, wait, collect. ⟲

Um milhão de registros custa um punhado de chamadas em vez de milhares. Mas repare no que mudou: o trabalho é assíncrono. Você não recebe uma resposta por registro; você envia, espera e recolhe. Então quem chama precisa saber o que foi enviado, o que ainda está processando, o que terminou, o que falhou e o que voltou. Isso não é um detalhe da API. É o controle da migração.

Duas docas de carga: Bulk API 2.0 e Bulk API

Há duas versões, e importa em qual você está.

• Bulk API 2.0 is the one to start with. You upload the data for a job and Salesforce splits it into batches for you, retries for you and runs them in parallel. A job can take 150 MB, measured after Salesforce encodes it, so Salesforce advises uploading no more than 100 MB of CSV per job. ⟲
• Bulk API (1.0) makes you create the batches yourself, up to 10,000 records each. It’s older, but it still has two levers 2.0 doesn’t give you: serial mode for loads, and PK chunking for very large exports (module 5). ⟲

Both share a rolling 24-hour allowance of 15,000 batches, and either can load up to 150 million records in 24 hours. Job results are kept for seven days after the job completes (Bulk API and Bulk API 2.0 Limits and Allocations (abre em uma nova aba), checked 2026-10-27). Salesforce’s line between the doors: “Any data operation that includes more than 2,000 records is a good candidate for Bulk API 2.0”; below that, “bulkified” synchronous calls are fine (Loading Data from the API (abre em uma nova aba), Best Practices for Deployments with Large Data Volumes, Winter ‘27, checked 2026-10-27). Those are today’s numbers: check them before you plan around them. ⟲

Unitário, em conjuntos e em massa é como penso na forma do trabalho: uma única atualização vinda da ação de um usuário, algumas centenas de registros relacionados vindos de um processo de negócio, milhões de registros históricos numa migração. Não são nomes de produtos. Pergunte qual é a forma do trabalho antes de escolher a ferramenta.

Test knowledge. Know when the Bulk API is the answer: more than about 2,000 records, asynchronous, a job you submit and collect. Know the two versions apart: Bulk API 2.0 splits the batches for you and runs them in parallel; Bulk API (1.0) has you build batches of up to 10,000 records, and only it offers serial mode and PK chunking. Both share 15,000 batches in a rolling 24 hours. ⟲

A ferramenta não elimina a arquitetura

“Vamos usar a Bulk API.” Ok. Isso não me diz quais objetos são carregados primeiro, insert ou upsert, qual é a chave externa, como os relacionamentos são reconstruídos, o que acontece quando alguns registros falham, se os jobs podem rodar em paralelo, se o trabalho em paralelo vai brigar pelos mesmos pais, que automação vai executar, nem como vamos conciliar e retomar. A Bulk API resolve um problema de transporte. Ela não resolve a migração.

The order comes from the model, and module 1 drew it for RouteDesk: reference data first, then the Work Orders, then their line items and appointments, then the claim Cases that point at them (Preserve the Source Identity, and Load by Keys). Each wave is its own job, and the next one doesn’t start until the last one’s results are in. Junction objects depend on two parents, self-referencing hierarchies may need several passes, and circular relationships may need records first and relationships second. Don’t discover these on cutover weekend. ⟲

Às vezes você carrega o registro e depois o relacionamento. Uma empresa controladora, uma subsidiária e uma subsidiária regional são todas criadas na migração. Em vez de resolver todos os relacionamentos numa passada só, carregue as contas com as suas chaves de origem estáveis e depois faça uma segunda passada que define a hierarquia. A mesma ideia ajuda com as autopesquisas e as dependências circulares. O objetivo não é uma passada só. É um resultado determinístico e repetível.

Insert, update ou upsert

Insert says create this as new. Update says I already know the Salesforce record I’m changing. Upsert says use this key to find out whether the record exists; update it if it does, create it if it doesn’t. With stable External IDs, upsert makes rehearsals far easier: load, find a transformation problem, fix it, rerun, without the run assuming everything is a first-time insert. Keys are architecture, not just integration plumbing. RouteDesk’s Work Orders upsert on the partner key, the same field the integration uses, so a manifest Redrock resends on cutover weekend updates the migrated record instead of duplicating it. ⟲

Upsert has a price, though. Salesforce’s own Large Data Volumes guide ranks the operations: “insert() is fastest, update() is next, and upsert() is next after that. If possible, also break upsert() into two operations: create() and update()” (Loading Data from the API (abre em uma nova aba), checked 2026-10-27). How do you know which records are new and which already exist? The preparation data store knows, because it pulled down what Salesforce already has and keeps the IDs that came back (module 1). So the 190,000 delivered Work Orders that nothing in Salesforce has touched can go in as a plain insert, and only the open ones the integration may already have created need the upsert. ⟲

Two more lines from the same guide. Load clean data: “Errors in batches trigger single-row processing for that batch, and that processing heavily impacts performance.” That’s module 1 paying off at the loading dock. And when you update, “send only fields that have changed.” A reload that resends every field of 196,400 Work Orders does work nobody asked for. ⟲

Mas o upsert não é mágica. Se a estratégia de chaves está errada, a operação está errada. Dois registros de origem do mesmo cliente com chaves diferentes são dois registros para o Salesforce; uma chave de origem que pode identificar vários destinos significa que entendemos mal a cardinalidade. O trabalho de qualidade do módulo 1 continua importando; um recurso da API não o substitui.

Test knowledge. Insert is the fastest operation, then update, then upsert; Salesforce suggests splitting an upsert into creates and updates where you can. Upsert needs an External ID, and it’s what makes reruns safe. Load clean data, because errors in a Bulk API batch push that batch into slow single-row processing, and send only the fields that changed. ⟲

Paralelo é mais rápido, até deixar de ser

O processamento paralelo aumenta a vazão. Mas se muitos registros da carga apontam para o mesmo pai, as transações disputam os bloqueios desse pai, e aquilo que fizemos para ir mais rápido cria contenção de bloqueios, erros e novas tentativas. São de novo os pontos quentes do capítulo 7: se um milhão de filhos convergem em poucos pais, a forma dos dados importa para a carga. Quando dois lotes esperam cada um um bloqueio que o outro segura, você tem um deadlock, dois carros presos num cruzamento.

RouteDesk is exactly that shape. Almost 196,400 Work Orders, and nearly every one points at one of three Retail Partner Accounts. Load them in parallel in the order RouteDesk exported them, and every batch holds Work Orders for all three partners. ⟲

Clique para ampliar

In export order, every batch needs every parent. One locks, the others wait. ⟲

Two levers. First, sort the files by parent, so the children of one parent travel together in the same batch instead of being spread across batches that collide. Salesforce gives the same advice: “When changing child records, group them by parent—group records by the field ParentId in the same batch to minimize locking conflicts” (Loading Data from the API (abre em uma nova aba), checked 2026-10-27). ⟲

Clique para ampliar

Sorted by partner, each batch works on its own parent. ⟲

Second, on Bulk API 1.0, serial mode processes one batch at a time: slower, but it removes the contention. I reach for serial mode when the data is complex and we’re running into collisions and timeouts. Salesforce’s own guide is more cautious: serial mode “is used only when previously submitted asynchronous jobs have accidentally produced contention because of locks. Use only when advised by Salesforce” (Limits (abre em uma nova aba), Bulk API 2.0 and Bulk API Developer Guide, checked 2026-10-27). So sort first, and treat serial as the fallback. And it’s only on the older dock: Bulk API 2.0’s job reference says “Currently only parallel mode is supported,” and if other modes ever arrive, “the mode will be chosen automatically by the API and will not be user configurable” (Create a Job (abre em uma nova aba), Bulk API 2.0, checked 2026-10-27). A load that needs serial processing is a reason to use Bulk API 1.0. ⟲

Serial mode is a setting on the job, chosen when you create it. On Bulk API 1.0, RouteDesk’s Work Orders would be: ⟲

POST /services/async/68.0/job
{
  "operation": "upsert",
  "object": "WorkOrder",
  "externalIdFieldName": "Partner_Delivery_Key__c",
  "contentType": "CSV",
  "concurrencyMode": "Serial"
}

Leave concurrencyMode out and you get Parallel, the default. Salesforce’s job reference says when to change it: “If parallel mode results in too many failed records or failed jobs, submit the job with Serial concurrency mode,” and adds that it “can significantly increase the processing time” (JobInfo (abre em uma nova aba), Bulk API 2.0 and Bulk API Developer Guide, checked 2026-10-31). ⟲

And if three parents are too few for any sorting to help, look at the model. Checkpoint 1 already offered a way to spread them: link Work Orders to a child Account per distribution center, so nine parents share the load instead of three. That’s a design decision, made before the migration, not a loader setting. ⟲

Não começo com “sempre paralelo” nem com “sempre serial”. Olho a forma dos relacionamentos, os pais quentes, a automação que dispara, o que mais bloqueia e o que aconteceu no ensaio. Depois escolho. Primeiro correto, depois rápido.

Test knowledge. Parallel loads lock parent records. When many children share a few parents, expect “unable to lock row” errors: sort the load file by parent so each batch touches as few parents as possible. Serial mode (Bulk API 1.0 only) removes the contention at the cost of speed; Salesforce reserves it for lock contention the sorting didn’t solve. ⟲

O tamanho do lote é uma decisão de ajuste

As pessoas querem um número mágico. Eu não tenho. O tamanho certo depende do objeto, da complexidade do registro, da automação, dos relacionamentos, dos bloqueios, do payload e do mecanismo. Grande demais, e as falhas ficam caras e as transações fazem trabalho demais; pequeno demais, e a sobrecarga domina e a execução demora muito mais do que deveria (e, na 1.0, consome a sua cota de lotes). Comece dentro dos limites que a ferramenta aceita, depois meça com dados representativos.

And the rehearsal data needs the same shape as production. Twenty million records in production, ten thousand in the test, and everything flies: what did we prove? Not much about scale. The test doesn’t need every record, but it must expose the architecture: heavy concentration on a few parents, millions of children, large text fields, complex relationships, historical skew, automation triggered by particular values. The Number of Zeros matters, and so does the shape behind the zeros. For RouteDesk that means a rehearsal set where a third of the Work Orders still point at Redrock. ⟲

O usuário de carga, e quem é dono dos registros

For a substantial migration I want a dedicated migration identity, not someone’s personal admin account: for traceability, controlled permissions, automation decisions (module 3), monitoring and troubleshooting. A million records created by the migration user during cutover tells me something. A million created by Daniel Reyes because Daniel ran Data Loader on Saturday night mixes human identity with system activity. Give it the permissions the job needs, and don’t let it become a permanent mystery superuser nobody dares disable. ⟲

Then don’t confuse who loaded a record with who should own it. Created By is provenance; Owner is architecture, with sharing and business consequences. Set business ownership deliberately. Sometimes there’s no good answer in the source: the record’s owner left years ago, or never existed. It can be hard to assign records to active users, and I’ve created a dedicated “data load” user to own them. That’s sound practice with one condition from chapter 7: a user who owns more than 10,000 records of an object is ownership skew, so that owner should have no role, or a role of its own at the top of the hierarchy (Ownership Data Skew (abre em uma nova aba)), and the records should have a path to real owners. Who owns the records, and where that owner sits in the role hierarchy, is an important decision the team makes for any bulk import, not something the loader defaults. For RouteDesk’s Work Orders, chapter 7’s question decides it: does ownership drive who sees a delivery? At Steve Trucking it doesn’t (partners see their own deliveries through the partner on the record), so one owner with no role is fine. ⟲

Ferramentas: escolha pela repetibilidade

There are many ways to load data, and the tool matters less than how you use it. Salesforce’s Data Loader has been tried and true, but it’s aged: a desktop tool that works CSV by CSV. Its command-line version can be scripted and pointed at your preparation data store, which is how I’ve run repeated loads. Some tools connect a SQL database straight to Salesforce, copying data down and sending changes back with SQL. ETL and integration platforms do the same job at enterprise scale. And with the APIs you can drive the Bulk API directly: the Salesforce CLI’s sf data upsert bulk loads a CSV through Bulk API 2.0 with an External ID from one command (data upsert bulk (abre em uma nova aba), Salesforce CLI Command Reference, checked 2026-10-27). You can even have AI write the small scripts that run each complex step. ⟲

Seja qual for a ferramenta, esta é a minha preferência mais forte: não quero que a migração em produção seja a primeira vez que fazemos a migração, e não quero que cada ensaio seja uma aventura artesanal. Se a etapa 17 diz “abra este CSV, ordene pela coluna G, apague as linhas em branco, copie esta fórmula para baixo e rode o Data Loader com estas configurações”, eu fico nervoso. Cada etapa manual é uma chance de arquivo errado, linha esquecida, versão desatualizada, ordenação ruim, filtro esquecido, configuração diferente da do ensaio. Algumas podem ser inevitáveis: documente-as e teste-as. Mas o objetivo é a repetibilidade, então extrair, transformar, validar, carregar, capturar os resultados e conciliar deveriam rodar do mesmo jeito todas as vezes.

Se você agenda cargas, não as agende com mais frequência do que elas conseguem terminar. Um job de hora em hora que às vezes leva noventa minutos vai começar em cima de si mesmo; confira se a execução anterior terminou antes de a próxima começar.

Keep Every Result, and Bring the Keys Back

Para cada carga, guarde a versão de entrada, o arquivo de carga transformado, o ID do job, os resultados de sucesso e de falha com os seus erros, os tempos, as contagens de registros e as saídas da conciliação. Depois de uma grande migração, alguém vai perguntar “o que aconteceu com este registro?”, e quero evidências, não “acho que estava no terceiro CSV de sábado de manhã”. Os resultados da carga em massa só ficam guardados por sete dias, então baixe-os à medida que avança. Dê um ciclo de vida a esses artefatos depois; não os jogue fora enquanto ainda precisa provar a mudança.

Then bring the keys back. The success results carry each record’s new Salesforce ID next to the key you sent. Write them back into the preparation data store, on the row that produced the record: that’s the last frame of module 1’s three sets of keys. On the Zendesk migration I described in module 1, that’s what made everything else possible. With the Salesforce IDs back on every row, I could load in phases (accounts and contacts first, then the cases, then the comments and files that hang off them), and each phase found its parents by the IDs the last one returned. I could do a partial load: just the rows that failed, or just one group. And I could reload: fix a transformation, regenerate the affected rows, and send only those, knowing exactly which Salesforce records they’d update. Without the keys back, every rerun is a guess. ⟲

O tamanho das falhas também é uma questão de Número de Zeros. Vinte falhas em 100 é ruim; vinte em 20 milhões ainda precisa de investigação, mas é outro sinal. Observe as taxas, não só as contagens, e classifique as falhas: validação, pai ausente, chave duplicada, bloqueio, tipo de dado, automação, permissões. Classificadas, elas mostram problemas de arquitetura em vez de um arquivo de erros gigante.

E desempenho é mais do que registros por segundo. “Dobramos a vazão.” O que mudou? Os bloqueios, as falhas ou as novas tentativas aumentaram? A automação posterior ficou para trás, o recálculo do compartilhamento travou, outra integração foi inundada? A virada como um todo realmente ficou mais curta? Uma migração não roda no vácuo.

Test knowledge. The Bulk API’s success results return each record’s new Salesforce ID with the data you sent, and its failure results return each error; both are kept for seven days. Capture them, write the IDs back to the source or staging data, and you can load in phases, retry only the failures, and reconcile what landed. ⟲

Teste a execução inteira

Carregar contas, depois contatos, depois pedidos, cada um testado separadamente, não é uma migração testada. Quero um ensaio completo, do começo ao fim, com a mesma sequência, as mesmas transformações, identidades, estratégia de automação e conciliação, com volume representativo. Aparecem dependências entre as etapas: um atraso de dez minutos faz a próxima carga começar na hora errada, uma taxa de falhas inesperada custa horas de correção, um recálculo do compartilhamento desloca o cronograma. A execução inteira diz se a migração funciona, não só se cada comando funciona.

If the rehearsal includes a performance or scale test, put Salesforce’s lead time in the plan. “All tests must be pre-approved. Unapproved testing is subject to throttling or blocking,” and for tests at 120 requests a second or below, the request goes in “at least one week before the testing date” (Salesforce Performance and Scale Test FAQs (abre em uma nova aba), Salesforce Help, checked 2026-10-27). A rehearsal that gets throttled proves nothing about cutover weekend. ⟲

A IA pode escrever o script. A execução continua sendo sua.

AI is very good at generating transformation scripts, load orchestration, error parsers, reconciliation queries and retry logic. Use it. But generated code can be wrong at enormous speed: a wrong transformation on ten records is ten fixes; on ten million, the Number of Zeros applies to the mistake too. The way I use it is step by step: clean, transform and migrate steps, with every generated command and action tracked. That’s deterministic, auditable automation, not unattended judgment. Test it at realistic scale before you trust it with production data. ⟲

Além do exame: o que a IA muda. A IA reduz o esforço de construir as ferramentas de migração, e facilita gerar e rodar operações em massa rapidamente. Quanto maior a operação, mais forte a necessidade de transformações determinísticas, etapas registradas, ensaios, controles e conciliação.

O que um arquiteto decide aqui

• Qual mecanismo de carga e qual versão da API combinam com o volume e a forma do trabalho, em vez de tratar uma migração como tráfego transacional.
• A sequência de objetos e relacionamentos ditada pelas dependências, incluindo quando registros e relacionamentos precisam de passadas separadas.
• Which operation each set of records gets (insert, update or upsert), based on what the preparation data store knows already exists. ⟲
• Where parallel processing is safe, and where concentration, locking or automation justify sorting by parent, a model change, or serial processing. ⟲
• Quais chaves estáveis, identidade de migração, propriedade dos registros e ferramentas repetíveis tornam determinísticos os ensaios e as cargas em produção.
• How results and new IDs come back, so loads can run in phases, retry only failures, and reload safely. ⟲
• Que evidências, classificação de falhas e ensaio completo são exigidos antes de confiar no processo em escala de produção.

A doca de carga ainda precisa de um plano

The loading dock moves enormous amounts of data. It doesn’t decide which truck unloads first, where the pallets go, which shipment belongs to which customer, what happens to a damaged pallet, whether two forklifts are using the same aisle, or whether everything that should have arrived did. That’s architecture. Know the Number of Zeros and the shape behind them. Load in dependency order, use stable keys, control concurrency, bring the keys back, make the process repeatable, keep the evidence, and rehearse the whole thing. Then use the loading dock as fast as the architecture safely allows. ⟲

Para saber mais

• Salesforce, Bulk API and Bulk API 2.0 Limits and Allocations (abre em uma nova aba), Developer Limits and Allocations Quick Reference, checked 2026-11-01. ⟲
• Salesforce, General Guidelines for Data Loads (abre em uma nova aba) and Limits (abre em uma nova aba), Bulk API 2.0 and Bulk API Developer Guide, checked 2026-11-01. ⟲
• Salesforce, Best Practices for Deployments with Large Data Volumes, Loading Data from the API (abre em uma nova aba), Winter ‘27, checked 2026-11-01. ⟲
• Salesforce, REST API Developer Guide, Create Records Using sObject Collections (abre em uma nova aba), checked 2026-11-01. ⟲
• Salesforce, SOAP API Developer Guide, create() (abre em uma nova aba), and Bulk API 2.0, Create a Job (abre em uma nova aba), checked 2026-11-01. ⟲
• Salesforce, Bulk API 2.0 and Bulk API Developer Guide, JobInfo (abre em uma nova aba) (the Bulk API 1.0 job fields, concurrencyMode), API version 68.0 (Winter ‘27), checked 2026-11-01. ⟲
• Salesforce Help, Salesforce Performance and Scale Test FAQs (abre em uma nova aba), checked 2026-11-01. ⟲
• O curso Integration Architect: Bulk (coming soon) trata da Bulk API a fundo.
• Neste curso: Projetando para escala (pontos quentes e desequilíbrio de propriedade).
• Salesforce Developers, Designing Record Access for Enterprise Scale, Ownership Data Skew (abre em uma nova aba), checked 2026-11-01. ⟲
• Salesforce Developers, Salesforce CLI Command Reference, data upsert bulk (abre em uma nova aba), checked 2026-11-01. ⟲