Aller au contenu

Charger à grande échelle

Aussi en 19 langues

English · Español · 日本語 · Português (Brasil) · Français · Deutsch · Italiano · 한국어 · 简体中文 · Português (Portugal) · 繁體中文 · Bahasa Indonesia · Türkçe · Polski · Tiếng Việt · ไทย · Українська · Español (México) · Deutsch (Schweiz)

In a greenhouse packing hall, three rows of tall plant trolleys, one all red flowers, one all yellow and one all white, wait by the open door.
Image générée par IA

Module 2 sur 5 du chapitre Migration et synchronisation, chapitre 10 du cours Data Architect. Chaque module est autonome. Précédent : Une migration est d’abord un projet de qualité · Suivant : L’automatisation pendant le chargement

La question à laquelle répond ce module : comment le Nombre de zéros change-t-il la façon de charger des données dans Salesforce ?

Dix enregistrements ? Je peux presque les saisir à la main. Mille ? Là, il me faut un outil. Un million ? C’est un problème d’architecture. L’opération n’a pas changé (créer ou mettre à jour des enregistrements), mais le Nombre de zéros change la façon dont je la fais. Nous l’avons vu avec la modélisation, les requêtes, le partage et les intégrations, et la migration n’est pas différente. À fort volume, je me soucie de la façon dont je déplace les données, dont je découpe le travail, de l’ordre dans lequel elles bougent, de ce que fait Salesforce d’autre pendant que je charge, de la façon dont je rétablis la situation quand quelque chose échoue, et de la possibilité de tout relancer.

Same landscape, same amber arrow as module 1: RouteDesk’s open work coming into Salesforce the weekend RouteDesk retires. ⟲

The arrow that runs once Steve Trucking's landscape from Checkpoint 1, in the same places, the weekend RouteDesk retires: people on the left, Salesforce with Field Service in the middle with the Retail Partner portal and the tracking page, the integration layer from chapter 9 to its right, and the systems around it: Snowflake, FleetLink, the finance ERP, photo storage, and RouteDesk, retiring, with 8 years and about 5 million deliveries. One new arrow, in amber, the migration this module zooms in on, carries what's still open from RouteDesk into Salesforce, migrated once. Underneath: one arrow runs once and then disappears; a migration is an integration with an end. {"author": "Steve Simpson", "blueprint": "1.0.1", "builder": "standard 1.54.0", "built": "2026-10-30", "id": "DGM-DA-MG-10", "rights": "\u00a9 2026 Twinshark LLC. All rights reserved.", "template": "system-landscape 0.13.0", "theme": "stevetecharc 1.4.0"} ABOVE: IDENTITY, APPEXCHANGE, WEB PEOPLE RIGHT: INTERNAL SYSTEMS BELOW: CUSTOMER CHANNELS BOTTOM RIGHT: PARTNERS AND PROVIDERS Dispatch coordinators 45, inside 9 partner DCs Delivery crews ~700 on 330 trucks Care and office staff 100: service, ops, finance Retail Partner users ~300 at 3 partners Recipients ~1 million a year Corporate IdP SSO for office staff only Retail Partner portal Tracking page INTEGRATION Snowflake status history, analytics FleetLink raw GPS stays here Finance ERP invoices partners, pays crews Photo storage 4–5 million a year, off core RouteDesk retiring: 8 years, ~5 million deliveries Phone care agents Email email-to-case SMS and email provider day-before message, with a link Redrock REST API, webhooks Keystone CSV over SFTP Brightwave EDI through a third-party network Salesforce Field Service, one US org a link, no login office staff only calls cases in manifests in status out manifests in status out manifests in status out upserts, partner key status events status events latest position only delivery counts delivery counts photos, from the crews' app day-before, with a link what's still open: migrated once Salesforce a community people identity, apps, web an internal system a customer channel the integration layer starts at the system that opens the connection; the label says what moves a shared certificate: trust, no direct call the migration we zoom in on Checkpoint 1's landscape, the weekend RouteDesk retires. One arrow runs once and then disappears: a migration is an integration with an end. © 2026 Twinshark LLC · stevetecharc.com
Cliquer pour agrandir

Module 1 decided what moves on this arrow. This module is about how it moves. ⟲

Module 1 decided what comes in: the deliveries not yet made and the ones still inside the 60-day claim window, about 196,400 deliveries. Each one becomes a Work Order, with its line items (about 1.6 per delivery, so about 314,000) and its Service Appointment (about 196,400 more). That’s roughly 707,000 records, prepared in the preparation data store and ready to go. Not millions, but well past anything I’d send one record at a time. So, how do they get in? ⟲

Quand j’enseigne la Bulk API, j’utilise la banque. Vous entrez avec une pile de dépôts, et le guichetier en prend 200 et vous renvoie au bout de la file. Avec un million d’enregistrements, cela fait 5 000 passages dans la file, 5 000 appels d’API. Pendant ce temps, un camion se gare sur le côté de la banque, décharge une énorme quantité de dépôts, et repart vingt minutes plus tard alors que vous faites encore la queue. C’est le quai de chargement, et il s’appelle la Bulk API.

The 200 is still real. A REST sObject Collections request takes “up to 200 records” (Create Records Using sObject Collections (s'ouvre dans un nouvel onglet), REST API Developer Guide), and a SOAP create() call the same: “If a create request exceeds 200 records, then the entire operation fails” (create() (s'ouvre dans un nouvel onglet), SOAP API Developer Guide; both checked 2026-10-27). Every 200 more records is another call. RouteDesk’s 707,000 records would be over 3,500 trips to the teller. ⟲

The teller window and the loading dock Two equal panels. The teller window, the synchronous APIs: each trip, up to 200 records a call; a million records, about 5,000 calls, back of the line each time; you get back an answer for every record, right away; it fits singles and sets, fewer than about 2,000 records. The loading dock, the Bulk API: each trip, whole files that Salesforce splits into batches; a million records, a handful of calls; you get back a job ID now and the results later; it fits bulk, more than about 2,000 records. Underneath: same records, different door; over about 2,000 records, Salesforce points you to the loading dock. {"author": "Steve Simpson", "blueprint": "1.0.0", "builder": "standard 1.46.0", "built": "2026-10-27", "id": "DGM-DA-MG-20", "rights": "\u00a9 2026 Twinshark LLC. All rights reserved.", "template": "comparison 0.4.0", "theme": "stevetecharc 1.4.0"} The teller window the synchronous APIs EACH TRIP Up to 200 records a call A MILLION RECORDS About 5,000 calls, back of the line each time YOU GET BACK An answer for every record, right away FITS Singles and sets: fewer than about 2,000 records The loading dock the Bulk API EACH TRIP Whole files; Salesforce splits them into batches A MILLION RECORDS A handful of calls YOU GET BACK A job ID now, the results later FITS Bulk: more than about 2,000 records Same records, different door. Over about 2,000 records, Salesforce points you to the loading dock. © 2026 Twinshark LLC · stevetecharc.com
Cliquer pour agrandir

Same records, different door. ⟲

Le quai de chargement a cinq étapes :

  1. Ouvrir le traitement. Appuyez sur le bouton rouge et prenez un ticket : l’ID du traitement (job ID).
  2. Téléverser. Le quai s’ouvre et vous chargez vos fichiers CSV sur ce ticket, un fichier ou cent.
  3. Fermer le traitement. Salesforce ne sait pas que vous avez fini tant que vous n’appuyez pas sur le gros bouton bleu : téléversement terminé. Là, il commence le traitement.
  4. « On est bientôt arrivés ? » Comme mes enfants sur la banquette arrière : vous demandez, avec votre ID de traitement, si c’est fini. C’est fini ? C’est fini ?
  5. Récupérer les résultats. Téléchargez les enregistrements réussis (avec leurs nouveaux ID Salesforce) ou les échecs (avec leurs erreurs).
Five steps at the loading dock The loading dock in five steps, left to right. 1, open the job: get a ticket, the job ID. 2, upload: one file or a hundred. 3, close the job: upload complete, now it processes. 4, are we there yet?: ask with the job ID. 5, highlighted, get the results: successes with new IDs, failures with errors. Underneath: submit, wait, collect; nobody answers per record, so you keep track of the job. {"author": "Steve Simpson", "blueprint": "1.0.0", "builder": "standard 1.46.0", "built": "2026-10-27", "id": "DGM-DA-MG-21", "rights": "\u00a9 2026 Twinshark LLC. All rights reserved.", "template": "cells 0.3.0", "theme": "stevetecharc 1.4.0"} THE LOADING DOCK 1. Open the job get a ticket: the job ID 2. Upload one file or a hundred 3. Close the job upload complete: now it processes 4. Are we there yet? ask with the job ID 5. Get the results successes with new IDs, failures with errors job ID files in processing done Submit, wait, collect. Nobody answers per record, so you keep track of the job. HOW TO READ IT the step migrations depend on: keep every result © 2026 Twinshark LLC · stevetecharc.com
Cliquer pour agrandir

Submit, wait, collect. ⟲

Un million d’enregistrements coûte une poignée d’appels au lieu de milliers. Mais remarquez ce qui a changé : le travail est asynchrone. Vous n’avez pas de réponse par enregistrement ; vous soumettez, vous attendez, vous récupérez. L’appelant doit donc savoir ce qui a été soumis, ce qui est encore en cours, ce qui s’est terminé, ce qui a échoué et ce qui est revenu. Ce n’est pas un détail d’API. C’est le pilotage de la migration.

Deux quais de chargement : Bulk API 2.0 et Bulk API

Section intitulée « Deux quais de chargement : Bulk API 2.0 et Bulk API »

Il existe deux versions, et il importe de savoir laquelle vous utilisez.

  • Bulk API 2.0 is the one to start with. You upload the data for a job and Salesforce splits it into batches for you, retries for you and runs them in parallel. A job can take 150 MB, measured after Salesforce encodes it, so Salesforce advises uploading no more than 100 MB of CSV per job. ⟲
  • Bulk API (1.0) makes you create the batches yourself, up to 10,000 records each. It’s older, but it still has two levers 2.0 doesn’t give you: serial mode for loads, and PK chunking for very large exports (module 5). ⟲

Both share a rolling 24-hour allowance of 15,000 batches, and either can load up to 150 million records in 24 hours. Job results are kept for seven days after the job completes (Bulk API and Bulk API 2.0 Limits and Allocations (s'ouvre dans un nouvel onglet), checked 2026-10-27). Salesforce’s line between the doors: “Any data operation that includes more than 2,000 records is a good candidate for Bulk API 2.0”; below that, “bulkified” synchronous calls are fine (Loading Data from the API (s'ouvre dans un nouvel onglet), Best Practices for Deployments with Large Data Volumes, Winter ‘27, checked 2026-10-27). Those are today’s numbers: check them before you plan around them. ⟲

À l’unité, par lots et en masse, c’est ainsi que je pense la forme du travail : une seule mise à jour issue d’une action d’utilisateur, quelques centaines d’enregistrements liés issus d’un processus métier, des millions d’enregistrements historiques dans une migration. Ce ne sont pas des noms de produits. Demandez quelle est la forme du travail avant de choisir l’outil.

Test knowledge. Know when the Bulk API is the answer: more than about 2,000 records, asynchronous, a job you submit and collect. Know the two versions apart: Bulk API 2.0 splits the batches for you and runs them in parallel; Bulk API (1.0) has you build batches of up to 10,000 records, and only it offers serial mode and PK chunking. Both share 15,000 batches in a rolling 24 hours. ⟲

« Nous utiliserons la Bulk API. » D’accord. Cela ne me dit pas quels objets se chargent en premier, insertion ou upsert, quelle est la clé externe, comment les relations sont reconstruites, ce qui se passe quand certains enregistrements échouent, si les traitements peuvent tourner en parallèle, si le travail en parallèle va se disputer les mêmes parents, quelle automatisation va s’exécuter, ni comment nous allons rapprocher et redémarrer. La Bulk API résout un problème de transport. Elle ne résout pas la migration.

The order comes from the model, and module 1 drew it for RouteDesk: reference data first, then the Work Orders, then their line items and appointments, then the claim Cases that point at them (Preserve the Source Identity, and Load by Keys). Each wave is its own job, and the next one doesn’t start until the last one’s results are in. Junction objects depend on two parents, self-referencing hierarchies may need several passes, and circular relationships may need records first and relationships second. Don’t discover these on cutover weekend. ⟲

Parfois, vous chargez l’enregistrement, puis la relation. Une société mère, une filiale et une filiale régionale sont toutes créées dans la migration. Plutôt que de résoudre chaque relation en une seule passe, chargez les comptes avec leurs clés source stables, puis lancez une seconde passe qui établit la hiérarchie. La même idée aide pour les relations de référence vers le même objet et les dépendances circulaires. Le but n’est pas une seule passe. C’est un résultat déterministe et reproductible.

Insert says create this as new. Update says I already know the Salesforce record I’m changing. Upsert says use this key to find out whether the record exists; update it if it does, create it if it doesn’t. With stable External IDs, upsert makes rehearsals far easier: load, find a transformation problem, fix it, rerun, without the run assuming everything is a first-time insert. Keys are architecture, not just integration plumbing. RouteDesk’s Work Orders upsert on the partner key, the same field the integration uses, so a manifest Redrock resends on cutover weekend updates the migrated record instead of duplicating it. ⟲

Upsert has a price, though. Salesforce’s own Large Data Volumes guide ranks the operations: “insert() is fastest, update() is next, and upsert() is next after that. If possible, also break upsert() into two operations: create() and update()” (Loading Data from the API (s'ouvre dans un nouvel onglet), checked 2026-10-27). How do you know which records are new and which already exist? The preparation data store knows, because it pulled down what Salesforce already has and keeps the IDs that came back (module 1). So the 190,000 delivered Work Orders that nothing in Salesforce has touched can go in as a plain insert, and only the open ones the integration may already have created need the upsert. ⟲

Two more lines from the same guide. Load clean data: “Errors in batches trigger single-row processing for that batch, and that processing heavily impacts performance.” That’s module 1 paying off at the loading dock. And when you update, “send only fields that have changed.” A reload that resends every field of 196,400 Work Orders does work nobody asked for. ⟲

Mais l’upsert n’est pas magique. Si la stratégie de clés est fausse, l’opération est fausse. Deux enregistrements source pour le même client avec des clés différentes, ce sont deux enregistrements pour Salesforce ; une clé source qui peut identifier plusieurs cibles veut dire que nous avons mal compris la cardinalité. Le travail de qualité du module 1 compte toujours ; une fonctionnalité d’API ne le remplace pas.

Test knowledge. Insert is the fastest operation, then update, then upsert; Salesforce suggests splitting an upsert into creates and updates where you can. Upsert needs an External ID, and it’s what makes reruns safe. Load clean data, because errors in a Bulk API batch push that batch into slow single-row processing, and send only the fields that changed. ⟲

Le parallèle va plus vite, jusqu’au moment où ce n’est plus le cas

Section intitulée « Le parallèle va plus vite, jusqu’au moment où ce n’est plus le cas »

Le traitement en parallèle augmente le débit. Mais si beaucoup d’enregistrements du chargement pointent vers le même parent, les transactions se disputent les verrous sur ce parent, et ce que nous avons fait pour aller plus vite crée de la contention de verrous, des erreurs et des nouvelles tentatives. Ce sont encore les points chauds du chapitre 7 : si un million d’enfants convergent vers quelques parents, la forme des données compte pour le chargement. Quand deux lots attendent chacun un verrou que l’autre détient, vous obtenez un interblocage (deadlock), deux voitures coincées à un carrefour.

RouteDesk is exactly that shape. Almost 196,400 Work Orders, and nearly every one points at one of three Retail Partner Accounts. Load them in parallel in the order RouteDesk exported them, and every batch holds Work Orders for all three partners. ⟲

Sort the load by parent Three batches of Work Orders loading in parallel on the left; on the right, their parents, the Retail Partner Accounts Keystone, Redrock and Brightwave. First, each batch holds Work Orders from all three partners, so all three need Redrock at the same moment: batch 2 locks it, and batches 1 and 3 wait, their arrows red with an X. Then the same work, sorted by partner, tagged "sorted": batch 1 holds only Keystone's Work Orders, batch 2 only Redrock's, batch 3 only Brightwave's, and each goes to its own parent. Underneath: batches that share parents wait on each other's locks; sort the file by parent, and each batch works on its own. BATCHES, IN PARALLEL PARENTS: THE RETAIL PARTNER ACCOUNTS Batch 1 Work Orders from all three partners Batch 2 Work Orders from all three partners Batch 3 Work Orders from all three partners Redrock Retail Partner Account Keystone Retail Partner Account Brightwave Retail Partner Account locks waits waits Batches that share parents wait on each other's locks. Sort the file by parent, and each batch works on its own. © 2026 Twinshark LLC · stevetecharc.com
Cliquer pour agrandir

In export order, every batch needs every parent. One locks, the others wait. ⟲

Two levers. First, sort the files by parent, so the children of one parent travel together in the same batch instead of being spread across batches that collide. Salesforce gives the same advice: “When changing child records, group them by parent—group records by the field ParentId in the same batch to minimize locking conflicts” (Loading Data from the API (s'ouvre dans un nouvel onglet), checked 2026-10-27). ⟲

Sort the load by parent Three batches of Work Orders loading in parallel on the left; on the right, their parents, the Retail Partner Accounts Keystone, Redrock and Brightwave. First, each batch holds Work Orders from all three partners, so all three need Redrock at the same moment: batch 2 locks it, and batches 1 and 3 wait, their arrows red with an X. Then the same work, sorted by partner, tagged "sorted": batch 1 holds only Keystone's Work Orders, batch 2 only Redrock's, batch 3 only Brightwave's, and each goes to its own parent. Underneath: batches that share parents wait on each other's locks; sort the file by parent, and each batch works on its own. {"author": "Steve Simpson", "blueprint": "1.0.0", "builder": "standard 1.46.0", "built": "2026-10-27", "id": "DGM-DA-MG-22", "rights": "\u00a9 2026 Twinshark LLC. All rights reserved.", "template": "cells 0.3.0", "theme": "stevetecharc 1.4.0"} BATCHES, IN PARALLEL PARENTS: THE RETAIL PARTNER ACCOUNTS Batch 1 Keystone's Work Orders only sorted Batch 2 Redrock's Work Orders only sorted Batch 3 Brightwave's Work Orders only sorted Redrock Retail Partner Account Keystone Retail Partner Account Brightwave Retail Partner Account its own parent its own parent its own parent Batches that share parents wait on each other's locks. Sort the file by parent, and each batch works on its own. © 2026 Twinshark LLC · stevetecharc.com
Cliquer pour agrandir

Sorted by partner, each batch works on its own parent. ⟲

Second, on Bulk API 1.0, serial mode processes one batch at a time: slower, but it removes the contention. I reach for serial mode when the data is complex and we’re running into collisions and timeouts. Salesforce’s own guide is more cautious: serial mode “is used only when previously submitted asynchronous jobs have accidentally produced contention because of locks. Use only when advised by Salesforce” (Limits (s'ouvre dans un nouvel onglet), Bulk API 2.0 and Bulk API Developer Guide, checked 2026-10-27). So sort first, and treat serial as the fallback. And it’s only on the older dock: Bulk API 2.0’s job reference says “Currently only parallel mode is supported,” and if other modes ever arrive, “the mode will be chosen automatically by the API and will not be user configurable” (Create a Job (s'ouvre dans un nouvel onglet), Bulk API 2.0, checked 2026-10-27). A load that needs serial processing is a reason to use Bulk API 1.0. ⟲

Serial mode is a setting on the job, chosen when you create it. On Bulk API 1.0, RouteDesk’s Work Orders would be: ⟲

POST /services/async/68.0/job
{
"operation": "upsert",
"object": "WorkOrder",
"externalIdFieldName": "Partner_Delivery_Key__c",
"contentType": "CSV",
"concurrencyMode": "Serial"
}

Leave concurrencyMode out and you get Parallel, the default. Salesforce’s job reference says when to change it: “If parallel mode results in too many failed records or failed jobs, submit the job with Serial concurrency mode,” and adds that it “can significantly increase the processing time” (JobInfo (s'ouvre dans un nouvel onglet), Bulk API 2.0 and Bulk API Developer Guide, checked 2026-10-31). ⟲

And if three parents are too few for any sorting to help, look at the model. Checkpoint 1 already offered a way to spread them: link Work Orders to a child Account per distribution center, so nine parents share the load instead of three. That’s a design decision, made before the migration, not a loader setting. ⟲

Je ne pars pas de « toujours en parallèle » ni de « toujours en série ». Je regarde la forme des relations, les parents chauds, l’automatisation qui se déclenche, ce qui verrouille d’autre, et ce qui s’est passé lors de la répétition. Puis je choisis. D’abord correct, ensuite rapide.

Test knowledge. Parallel loads lock parent records. When many children share a few parents, expect “unable to lock row” errors: sort the load file by parent so each batch touches as few parents as possible. Serial mode (Bulk API 1.0 only) removes the contention at the cost of speed; Salesforce reserves it for lock contention the sorting didn’t solve. ⟲

La taille des lots est une décision de réglage

Section intitulée « La taille des lots est une décision de réglage »

Les gens veulent un chiffre magique. Je n’en ai pas. La bonne taille dépend de l’objet, de la complexité des enregistrements, de l’automatisation, des relations, du verrouillage, du payload et du mécanisme. Trop gros, et les échecs coûtent cher et les transactions font trop de travail ; trop petit, et le coût fixe domine et l’exécution prend bien plus longtemps qu’elle ne devrait (et, en 1.0, consomme votre quota de lots). Commencez dans les limites prises en charge par l’outil, puis mesurez sur des données représentatives.

And the rehearsal data needs the same shape as production. Twenty million records in production, ten thousand in the test, and everything flies: what did we prove? Not much about scale. The test doesn’t need every record, but it must expose the architecture: heavy concentration on a few parents, millions of children, large text fields, complex relationships, historical skew, automation triggered by particular values. The Number of Zeros matters, and so does the shape behind the zeros. For RouteDesk that means a rehearsal set where a third of the Work Orders still point at Redrock. ⟲

L’utilisateur de chargement, et qui possède les enregistrements

Section intitulée « L’utilisateur de chargement, et qui possède les enregistrements »

For a substantial migration I want a dedicated migration identity, not someone’s personal admin account: for traceability, controlled permissions, automation decisions (module 3), monitoring and troubleshooting. A million records created by the migration user during cutover tells me something. A million created by Daniel Reyes because Daniel ran Data Loader on Saturday night mixes human identity with system activity. Give it the permissions the job needs, and don’t let it become a permanent mystery superuser nobody dares disable. ⟲

Then don’t confuse who loaded a record with who should own it. Created By is provenance; Owner is architecture, with sharing and business consequences. Set business ownership deliberately. Sometimes there’s no good answer in the source: the record’s owner left years ago, or never existed. It can be hard to assign records to active users, and I’ve created a dedicated “data load” user to own them. That’s sound practice with one condition from chapter 7: a user who owns more than 10,000 records of an object is ownership skew, so that owner should have no role, or a role of its own at the top of the hierarchy (Ownership Data Skew (s'ouvre dans un nouvel onglet)), and the records should have a path to real owners. Who owns the records, and where that owner sits in the role hierarchy, is an important decision the team makes for any bulk import, not something the loader defaults. For RouteDesk’s Work Orders, chapter 7’s question decides it: does ownership drive who sees a delivery? At Steve Trucking it doesn’t (partners see their own deliveries through the partner on the record), so one owner with no role is fine. ⟲

Les outils : choisissez pour la reproductibilité

Section intitulée « Les outils : choisissez pour la reproductibilité »

There are many ways to load data, and the tool matters less than how you use it. Salesforce’s Data Loader has been tried and true, but it’s aged: a desktop tool that works CSV by CSV. Its command-line version can be scripted and pointed at your preparation data store, which is how I’ve run repeated loads. Some tools connect a SQL database straight to Salesforce, copying data down and sending changes back with SQL. ETL and integration platforms do the same job at enterprise scale. And with the APIs you can drive the Bulk API directly: the Salesforce CLI’s sf data upsert bulk loads a CSV through Bulk API 2.0 with an External ID from one command (data upsert bulk (s'ouvre dans un nouvel onglet), Salesforce CLI Command Reference, checked 2026-10-27). You can even have AI write the small scripts that run each complex step. ⟲

Quel que soit l’outil, voici ma préférence la plus forte : je ne veux pas que la migration en production soit la première fois que nous faisons la migration, et je ne veux pas que chaque répétition soit une aventure artisanale. Si l’étape 17 dit « ouvre ce CSV, trie par la colonne G, supprime les lignes vides, recopie cette formule vers le bas, puis lance Data Loader avec ces paramètres », je suis nerveux. Chaque étape manuelle est une occasion d’avoir un mauvais fichier, une ligne oubliée, une version périmée, un mauvais tri, un filtre oublié, un paramètre différent de la répétition. Certaines sont peut-être inévitables : documentez-les et testez-les. Mais le but est la reproductibilité, donc extraire, transformer, valider, charger, capturer les résultats et rapprocher doivent se dérouler de la même façon à chaque fois.

Si vous planifiez des chargements, ne les planifiez pas plus souvent qu’ils ne peuvent se terminer. Un traitement horaire qui prend parfois quatre-vingt-dix minutes va démarrer par-dessus lui-même ; vérifiez que l’exécution précédente est terminée avant que la suivante ne commence.

Pour chaque chargement, gardez la version d’entrée, le fichier de chargement transformé, l’ID du traitement, les résultats réussis et en échec avec leurs erreurs, les temps, les décomptes et les résultats du rapprochement. Après une grosse migration, quelqu’un demandera « qu’est-il arrivé à cet enregistrement ? », et je veux des preuves, pas « je crois que c’était dans le troisième CSV samedi matin ». Les résultats en masse ne sont conservés que sept jours, alors téléchargez-les au fur et à mesure. Donnez plus tard un cycle de vie à ces artefacts ; ne les jetez pas tant que vous devez encore prouver le déménagement.

Then bring the keys back. The success results carry each record’s new Salesforce ID next to the key you sent. Write them back into the preparation data store, on the row that produced the record: that’s the last frame of module 1’s three sets of keys. On the Zendesk migration I described in module 1, that’s what made everything else possible. With the Salesforce IDs back on every row, I could load in phases (accounts and contacts first, then the cases, then the comments and files that hang off them), and each phase found its parents by the IDs the last one returned. I could do a partial load: just the rows that failed, or just one group. And I could reload: fix a transformation, regenerate the affected rows, and send only those, knowing exactly which Salesforce records they’d update. Without the keys back, every rerun is a guess. ⟲

La taille des échecs est aussi une question de Nombre de zéros. Vingt échecs sur 100, c’est mauvais ; vingt sur 20 millions, il faut quand même enquêter, mais c’est un autre signal. Surveillez les taux, pas seulement les décomptes, et classez les échecs : validation, parent manquant, clé en double, verrouillage, type de données, automatisation, autorisations. Classés, ils vous montrent des problèmes d’architecture au lieu d’un fichier d’erreurs géant.

Et la performance, ce n’est pas que des enregistrements par seconde. « Nous avons doublé le débit. » Qu’est-ce qui a changé ? Le verrouillage, les échecs ou les nouvelles tentatives ont-ils augmenté ? L’automatisation en aval a-t-elle pris du retard, le recalcul du partage s’est-il engorgé, une autre intégration a-t-elle été submergée ? La bascule totale a-t-elle vraiment raccourci ? Une migration ne tourne pas en vase clos.

Test knowledge. The Bulk API’s success results return each record’s new Salesforce ID with the data you sent, and its failure results return each error; both are kept for seven days. Capture them, write the IDs back to the source or staging data, and you can load in phases, retry only the failures, and reconcile what landed. ⟲

Charger les comptes, puis les contacts, puis les commandes, chacun testé séparément, ce n’est pas une migration testée. Je veux une répétition complète, du début à la fin, avec la même séquence, les mêmes transformations, les mêmes identités, la même stratégie d’automatisation et le même rapprochement, à un volume représentatif. Des dépendances apparaissent entre les étapes : un retard de dix minutes fait démarrer le chargement suivant au mauvais moment, un taux d’échec inattendu coûte des heures de correction, un recalcul du partage décale le planning. L’exécution complète vous dit si la migration fonctionne, pas seulement si chaque commande fonctionne.

If the rehearsal includes a performance or scale test, put Salesforce’s lead time in the plan. “All tests must be pre-approved. Unapproved testing is subject to throttling or blocking,” and for tests at 120 requests a second or below, the request goes in “at least one week before the testing date” (Salesforce Performance and Scale Test FAQs (s'ouvre dans un nouvel onglet), Salesforce Help, checked 2026-10-27). A rehearsal that gets throttled proves nothing about cutover weekend. ⟲

L’IA peut écrire le script. L’exécution reste sous votre responsabilité.

Section intitulée « L’IA peut écrire le script. L’exécution reste sous votre responsabilité. »

AI is very good at generating transformation scripts, load orchestration, error parsers, reconciliation queries and retry logic. Use it. But generated code can be wrong at enormous speed: a wrong transformation on ten records is ten fixes; on ten million, the Number of Zeros applies to the mistake too. The way I use it is step by step: clean, transform and migrate steps, with every generated command and action tracked. That’s deterministic, auditable automation, not unattended judgment. Test it at realistic scale before you trust it with production data. ⟲

Au-delà de l’examen : ce que l’IA change. L’IA réduit l’effort de construction des outils de migration, et facilite la génération et l’exécution rapides d’opérations en masse. Plus l’opération est grosse, plus le besoin de transformations déterministes, d’étapes tracées, de répétitions, de contrôles et de rapprochement est fort.

  • Quel mécanisme de chargement et quelle version d’API correspondent au volume et à la forme du travail, plutôt que de traiter une migration comme du trafic transactionnel.
  • La séquence des objets et des relations dictée par les dépendances, y compris quand les enregistrements et les relations ont besoin de passes séparées.
  • Which operation each set of records gets (insert, update or upsert), based on what the preparation data store knows already exists. ⟲
  • Where parallel processing is safe, and where concentration, locking or automation justify sorting by parent, a model change, or serial processing. ⟲
  • Quelles clés stables, quelle identité de migration, quelle propriété des enregistrements et quels outils reproductibles rendent les répétitions et les chargements en production déterministes.
  • How results and new IDs come back, so loads can run in phases, retry only failures, and reload safely. ⟲
  • Quelles preuves, quelle classification des échecs et quelle répétition complète sont exigées avant de faire confiance au processus à l’échelle de la production.

Le quai de chargement a quand même besoin d’un plan

Section intitulée « Le quai de chargement a quand même besoin d’un plan »

The loading dock moves enormous amounts of data. It doesn’t decide which truck unloads first, where the pallets go, which shipment belongs to which customer, what happens to a damaged pallet, whether two forklifts are using the same aisle, or whether everything that should have arrived did. That’s architecture. Know the Number of Zeros and the shape behind them. Load in dependency order, use stable keys, control concurrency, bring the keys back, make the process repeatable, keep the evidence, and rehearse the whole thing. Then use the loading dock as fast as the architecture safely allows. ⟲