LLM et IA générative
Paires instruction–réponse, comparaisons classées, dialogues multi-tours et données de sûreté, rédigés par des annotateurs basés au Japon selon un guide de style validé par vos équipes.
Le difficile, avec les données d’instruction japonaises, n’est pas de rédiger une réponse. C’est de rédiger la même réponse, dans le même registre, dix mille fois — et de pouvoir expliquer par écrit pourquoi ce registre a été retenu.
Des données d’instruction rédigées par de nombreuses personnes dérivent. Un annotateur termine chaque réponse en ですます, un autre bascule en である au milieu d’une explication technique, un troisième écrit dans le style haché d’un assistant de chat. Un modèle entraîné sur ce mélange apprend que les trois sont acceptables, puis produit celui qui lui chante — c’est de loin la plainte la plus fréquente que nous entendons au sujet des fine-tunes japonais.
Le registre n’est pas le seul axe qui dérive. Les refus, c’est pire. Le japonais décline de façon indirecte, et un annotateur à qui l’on n’a pas dit à quoi doit ressembler un refus écrira aussi bien un お断りします catégorique qu’un それは難しいかもしれません très doux. Si la moitié des données de sûreté refusent assez mollement pour être prises pour une acceptation, le modèle apprend à esquiver plutôt qu’à refuser.
Le livrable n’est donc jamais seulement les données. Ce sont les données plus les décisions écrites qui les ont produites : le guide de style, le modèle de refus, les règles de mise en forme, et la version de chacun de ces documents selon laquelle un lot donné a été rédigé.
En bref
Types de jeux de données
Cinq familles de jeux de données, le plus souvent combinées. Chacune a sa propre définition de « juste », donc sa propre section de consignes et sa propre passe de relecture.
Paires prompt–réponse qui démontrent le comportement recherché, rédigées de zéro ou réécrites à partir de vos contenus existants.
Deux réponses candidates ou plus comparées selon des critères écrits, avec la raison du choix consignée plutôt que déduite.
Des conversations où le contexte s’accumule — le registre fixé au premier tour doit tenir jusqu’au huitième, et c’est là que la plupart des données de dialogue japonais s’effondrent.
Des prompts qui doivent être refusés, des prompts qui semblent devoir l’être mais ne doivent pas l’être, et la formulation de refus qui les distingue.
Triplets question, passage récupéré et réponse ancrée, plus les cas négatifs où le passage ne contient en réalité pas la réponse.
Spécificités japonaises
Voici les quatre décisions qui, si elles ne sont pas prises, produisent un jeu de données qui paraît correct en relecture et se comporte mal dans le modèle.
Le japonais impose un choix de politesse à chaque fin de phrase. ですます, である et la forme neutre ne sont pas interchangeables, et un modèle entraîné sur un mélange les mélangera à l’intérieur d’une même réponse.
Notre approche Le guide de style fixe un registre par défaut pour chaque surface produit, énumère les exceptions et donne des exemples travaillés de chacune. La cohérence de registre est un point noté en relecture, pas une affaire de goût.
それはちょっと難しいです est un refus, pas un constat de difficulté. Les annotateurs qui l’étiquettent au premier degré apprennent au modèle à lire un refus comme une remarque neutre.
Notre approche Les catégories de refus et leurs formulations sont définies en amont, avec la force visée pour chacune. Les données de sûreté sont relues spécifiquement sous l’angle suivant : un refus se lit-il comme un refus pour un locuteur japonais ?
Le japonais omet les sujets que le contexte rend évidents. Dans des données multi-tours, le référent peut se trouver quatre tours plus haut, et un annotateur qui rédige une réponse isolément se trompera.
Notre approche Les items multi-tours sont rédigés et relus comme des conversations entières, jamais tour par tour. Lorsque le référent est réellement ambigu, la conversation est soit corrigée, soit écartée — jamais étiquetée au jugé.
Le même mot apparaît en kanji, en hiragana ou en katakana ; les chiffres et la ponctuation apparaissent en pleine ou en demi-chasse. Sans contrôle, cela apprend au modèle que la mise en forme est aléatoire.
Notre approche Une convention de normalisation couvre le choix d’écriture pour les mots courants, les chiffres, la ponctuation, les espaces autour du texte latin et la mise en forme des listes. Elle est appliquée à la rédaction et vérifiée automatiquement avant livraison.
Processus
Le pilote existe pour mettre en défaut la première version des consignes. La production ne démarre qu’une fois qu’elles cessent d’être mises en défaut.
Nous convenons de ce qu’est une bonne réponse pour votre produit : registre, longueur, mise en forme, ce qu’il faut refuser et comment, et ce que le modèle doit faire lorsqu’il ne sait pas.
Les décisions deviennent un document écrit, avec exemples travaillés et contre-exemples. Les ambiguïtés que vous n’avez pas encore tranchées sont mises au jour ici plutôt qu’absorbées en silence.
Un petit lot est rédigé indépendamment par plusieurs annotateurs. Là où ils divergent, les consignes manquaient de clarté — nous corrigeons les consignes, pas les annotateurs.
Chaque item est rédigé par un annotateur et relu par un autre, un relecteur senior échantillonnant et tranchant les désaccords par écrit.
La livraison comprend les données, la version des consignes, la provenance par enregistrement, le rapport QA et un journal des modifications par rapport au lot précédent.
Livraison
Les champs sont convenus au lancement ; voici la structure par défaut lorsque vous n’avez pas de schéma existant à respecter.
| Jeu de données | Format par défaut | Chaque enregistrement contient |
|---|---|---|
| Instruction / SFT | JSONL, tableau de messages | tours system / user / assistant, étiquette de tâche, version des consignes |
| Paires de préférence | JSONL, chosen + rejected | les deux candidats, notes par critère, justification écrite |
| Dialogue multi-tours | JSONL, une conversation par ligne | liste complète des tours, notes de persona, étiquette de registre |
| Sûreté et refus | JSONL | prompt, catégorie, comportement attendu, formulation de refus employée |
| Ancrage RAG | JSONL | question, passages, réponse, empans de citation, indicateur de réponse possible |
Qualité
Une QA d’annotation générique ne détecte ni la dérive de registre ni un refus trop mou. Ces contrôles-ci le font.
FAQ
Les questions que se posent les équipes lorsqu’elles cadrent un premier fine-tune japonais.
Les deux. La rédaction de zéro est fréquente en japonais, car les données d’instruction ouvertes exploitables y sont rares et les données traduites automatiquement transmettent la structure de phrase anglaise au modèle. Lorsque vous disposez déjà de contenus — journaux de support, manuels, documents internes — nous réécrivons plus souvent à partir de ceux-ci, ce qui ancre les données dans votre domaine réel.
Un guide de style écrit avec des exemples travaillés, une phase de calibrage avant la production où plusieurs annotateurs rédigent les mêmes items indépendamment, et la cohérence de registre notée explicitement en relecture. Ici, la cohérence est une propriété mesurable et non une aspiration : nous surveillons la divergence entre annotateurs, et chaque divergence tranchée est réintégrée dans le guide.
Pas comme source de données finales. Les données d’instruction traduites héritent de la structure du discours anglaise, des présupposés de politesse anglais et des habitudes de mise en forme anglaises, et les modèles entraînés dessus produisent un japonais que les lecteurs natifs qualifient de traduit. Nous utilisons la traduction comme échafaudage pour des idées de prompts, mais les réponses sont rédigées en japonais par des locuteurs japonais.
Uniquement si vous l’avez accepté, et toujours avec une réécriture et une relecture humaines par-dessus — jamais en simple passe non relue. Le recours à une assistance IA est consigné pour chaque enregistrement, ce qui vous permet de filtrer ou d’auditer par la suite. Si vous exigez des données entièrement rédigées par des humains, nous menons le projet ainsi et le champ de provenance en fait foi.
Moins que ne l’imaginent la plupart des équipes. Quelques milliers d’items soigneusement rédigés et cohérents en registre font en général progresser un fine-tune japonais davantage que dix fois plus de données bruitées, car le modèle apprend un style autant qu’une tâche. Nous cadrons d’abord un pilote de quelques centaines d’items pour éprouver les consignes, puis nous dimensionnons la production d’après ce que ce pilote mesure.
Données d’entraînement LLM
Une description de la tâche et quelques exemples de réponses suffisent pour démarrer. Nous revenons vers vous avec les questions de taxonomie auxquelles il faudra répondre et un pilote cadré.
NDA avant tout partage de données. Le cadrage du pilote est gratuit.