LLM e IA generativa
Pares instrução–resposta, comparações ranqueadas, diálogo multiturno e dados de segurança, escritos por anotadores no Japão a partir de um guia de estilo aprovado pelo seu time.
A parte difícil dos dados de instrução em japonês não é escrever uma resposta. É escrever a mesma resposta, no mesmo registro, dez mil vezes — e conseguir dizer por escrito por que aquele registro foi escolhido.
Dados de instrução escritos por muitas pessoas derivam. Um anotador termina toda resposta com ですます, outro muda para である no meio de uma explicação técnica, um terceiro escreve no estilo seco de um assistente de chat. Um modelo treinado com essa mistura aprende que as três formas são aceitáveis e passa a produzir a que lhe der na telha — que é a queixa mais comum que ouvimos sobre fine-tunes em japonês.
O registro não é o único eixo que deriva. As recusas são piores. O japonês recusa de forma indireta, e um anotador a quem não se disse como deve ser uma recusa vai escrever de tudo, de um seco お断りします a um brando それは難しいかもしれません. Se metade dos dados de segurança recusa de modo tão suave que pode ser confundido com aceitação, o modelo aprende a hesitar em vez de recusar.
Por isso o entregável nunca são apenas os dados. São os dados mais as decisões escritas que os produziram: o guia de estilo, o modelo de recusa, as regras de formatação e a versão de cada um desses documentos com que determinado lote foi escrito.
Resumo
Tipos de conjunto
Cinco famílias de conjuntos de dados, em geral combinadas. Cada uma tem uma definição diferente de “correto”, então cada uma ganha sua seção na diretriz e sua própria passagem de revisão.
Pares prompt–resposta que demonstram o comportamento desejado, escritos do zero ou reescritos a partir do seu conteúdo já existente.
Duas ou mais respostas candidatas comparadas segundo critérios escritos, com o motivo da escolha registrado em vez de inferido.
Conversas em que o contexto se acumula — o registro definido no primeiro turno precisa sobreviver até o oitavo, que é onde a maior parte dos dados de diálogo em japonês desmorona.
Prompts que devem ser recusados, prompts que parecem dever ser recusados mas não devem, e a formulação de recusa que separa uns dos outros.
Triplas de pergunta, passagem recuperada e resposta fundamentada, mais os casos negativos em que a passagem não contém de fato a resposta.
Especificidades do japonês
Estas são as quatro decisões que, se não forem tomadas, produzem um conjunto de dados que parece bom na revisão e se comporta mal no modelo.
O japonês obriga a uma escolha de polidez em cada terminação de frase. ですます, である e a forma simples não são intercambiáveis, e um modelo treinado com a mistura vai misturá-las dentro de uma mesma resposta.
Como tratamos O guia de estilo fixa um registro padrão para cada superfície do produto, lista as exceções e dá exemplos comentados de cada caso. A consistência de registro é um item pontuado na revisão, não uma questão de gosto.
それはちょっと難しいです é uma recusa, não uma afirmação sobre dificuldade. Anotadores que rotulam a frase ao pé da letra ensinam o modelo a ler uma negativa como um comentário neutro.
Como tratamos As categorias de recusa e sua formulação são definidas de antemão, com a força pretendida de cada uma. Os dados de segurança são revisados especificamente para verificar se uma recusa soa como recusa para quem fala japonês.
O japonês omite os sujeitos que o contexto torna óbvios. Em dados multiturno o referente pode estar quatro turnos atrás, e um anotador que escreve a resposta isoladamente vai errar o palpite.
Como tratamos Os itens multiturno são escritos e revisados como conversas inteiras, nunca turno a turno. Quando o referente é genuinamente ambíguo, a conversa é corrigida ou descartada — não rotulada com um palpite.
A mesma palavra aparece em kanji, hiragana ou katakana; números e pontuação aparecem em largura total ou meia largura. Sem controle, isso ensina ao modelo que a formatação é aleatória.
Como tratamos Uma convenção de normalização cobre a escolha de escrita para palavras frequentes, numerais, pontuação, espaçamento em torno de texto latino e formatação de listas. Ela é aplicada na hora de escrever e verificada automaticamente antes da entrega.
Processo
O piloto existe para quebrar a primeira versão da diretriz. A produção só começa quando ela para de quebrar.
Combinamos como é uma boa resposta para o seu produto: registro, extensão, formatação, o que recusar e de que forma, e o que o modelo deve fazer quando não sabe.
As decisões viram um documento escrito, com exemplos comentados e contraexemplos. As ambiguidades que você ainda não decidiu vêm à tona aqui, em vez de serem absorvidas em silêncio.
Um lote pequeno é escrito por vários anotadores de forma independente. Onde eles divergem, a diretriz estava pouco clara — corrigimos a diretriz, não os anotadores.
Cada item é escrito por um anotador e revisado por outro, com um revisor sênior amostrando e arbitrando as divergências por escrito.
A entrega inclui os dados, a versão da diretriz, a proveniência de cada registro, o relatório de QA e um changelog em relação ao lote anterior.
Entrega
Os campos são combinados no kickoff; esta é a estrutura padrão quando você não tem um esquema já existente a seguir.
| Conjunto de dados | Formato padrão | Os registros incluem |
|---|---|---|
| Instrução / SFT | JSONL, array de mensagens | turnos system / user / assistant, tag da tarefa, versão da diretriz |
| Pares de preferência | JSONL, chosen + rejected | os dois candidatos, pontuações por critério, justificativa escrita |
| Diálogo multiturno | JSONL, uma conversa por linha | lista completa de turnos, notas de persona, tag de registro |
| Segurança e recusa | JSONL | prompt, categoria, comportamento esperado, formulação de recusa usada |
| Grounding para RAG | JSONL | pergunta, passagens, resposta, spans de citação, sinalizador de respondível |
Qualidade
Um QA de anotação genérico não pega desvio de registro nem uma recusa fraca demais. Estas verificações pegam.
FAQ
As perguntas que os times fazem ao definir o escopo de um primeiro fine-tune em japonês.
As duas coisas. Escrever do zero é comum em japonês, porque dados abertos de instrução utilizáveis em japonês são escassos e dados traduzidos por máquina levam a estrutura de frase do inglês para dentro do modelo. Quando você já tem conteúdo — registros de suporte, manuais, documentos internos —, é mais frequente reescrevermos a partir dele, o que ancora os dados no seu domínio real.
Um guia de estilo escrito com exemplos comentados, uma rodada de calibração antes da produção em que vários anotadores escrevem os mesmos itens de forma independente, e consistência de registro como item explicitamente pontuado na revisão. Aqui a consistência é uma propriedade mensurável, não uma aspiração — o que acompanhamos é a divergência entre anotadores, e toda divergência resolvida é escrita de volta no guia.
Não como fonte dos dados finais. Dados de instrução traduzidos herdam a estrutura discursiva do inglês, as suposições de polidez do inglês e os hábitos de formatação do inglês, e os modelos treinados com eles produzem um japonês que leitores nativos descrevem como traduzido. Usamos tradução como apoio para ideias de prompt, mas as respostas são escritas em japonês por falantes de japonês.
Somente quando você concordou com isso, e sempre com reescrita e revisão humanas por cima — nunca como repasse sem revisão. O uso ou não de assistência de IA é registrado em cada item, para que você possa filtrar ou auditar depois. Se você exigir dados inteiramente escritos por humanos, conduzimos o projeto assim, e o campo de proveniência comprova isso.
Menos do que a maioria dos times imagina. Alguns milhares de itens escritos com cuidado e com registro consistente costumam levar um fine-tune em japonês mais longe do que dez vezes esse volume de dados ruidosos, porque o modelo está aprendendo tanto um estilo quanto uma tarefa. Primeiro definimos o escopo de um piloto de algumas centenas de itens para comprovar a diretriz e, a partir do que ele mede, dimensionamos a produção.
Dados de treinamento de LLM
Uma descrição da tarefa e um punhado de respostas de exemplo bastam para começar. Voltamos com as questões de taxonomia que precisariam ser respondidas e um piloto com escopo definido.
NDA antes de você compartilhar qualquer dado. A definição do escopo do piloto é gratuita.