A nota que decide sua vida

De todas as invenções do romance, a pontuação de reputação é a que menos precisou de imaginação. Eu só juntei coisas que já existiam: escore de crédito, avaliação de motorista e passageiro, reputação de vendedor em marketplace, nota de fornecedor, ranking de currículo, moderação automática de rede social. Depois dei a elas um nome único, uma tabela oficial administrada por um órgão global e uma consequência prática: sem nota, você não pega um táxi.

No livro, os Social Tokens não podem ser transferidos entre pessoas. Cada bom feito credita, cada malfeito debita, e a tabela é gerida pela WHDPO. A ideia tem benefícios reais, e eu os escrevi de propósito: mais confiança nas relações comerciais, comportamento antiético exposto rapidamente, boa conduta recompensada. Ninguém constrói uma distopia dizendo que quer uma distopia. Constrói-se dizendo que quer justiça — e automatizando quem a mede.

O que a Europa proibiu, exatamente

O AI Act europeu criou uma categoria de risco inaceitável, com as multas mais altas de toda a regulação. Entre as práticas proibidas desde 2 de fevereiro de 2025 está a pontuação social: sistemas de inteligência artificial que avaliam ou classificam pessoas com base em comportamento social ou características pessoais, levando a tratamento prejudicial ou desproporcional em contextos alheios àquele em que os dados foram coletados. A proibição não vale só para governos — alcança também o setor privado.

Na mesma lista de práticas vedadas estão o reconhecimento de emoções em ambiente de trabalho e em escolas, a categorização biométrica para inferir características sensíveis e a raspagem indiscriminada de imagens de rostos para montar bancos de reconhecimento facial.

Só que a régua não foi abolida. O escore de crédito continua permitido, classificado como uso de alto risco, desde que avalie capacidade de pagamento com base em circunstâncias financeiras e econômicas pertinentes, com salvaguardas de tratamento justo. Triagem de currículo por algoritmo também segue permitida como alto risco. As obrigações de transparência do artigo 50 — chatbot que precisa se identificar como máquina, conteúdo sintético que precisa ser rotulado — passam a valer em 2 de agosto de 2026, enquanto boa parte das exigências para sistemas de alto risco foi adiada para 2027.

Traduzindo para a linguagem que interessa a quem toma decisão: ficou proibido dar uma nota geral de cidadania. Continua permitido dar notas específicas — e elas seguem decidindo a vida das pessoas.

A parte que a lei não fecha

Juristas europeus já apontaram que o texto do artigo 5 tem margem interpretativa considerável, e que ele foi inspirado, em parte, por uma leitura simplificada do sistema de crédito social chinês. Lido de forma ampla, ele proibiria práticas de pontuação comuns e socialmente úteis. Lido de forma estreita, quase nada muda. Essa ambiguidade não é detalhe acadêmico: é o espaço onde a sua empresa vai operar.

E há uma pergunta que nenhuma das duas leituras responde, que é a pergunta do livro: o que acontece quando a nota está errada?

Os 48 minutos de Dimitrios, e os seus

No capítulo 9, o mecanismo que destrói Dimitrios não é a nota baixa. É a arquitetura em volta dela. A acusação era detalhada demais, específica demais — alguém com acesso interno havia manipulado dados. E aí vem o ponto: uma vez que a máquina da desconfiança começa a girar, ela cria a própria realidade. O sistema não tinha um procedimento para a hipótese de estar errado, porque foi construído sob a premissa de ser inviolável.

Isso não é ficção. É a experiência cotidiana de quem já teve o nome negativado por engano, a conta bloqueada por análise automática de risco, o perfil derrubado por denúncia em massa, o anúncio reprovado por um classificador, o currículo descartado antes de qualquer humano ler. Em todos esses casos existe um placar. Em quase nenhum existe um telefone.

Para as pessoas

• Peça o seu histórico. Você tem direito de saber quais dados existem sobre você e de onde vieram. Nos birôs de crédito, é gratuito. Faça isso uma vez por ano, como exame de rotina.
• Guarde prova de tudo o que resolve bem. Contrato pago, acordo cumprido, distrato assinado. Reputação, quando cai, se defende com documento, não com indignação.
• Não construa a sua vida econômica dentro de uma única plataforma. Quem depende de uma nota para trabalhar depende de uma empresa para viver.
• Ao ser penalizado, exija revisão humana por escrito. A LGPD garante o direito de solicitar revisão de decisões tomadas exclusivamente por tratamento automatizado que afetem seus interesses. Use a palavra "revisão" e registre o pedido por canal formal.

Para a empresa

Se você pontua clientes, fornecedores ou candidatos — e você pontua, mesmo que não chame isso de pontuação — cinco itens de governança:

• Nomeie o que você faz. Levante todos os escores em uso na operação, inclusive os que estão dentro de ferramentas de terceiros. Ninguém governa um escore que não sabe que existe.
• Separe finalidade. Dado coletado para atendimento não pode virar insumo de avaliação de crédito. É exatamente o cruzamento de contextos que a regra europeia mira.
• Tenha um caminho de contestação com prazo e responsável. Não é gentileza com o cliente: é o seu mecanismo de correção de erro. Sem ele, o erro se acumula silenciosamente até virar processo.
• Registre a explicação, não só o resultado. Quais fatores pesaram, com que peso, em que versão do modelo. É o que permite responder a um questionamento seis meses depois.
• Meça o dano do falso positivo. Todo modelo tem taxa de erro. Quantas pessoas boas o seu recusou este mês, e o que aconteceu com elas? Se ninguém na empresa sabe responder, o custo do erro está sendo pago inteiramente por quem não tem voz na reunião.

A frase mais perigosa do livro

Não é dita por vilão nenhum. É dita por uma autoridade competente, de boa-fé, tentando ser justa: os dados não mentem. Dados não mentem mesmo — dados não fazem nada. Quem mente, erra, seleciona, pondera e decide é sempre alguém. A tecnologia da pontuação social não é o algoritmo: é a decisão de parar de perguntar quem é esse alguém.