A Dataiku lançou o Kiji Privacy Proxy, um gateway local de código aberto que detecta e mascara informação pessoal identificável antes de os pedidos chegarem a serviços de IA externos. A ferramenta, desenvolvida pelo 575 Lab — o gabinete de código aberto da empresa — está disponível sob licença Apache 2.0 e protege dados sensíveis em interações com OpenAI, Anthropic, Gemini e Mistral.

Pontos-chave

O Kiji funciona como um proxy transparente entre a aplicação do utilizador e a API do fornecedor de IA. Um modelo de machine learning baseado em DistilBERT, otimizado com ONNX Runtime, corre localmente e identifica 26 tipos de informação pessoal. O sistema substitui dados sensíveis por valores fictícios antes do envio e restaura os dados originais nas respostas. A latência fica abaixo de 100 milissegundos na maioria dos pedidos. Tudo o processamento acontece na máquina do utilizador, sem chamadas externas para deteção.

O problema da fuga de dados

Equipas que usam modelos de linguagem externos enviam regularmente informação confidencial para servidores de terceiros. Um colaborador pode colar um transcript de suporte com dados de clientes num chat com IA. Um programador pode enviar logs com endereços de email e números de cartão. Um analista pode submeter registos médicos para sumarização. Em todos estes casos, a informação sai do perímetro da organização sem controlo adequado.

O impacto de uma fuga deste tipo pode ser severo. Um vazamento de dados de pacientes pode custar milhões em multas e danos de reputação. A entrada em vigor de regulamentos como o RGPD na Europa e a LGPD no Brasil torna cada incidente uma questão de conformidade legal. A forma como hackers usam IA para atacar empresas também aumenta o risco de dados vazados serem usados em campanhas de engenharia social.

Como o mascaramento funciona

O Kiji intercepta o tráfego HTTP entre a aplicação e a API do modelo de linguagem. O modelo DistilBERT analisa o texto do pedido e identifica entidades que constituem informação pessoal: endereços de email, números de telefone, números de segurança social, cartões de crédito, moradas, URLs e mais 20 categorias. Cada entidade detetada é substituída por um valor realista mas fictício antes do pedido ser reencaminhado para o fornecedor.

Quando a resposta chega, o proxy usa um mapeamento seguro para restaurar os valores originais. A aplicação recebe o texto completo como se nada tivesse sido alterado. Este processo é transparente: não exige alterações de código na aplicação cliente. O mapeamento entre valores mascarados e originais mantém-se isolado por pedido, garantindo segurança em ambientes concorrentes.

Modelo de IA e treino

O modelo de deteção é um transformer DistilBERT treinado pela Dataiku. O treino usou dados sintéticos gerados com a plataforma Doubleword por aproximadamente 50 dólares. O modelo quantizado em ONNX e o dataset de treino estão publicados no HuggingFace sob os nomes DataikuNLP/kiji-pii-model-onnx e DataikuNLP/kiji-pii-training-data. A publicação dos pesos e dados permite que equipas personalizem o modelo para detetar tipos de informação específicos do seu contexto. A escolha do ONNX garante inferência rápida em CPU local, sem depender de aceleradores gráficos.

Opções de implementação

O Kiji oferece dois modos de implementação. No macOS, uma aplicação de ambiente de trabalho Electron configura automaticamente o proxy no sistema através de PAC (Proxy Auto-Config), sem necessidade de variáveis de ambiente. Navegadores como Safari e Chrome passam o tráfego pelo proxy sem configuração manual. Uma extensão para Chrome deteta informação pessoal diretamente nas interfaces do ChatGPT, Claude e Gemini.

No Linux, o Kiji corre como servidor autónomo. O utilizador define as variáveis HTTP_PROXY e HTTPS_PROXY para apontar para o endereço local do proxy. A ferramenta oferece suporte para systemd, Docker e registos detalhados. O armazenamento dos mapeamentos pode ser encriptado opcionalmente. O certificado MITM usado para inspecionar tráfego HTTPS destina-se apenas a uso local.

Limitações e considerações práticas

O Kiji não deteta toda a informação confidencial que uma organização possa ter. O modelo DistilBERT cobre 26 tipos de entidades identificáveis, mas dados empresariais como códigos de projeto, nomes de produtos internos ou informação financeira proprietária podem escapar à deteção. Equipas que precisam de cobrir categorias adicionais precisam de retreinar o modelo com dados próprios. O proxy também introduz latência, embora inferior a 100 milissegundos na maioria dos casos. Em cenários de alto volume, este custo acumula-se. O certificado MITM necessário para inspecionar tráfego HTTPS deve ser instalado e confiado em cada máquina cliente, o que exige coordenação com as equipas de TI.

Contexto no ecossistema de privacidade

O Kiji chega num momento em que as empresas adotam modelos de linguagem a ritmo acelerado. A maioria dos fornecedores de IA oferece retenção zero de dados apenas em planos empresariais pagos. As versões gratuitas ou de entrada podem armazenar e usar pedidos para treinar futuros modelos. Uma camada de proxy local como o Kiji oferece proteção independentemente do plano contratado. A Dataiku posiciona a ferramenta como parte de uma estratégia mais ampla de governação de IA, que inclui o seu produto comercial LLM Mesh para gestão de múltiplos fornecedores de modelos.

O que fazer agora

Equipas que integram modelos de linguagem externos devem avaliar o Kiji como camada de proteção mínima. O repositório oficial está em github.com/dataiku/kiji-proxy, com binários para macOS e Linux nas releases. Para organizações que lidam com agentes de IA autónomos, o proxy oferece uma barreira contra fugas acidentais. A instalação no macOS resume-se a descarregar o ficheiro DMG e arrastar a aplicação para a pasta Applications. No Linux, o servidor arranca com ./run.sh após extrair o tarball. Quem precisar de detetar tipos de informação específicos pode retreinar o modelo com os dados publicados no HuggingFace.