Guard Rail AI

A developer demonstrated a guardrail system for generative AI using C#/.NET 10, EF Core, SQLite, React 19 with TypeScript, and the Gemini 3.5-flash-lite LLM. The application filters user prompts and uses the LLM as a judge to block responses containing sensitive topics, replacing them with 'Content not allowed'. The project is public and serves as a didactic example of implementing content controls independent of the AI provider.

No projeto de hoje vou demonstrar o uso do Guard Rail no contexto de IA. O termo guardrail tem origem inglesa tendo surgido por volta de 1860, para designar trilhos adicionais instalados em ferrovias nas curvas mais acentuadas, afim de evitar o descarrilamento de trens. No contexto da construção civil o conhecemos com guarda corpo em residências ou passarelas. No contexto de IA o guard-rail ou guardrail pode funcionar como barreira à: Inteligências artificiais generativas são probabilísticas . Isso significa que ela calcula a probabilidade de cada próximo token com base no contexto e vai construindo a resposta a partir dessa probabilidade. Entre a pergunta e a resposta existe um processo chamado tokenização , responsável por transformar texto puro em pequenas unidades chamadas tokens. Um token pode representar uma palavra inteira, partes de uma palavra, números ou símbolos. Em seguida esses tokens são convertidos em representações numéricas, usadas pelos modelos para compreender o contexto. Cada novo token gerado é usado para calcular a probabilidade dos próximos tokens. Isso explica porque obtemos diferentes respostas para a mesma pergunta, por exemplo. A stack escolhida para este projeto é a seguinte: Backend : c / .net10 ORM : EF Core Banco de dados : SQLite Frontend : React 19 com TypeScript LLM : Gemini 3.5-flash-lite Para o backend c /.net10 com EF orquestrando a persistência, é a escolha certa por fazerem parte do mesmo ecosistema. SQLite foi o escolhido da vez porque não tem dependência externa ele é self-contained , leve e de fácil configuração. ReactJS+Typescript pela proximidade com c resultando em menor curva de aprendizado. Gemini 3.5-flash-lite por ser gratuito e rápido, além de não ser necessário fazer nenhuma configuração adicional. Apenas com uma conta Google já é possível criar uma apikey válida para uso. A aplicação foi projetada para enviar à LLM o prompt digitado pelo usuário para processamento, retornando uma resposta. Podemos filtrar ou não o assunto para validar a aplicação do filtro. A inclusão deliberada de palavras para filtrar fará com que o guardrail entre em ação, realizando uma segunda chamada à LLM usando-a agora como juiz conceito de LLL-as-judge . A escolha do modelo para ser gerador de conteúdo e juiz ao mesmo tempo foi proposital, por ser um projeto didático. Recomendo fortemente que projetos reais usem modelos diferentes para geração de conteúdo e juiz, afim de mitigar o risco de falsos negativos . Para fins de auditoria adicionei um histórico do que foi perguntado e se houve ou não bloqueio da resposta. Prompt sem filtro. Prompt com filtro Histórico de perguntas e resultado O repositório é público e está acessível neste endereço: A didactic project that demonstrates, in practice, how a "guard" guardrail layer can prevent information leakage or misuse of generative AI tools inside a company. The user types a question and, optionally, provides sensitive topics separated by ; that shouldn't appear in the answer. The question is sent to a free LLM Gemini with no content filtering applied by the provider — this "raw" behavior is deliberate, to highlight the risk of using an AI tool without controls. A separate layer of the application, the guard analyzes the answer and, if it relates to any of the given topics, replaces the content with "Conteúdo não permitido" "Content not allowed" . The guard is not an LLM feature — it's an independent application layer exactly the pattern a company would apply on top of any third-party AI tool to enforce its own usage policies, without depending on… 🤖 A geração de conteúdo ganhou novos contornos com o uso massivo da IA, que tornou possível produzir resultados em uma velocidade sem precedentes. ⚠️ Entretanto, supervisionar tudo o que é produzido tornou-se uma tarefa hercúlea e, muitas vezes, impraticável. 🔍 Nesse cenário, estabelecer mecanismos capazes de avaliar e filtrar as respostas antes que cheguem ao usuário tornou-se essencial. 🛡️ Em essência, trata-se de garantir que a IA opere dentro de limites previamente estabelecidos, proporcionando maior segurança, controle e previsibilidade sobre o conteúdo gerado. 🔒 Os modelos de IA geralmente possuem mecanismos de segurança próprios, capazes de identificar e restringir respostas a determinadas solicitações que envolvam conteúdos sensíveis ou que não sejam permitidos pelas políticas da plataforma ou pela legislação vigente em cada país. Obrigado pela leitura.