Triagem com IA na ONG: quando apoiar a fila e quando nunca decidir sobre pessoas

Pontos-Chave sobre Triagem com IA

• Triagem é decidir sobre pessoas. Quem entra, quem espera e quem é visitado primeiro afeta o acesso a direitos. Por isso é o uso de IA que mais exige cuidado.
• Organizar informação é diferente de decidir. A IA pode ajudar a achar duplicidades e dados faltantes. Dar nota de "vulnerabilidade" ou "prioridade" é outra coisa.
• Critério escrito vem antes da ferramenta. Se a ONG consegue escrever a regra, ela raramente precisa de uma IA preditiva. Se não consegue, a IA vai inventar uma regra por ela, e ninguém saberá qual.
• Revisão humana de fachada não protege ninguém. Quem revisa precisa saber por que o sistema sugeriu aquilo e ter autonomia para discordar.
• A pessoa precisa poder entender e contestar. A LGPD garante o direito de pedir revisão de decisões automatizadas (art. 20).

O Que É Triagem em uma ONG

Quase toda ONG faz triagem, mesmo sem usar esse nome:

• Inscrições para oficinas e cursos com mais interessados que vagas.
• Lista de espera e ordem de chamada. Veja lista de espera em oficinas.
• Priorização de visitas domiciliares ou de atendimentos individuais.
• Encaminhamento a serviços da rede, como CRAS, CREAS e saúde.
• Distribuição de cestas, vagas e benefícios com critério de necessidade.

Em cada caso, uma pessoa ou um conjunto de regras decide quem vem antes. Quando a IA entra, o risco é que essa decisão, que já é delicada, passe a ser tomada por um mecanismo que ninguém consegue explicar.

Quatro Níveis de Uso de IA na Triagem

Nível	O que a IA faz	Risco	Orientação
1. Organizar informação	Encontrar duplicidades, apontar campos faltantes, ordenar por data de inscrição	Baixo	Pode, dentro do sistema da ONG
2. Apoiar a leitura	Resumir um formulário longo ou destacar trechos para a equipe ler	Médio	Só dentro de ferramenta com garantias de dados. A pessoa lê o original
3. Sugerir prioridade ou nota	Dar um score de vulnerabilidade, de risco ou de prioridade	Alto	Só com critérios públicos, auditoria e revisão humana real. Em geral, evite
4. Decidir automaticamente	Aprovar, recusar ou posicionar na fila sem intervenção	Inaceitável	Não

Os níveis 1 e 2 já economizam tempo. O 3 exige uma governança que poucas ONGs têm hoje. O 4 não deve existir.

Para o nível 1, o texto sobre duplicidade de cadastro e o de qualidade de dados mostram o que organizar antes de pensar em IA.

Primeiro o Critério, Depois a Ferramenta

Antes de qualquer tecnologia, responda por escrito:

• Quais critérios definem a prioridade? Idade, território, renda, situação de risco, ordem de chegada, indicação da rede?
• De onde vêm esses critérios? Do termo de parceria, do edital, do município, da política da ONG? Quando a ONG executa um serviço da rede socioassistencial, os critérios de acesso são definidos fora dela, e ela não pode criar regras novas por conta própria. O guia sobre Cadastro Único e SUAS ajuda a situar isso.
• Como cada critério é verificado? Com documento, declaração, consulta à rede?
• Quem decide os casos de fronteira?

Uma regra prática: se o critério pode ser escrito em uma tabela, aplique a tabela. Ela é transparente, auditável e explicável à família. A IA entra, no máximo, como apoio para aplicar a regra com menos esforço.

Por Que a IA Preditiva na Triagem Dá Errado

Aprende o passado, inclusive suas injustiças

Um modelo treinado com decisões antigas tende a repetir quem foi atendido antes. Se um território, um grupo ou um tipo de família ficou de fora historicamente, o modelo lê isso como "padrão". O texto sobre IA responsável e viés algorítmico traz os casos da CAF francesa e o alerta da OCDE.

Usa substitutos de características sensíveis

Mesmo sem usar raça, renda ou religião, variáveis como CEP, escola, tipo de moradia ou sobrenome funcionam como "proxy". O modelo discrimina sem que ninguém tenha escrito essa regra.

Erra para um lado só

Na triagem, o erro de excluir quem precisava é, em geral, mais grave que o de incluir quem poderia esperar. Mas é também o mais difícil de perceber, porque a pessoa excluída raramente reclama, ou nem sabe por que foi excluída.

Vira caixa-preta

Se ninguém sabe explicar por que a família A ficou à frente da família B, não há como corrigir, justificar ou contestar.

O caso holandês e a revisão humana de fachada

Um exemplo documentado é o dos benefícios para cuidado infantil nos Países Baixos. Segundo o relatório Xenophobic Machines, da Anistia Internacional, a autoridade tributária usou um algoritmo de classificação de risco que tratava a nacionalidade como fator, atribuindo notas maiores a quem não era holandês. Quando um caso era sinalizado, um servidor devia revisá-lo, mas, segundo o relatório, não recebia informação sobre por que o sistema dera aquela nota. Dezenas de milhares de pais e responsáveis, em sua maioria de baixa renda, foram acusados injustamente de fraude.

A lição para uma ONG não é sobre tributos, e sim sobre o que uma revisão humana precisa ter para valer: acesso aos motivos, tempo, autonomia para discordar e canal de recurso para a pessoa afetada. Sem isso, a revisão é só uma assinatura.

O Que a LGPD Diz

• Revisão de decisões automatizadas (art. 20). O titular pode pedir a revisão de decisões tomadas unicamente com base em tratamento automatizado que afetem seus interesses e pode solicitar informações claras e adequadas sobre os critérios e procedimentos usados. O veto de 2019 retirou a exigência expressa de que a revisão fosse feita por pessoa natural, mas a supervisão humana continua sendo a forma mais segura de garantir o direito.
• Não discriminação e transparência (art. 6º). O tratamento não pode ter fins discriminatórios ilícitos ou abusivos, e o titular tem direito a informações claras sobre o tratamento.
• Dados sensíveis e de crianças (arts. 11 e 14). Muitos dados de triagem são de saúde, deficiência, violência e vulnerabilidade, o que exige hipóteses legais mais restritas e cuidado redobrado.
• Relatório de Impacto (art. 38). Para tratamentos de maior risco, como o de triagem com IA sobre pessoas vulneráveis, a elaboração de um RIPD é boa prática. O guia de LGPD para ONGs explica o instrumento.
• Direitos do titular (art. 18). A família pode pedir informação, correção e outras providências. Veja como responder a esses pedidos.

A transparência prevista também aparece nos termos do atendido: se a IA influencia a triagem, a família precisa ser informada.

Desenho Seguro de Triagem em Sete Passos

1. Escreva os critérios e aprove-os com a coordenação. Publique a versão resumida, para que a comunidade saiba como funciona.
2. Colete só os dados necessários. Cada campo a mais é risco. Evite perguntar o que não afeta a decisão.
3. Prefira regras transparentes. Pontuação simples com critérios conhecidos é melhor que um modelo opaco.
4. Use a IA, se usar, no nível 1 ou 2. Organizar e apoiar a leitura, nunca decidir.
5. Faça um humano decidir, com informação e autonomia. Quem decide vê os dados originais, os critérios aplicados e o motivo de qualquer sugestão. Pode discordar, e a discordância é registrada.
6. Registre a justificativa de cada decisão e informe a família do resultado e de como pedir revisão.
7. Audite periodicamente. Compare resultados entre territórios e grupos, meça quantas decisões foram revertidas na revisão e investigue desvios.

Exemplo Prático: 80 Inscrições para 30 Vagas

Uma ONG de contraturno abre 30 vagas em uma oficina e recebe 80 inscrições.

Abordagem A: critério em tabela. A ONG define: prioridade a famílias cadastradas no CRAS de referência, depois à idade-alvo, depois à ordem de inscrição. A equipe aplica a tabela, o sistema ajuda a ordenar e a achar inscrições duplicadas, e as famílias recebem a regra. Simples, transparente, explicável.

Abordagem B: score de IA. Um modelo "pontua" as famílias com base em tudo o que foi preenchido. Ninguém sabe o peso de cada dado, famílias de determinados bairros ficam sistematicamente atrás, e, quando uma mãe pergunta por que seu filho ficou na lista de espera, a ONG não tem resposta.

Abordagem C: híbrida. A IA (nível 1) detecta duplicidades e campos incompletos antes da análise, e a equipe aplica a tabela. A decisão final, a justificativa e o canal de recurso ficam com pessoas.

A abordagem C é a que mais economiza tempo sem tirar a explicação da família. A B parece moderna, mas cria um problema que a ONG não sabe resolver.

Se o Sistema Oferece "Score" ou "Priorização Automática"

Antes de ligar ou contratar, pergunte ao fornecedor e peça as respostas por escrito. O guia de perguntas para a demonstração de um sistema é um bom complemento.

• Quais dados entram no cálculo, e algum é sensível ou funciona como proxy?
• O critério é explicável para a equipe e para a família?
• Existe registro de por que cada pessoa recebeu aquela nota?
• É possível desligar a sugestão, e a ONG pode alterar os pesos?
• Como o fornecedor testa viés e com que frequência?
• Os dados dos atendidos são usados para treinar modelos?
• Há trilha de auditoria de quem viu, mudou e decidiu?
• Em caso de contestação, que informações a ONG consegue fornecer?

Se o fornecedor não responde com clareza, essa é a resposta.

Como Auditar Sem Ser Especialista

Uma auditoria simples, feita a cada semestre, já revela muito:

• Taxa de atendimento por território, faixa etária e gênero, comparada à demanda.
• Quantas sugestões foram revertidas pela equipe. Muitas reversões indicam sugestões ruins. Nenhuma reversão pode indicar revisão de fachada.
• Tempo médio de espera por grupo.
• Pedidos de revisão recebidos e resultado.
• Casos de fronteira e como foram decididos.

Se a ONG tem indicadores sociais no CRM, muitos desses números já estão disponíveis.

Comunicando a Triagem às Famílias

Transparência reduz conflito. Um aviso curto, na inscrição:

As vagas são preenchidas de acordo com estes critérios: [critérios]. A decisão é tomada pela equipe da [nome da ONG]. Se a sua inscrição não for atendida agora, você continuará na lista de espera e poderá pedir uma nova análise pelo contato [e-mail ou WhatsApp].

Se houver uso de IA com dados dos atendidos, acrescente uma frase simples sobre isso, conforme o modelo do texto sobre termos do atendido.

Como o Nexus Social Trata o Assunto

O Nexus Social entende a IA como apoio à equipe, e não como decisora de quem é atendido. Os recursos de IA apresentam o resultado como sugestão, com aviso de que a decisão final é humana, e cada uso fica registrado na trilha de auditoria. Isso se soma ao controle de acesso por perfil e ao registro de quem consultou e alterou cada ficha, o que sustenta a revisão que a LGPD pede. O texto sobre fila de atendimento por WhatsApp mostra como a organização da fila já reduz muito do trabalho manual, sem entregar a decisão a um modelo.

Perguntas Frequentes

A IA pode ordenar a lista de espera?

Ordenar por critérios objetivos e conhecidos, como data de inscrição, território ou faixa etária, é tarefa de regra, não de IA preditiva, e pode ser feita no sistema da ONG. O que não se recomenda é um modelo que atribui nota de prioridade a cada família sem que a ONG saiba explicá-la.

Posso usar o ChatGPT para analisar as fichas de inscrição?

Não com dados das famílias. Fichas de inscrição contêm dados pessoais e, muitas vezes, sensíveis. Use o critério das três cores e mantenha a análise no sistema da ONG.

A ONG precisa fazer um RIPD para usar IA na triagem?

A lei não traz uma lista fechada de casos em que ele seja sempre obrigatório, mas a ANPD pode solicitá-lo (art. 38), e é boa prática elaborá-lo em tratamentos de maior risco, como triagem com IA sobre pessoas em situação de vulnerabilidade. A avaliação deve ser feita com o encarregado de dados ou apoio jurídico.

A revisão humana basta para usar um score de IA?

Só se for uma revisão real: com acesso aos motivos, tempo, autonomia para discordar e canal de recurso. Uma revisão em que a pessoa apenas confirma o que o sistema mostrou não protege nem as famílias nem a ONG.

E se o município ou o financiador exigir um critério automatizado?

Peça a regra por escrito e entenda como ela é aplicada. Se envolver tratamento de dados de pessoas por um sistema, a ONG continua responsável por informar as famílias e por garantir canal de revisão. Em caso de conflito com a LGPD, busque orientação jurídica.

Conclusão

A triagem é o ponto em que a tecnologia mais pode ajudar e mais pode ferir. Use a IA para organizar informação, achar duplicidades e poupar trabalho repetitivo, e mantenha as decisões sobre pessoas com a equipe, apoiadas em critérios escritos, transparentes e contestáveis. Se a ONG não consegue explicar a uma mãe por que seu filho está na lista de espera, a ferramenta que decidiu isso não deve estar no processo.

---

Quer organizar inscrições, lista de espera e atendimentos em um sistema com controle de acesso e trilha de auditoria, com a decisão sempre humana? Agende uma demonstração gratuita e converse com a equipe.

Saiba mais sobre o Nexus Social e a gestão integrada para organizações sociais.

---

Fontes e Referências

• Anistia Internacional — Xenophobic Machines: Discrimination through unregulated use of algorithms in the Dutch childcare benefits scandal — Algoritmo de classificação de risco com nacionalidade como fator e revisão sem acesso aos motivos (outubro de 2021)
• Lei nº 13.709/2018 (LGPD) — Planalto — Princípios (art. 6º), dados sensíveis (art. 11), crianças e adolescentes (art. 14), direitos do titular (art. 18), revisão de decisões automatizadas (art. 20) e relatório de impacto (art. 38)