IA Responsável em OSCs: Como Evitar Viés e Proteger Dados Sensíveis

Pontos-Chave sobre IA Responsável em OSCs

• 42% das OSCs brasileiras apontam falta de conhecimento técnico como maior barreira para adotar IA
• Apenas 17% discutem riscos éticos como discriminação algorítmica e privacidade
• A LGPD art. 20 garante ao titular o direito de revisão de decisões tomadas unicamente com base em tratamento automatizado
• O Marco Legal da IA (PL 2338/2023) está em tramitação e estabelece princípios de não discriminação e supervisão humana

Por Que IA Responsável é um Tema Urgente para OSCs

A inteligência artificial chegou ao terceiro setor brasileiro — e chegou rápido. Pesquisa inédita do Canal SabIAr com FGV-EAESP e Instituto Beja, com 414 organizações do campo socioambiental brasileiro, revelou que 70% das OSCs que usam IA a aplicam em comunicação e geração de conteúdo, enquanto apenas 8% usam em captação de recursos e 10% em gestão financeira.

O dado mais alarmante: apenas 17% discutem riscos éticos, como discriminação algorítmica e privacidade. E 42% apontam a falta de conhecimento técnico como a maior barreira para adoção (Plataforma Conjunta / SabIAr / FGV-EAESP, 2025).

A combinação é perigosa: organizações que lidam com populações vulneráveisizadas estão adotando uma tecnologia poderosa sem discutir seus riscos éticos. Quando a IA começa a ser usada para triagem de atendidos, priorização de casos ou geração de relatórios de impacto, o viés algorítmico pode reproduzir — e amplificar — desigualdades que a OSC existe para combater.

Diferencial do Nexus Social: a plataforma aplica cotas de uso por usuário, registra todas as interações com IA na trilha de auditoria e nunca envia dados sensíveis em texto puro para provedores externos — o dado é anonimizado antes de qualquer chamada de LLM.

O Panorama da IA em OSCs Brasileiras

Pesquisa SabIAr / FGV-EAESP (2025)

A pesquisa ouviu 414 organizações do campo socioambiental brasileiro sobre uso de IA:

• 42% apontam a falta de conhecimento técnico como a maior barreira
• 70% das que usam IA a aplicam em comunicação e geração de conteúdo
• Apenas 8% usam IA para apoiar captação de recursos
• Apenas 10% usam IA em gestão financeira
• Apenas 17% discutem riscos éticos como discriminação algorítmica e privacidade
• Apenas 10% dos coletivos e movimentos sociais relatam alta integração tecnológica

Fontes: Canal SabIAr / Instituto Beja / FGV-EAESP — IA no campo socioambiental brasileiro (2025); Plataforma Conjunta — Como o campo social brasileiro está usando a IA (2025)

Atenção: a pesquisa ouviu 414 organizações respondentes — não é um censo nacional de todas as OSCs brasileiras. Os números refletem o perfil de quem respondeu, não a totalidade do setor.

O Risco do Viés Algorítmico em Assistência Social

O caso da CAF na França

O caso mais documentado de viés algorítmico em assistência social é o da CAF (Caisse d'Allocations Familiales) da França. Em 2024, 15 organizações da sociedade civil, incluindo Amnesty International, entraram com ação judicial contra um algoritmo que atribuía pontuação de suspeição a beneficiários.

O problema: "fatores que aumentam a pontuação de suspeição incluem ter baixa renda, estar desempregado, receber o benefício de renda mínima (RSA) ou benefícios por deficiência (AAH). Como consequência direta, indivíduos em situação de vulnerabilidade se encontram mais monitorados que o restante da população".

Em outras palavras: o algoritmo penalizava justamente quem mais precisava da assistência — não por intenção maliciosa, mas porque os dados históricos de fiscalização concentravam-se em populações vulneráveis, e o modelo aprendeu esse padrão como "suspeito".

O alerta da OCDE

A OCDE (Organização para Cooperação e Desenvolvimento Econômico) publicou em 2024 relatório sobre uso de IA em programas de assistência social, alertando que a tecnologia "pode levar a avaliações de elegibilidade sistematicamente enviesadas ou aumentar desigualdades, entre outros riscos".

A lição para OSCs: antes de usar IA para triagem, priorização ou qualquer decisão que afete atendidos, é preciso auditar o modelo em busca de viés — e manter supervisão humana capaz de revisar decisões questionáveis.

O Que a Lei Diz: LGPD e Marco Legal da IA

LGPD — Decisões automatizadas (art. 20)

A LGPD (Lei 13.709/2018, art. 20) já estabelece:

"O titular dos dados tem direito a solicitar a revisão de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais que afetem seus interesses, incluídas as decisões destinadas a definir o seu perfil pessoal, profissional, de consumo e de crédito ou os aspectos de sua personalidade."

Isso significa: se sua OSC usa IA para decidir quem entra em um programa, quem recebe um benefício ou quem é priorizado no atendimento, o atendido tem direito de pedir revisão por um humano. A ANPD reforça que "a LGPD estabelece regras quanto à revisão de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais que afetem interesses dos titulares".

Marco Legal da IA (PL 2338/2023)

O Marco Legal da IA está em tramitação na Câmara dos Deputados (aprovado no Senado em dezembro de 2024). O art. 1º estabelece "normas gerais de caráter nacional para a governança responsável de sistemas de inteligência artificial (IA) no Brasil, com o objetivo de proteger os direitos fundamentais, estimular a inovação responsável e a competitividade e garantir a implementação de sistemas seguros e confiáveis".

Os princípios incluem não discriminação e supervisão humana — exatamente o que falta a 83% das OSCs brasileiras que ainda não discutem riscos éticos de IA.

UNESCO — Recomendação sobre Ética em IA

A UNESCO, em 2021, adotou o primeiro padrão global sobre ética em IA, aprovado por 193 Estados-membros. O documento alerta que "tecnologias de IA podem ser de grande serviço à humanidade, mas também levantam preocupações éticas fundamentais, por exemplo, quanto aos vieses que podem incorporar e exacerbar, potencialmente resultando em discriminação, desigualdade, divisões digitais e exclusão".

5 Práticas de IA Responsável para OSCs

1. Nunca use IA para decisão exclusivamente automatizada sobre atendidos

A LGPD art. 20 exige direito de revisão. Se a IA sugere "priorizar atendido X", um humano deve confirmar — e o atendido deve poder pedir revisão. A IA pode apoiar, não decidir sozinha.

Diferencial do Nexus Social: os relatórios de IA são sempre apresentados como sugestões, com aviso explícito de que a decisão final é humana. Cada geração fica registrada na trilha de auditoria com o prompt, a resposta e o usuário que solicitou.

2. Anonimize dados sensíveis antes de enviar para LLMs

Nunca envie CPF, nome, endereço ou dados de saúde de atendidos para APIs de IA generativa em texto puro. Substitua por identificadores anônimos ("Atendido #1234"), remova PII do prompt e mantenha apenas o contexto necessário. Saiba mais em nosso guia sobre dados sensíveis de famílias atendidas.

3. Estabeleça cotas de uso por usuário

IA generativa tem custo e risco de uso indevido. Defina cotas mensais por usuário, monitore consumo e alerte sobre picos anômalos. Um voluntário que de repente faz 200 consultas de IA em um dia pode estar expondo dados que não deveria.

Diferencial do Nexus Social: o sistema implementa cotas de uso de IA por usuário, com bloqueio automático ao atingir o limite e registro na trilha de auditoria. Veja como funciona.

4. Audite o modelo em busca de viés

Antes de usar IA para triagem ou priorização, teste com dados históricos: o modelo trata igual populações diferentes (por renda, raça, gênero, território)? Se o modelo prioriza automaticamente famílias de uma região específica, investigue por quê.

5. Capacite a equipe

A falta de conhecimento técnico é a barreira nº 1 (42%). Programas como o IA.3 do IDIS — "Inteligência Artificial para o Terceiro Setor", com apoio do Google.org e Canal SabIAr — oferecem capacitação gratuita. Invista em formação antes de adotar IA em processos sensíveis.

Governança de Prompts com Dados Sensíveis

O ponto mais crítico da IA em OSCs é o prompt — o texto que se envia ao modelo. Um assistente social que cola o prontuário completo de uma família no ChatGPT para "resumir" está vazando dados sensíveis para um provedor externo, sem trilha de auditoria, sem controle de retenção do provedor.

Regras práticas:

• Nunca cole dados de atendidos em ferramentas de IA consumer (ChatGPT gratuito, Gemini público, etc.)
• Use apenas ferramentas que garantam contrato com cláusulas de LGPD e não treinem modelos com seus dados
• Anonimize antes de enviar (substitua nomes por IDs, remova CPF e endereço)
• Registre o prompt e a resposta na trilha de auditoria interna
• Defina quem pode usar IA e para quais finalidades

Diferencial do Nexus Social: a plataforma intermediatiza a chamada ao LLM, anonimizando dados sensíveis antes do envio e registrando cada interação na trilha de auditoria. O usuário nunca interage diretamente com a API do provedor.

Perguntas Frequentes

Posso usar ChatGPT para resumir prontuários de atendidos?

Não sem precauções. Colar prontuários em ferramentas consumer expõe dados sensíveis a um provedor externo, sem garantias de LGPD. Use apenas sistemas que anonimizam os dados antes do envio e registram a interação na trilha de auditoria interna.

A LGPD proíbe uso de IA em OSCs?

Não proíbe, mas regula. O art. 20 garante ao titular o direito de revisão de decisões automatizadas. O art. 46 exige medidas de segurança. A ANPD tem se debruçado especificamente sobre a interface entre IA e proteção de dados (Tomada de Subsídios sobre IA, 2025).

O Marco Legal da IA já está em vigor?

Ainda não. O PL 2338/2023 foi aprovado no Senado em dezembro de 2024 e está em tramitação na Câmara. Mas a LGPD já cobre grande parte dos riscos — especialmente o art. 20 sobre decisões automatizadas.

Como começar com IA na minha OSC de forma responsável?

Comece por usos de baixo risco: geração de conteúdo para redes sociais, rascunho de e-mails, resumos de reuniões (sem dados sensíveis). Antes de usar IA em qualquer processo que afete atendidos, defina uma política de IA responsável, capacite a equipe e audite o modelo em busca de viés.

---

IA pode amplificar o impacto da sua OSC — ou reproduzir desigualdades que você existe para combater. O Nexus Social entrega IA com governança: cotas por usuário, anonimização de dados sensíveis, trilha de auditoria de cada interação e relatórios sempre como sugestão, com decisão humana. Agende uma demonstração e use IA sem colocar atendidos em risco.

---

Fontes e Referências

• Canal SabIAr / Instituto Beja / FGV-EAESP — IA no campo socioambiental brasileiro — Pesquisa com 414 organizações sobre uso de IA por OSCs brasileiras (2025)
• Plataforma Conjunta — Como o campo social brasileiro está usando a IA — Estudo exploratório sobre uso de IA por OSCs (2025)
• Planalto — Lei nº 13.709/2018 (LGPD), art. 20 — Direito de revisão de decisões automatizadas (2018)
• ANPD — Tomada de Subsídios sobre Inteligência Artificial — Resultados de consulta pública sobre interface IA e proteção de dados (2025)
• Câmara dos Deputados — PL 2338/2023 (Marco Legal da IA) — Estabelece normas para governança responsável de IA no Brasil (2023)
• UNESCO — Recommendation on the Ethics of Artificial Intelligence — Primeiro padrão global sobre ética em IA, adotado por 193 países (2021)
• OCDE — Using AI to Manage Minimum Income Benefits and Unemployment Assistance — Riscos de viés em IA para assistência social (2024)
• La Quadrature du Net — French Family Welfare Scoring Algorithm Challenged in Court — Ação judicial contra algoritmo discriminatório da CAF (2024)
• IDIS — IA.3 (Inteligência Artificial para o Terceiro Setor) — Programa de capacitação gratuita em IA para ONGs, com apoio do Google.org (2025)

---