IA Responsável em OSCs: Como Evitar Viés e Proteger Dados Sensíveis

Pontos-Chave sobre IA Responsável em OSCs

• 42% das OSCs brasileiras apontam falta de conhecimento técnico como maior barreira para adotar IA
• Apenas 17% discutem riscos éticos como discriminação algorítmica e privacidade
• A LGPD art. 20 garante ao titular o direito de revisão de decisões tomadas unicamente com base em tratamento automatizado
• O Marco Legal da IA (PL 2338/2023) ainda é um projeto de lei: passou pelo Senado e segue em análise na Câmara dos Deputados. Hoje valem a LGPD e as demais leis já em vigor

Por Que IA Responsável é um Tema Urgente para OSCs

A inteligência artificial chegou ao terceiro setor brasileiro — e chegou rápido. Pesquisa inédita do Canal SabIAr com FGV-EAESP e Instituto Beja, com 414 organizações do campo socioambiental brasileiro, revelou que 70% das OSCs que usam IA a aplicam em comunicação e geração de conteúdo, enquanto apenas 8% usam em captação de recursos e 10% em gestão financeira.

O dado mais alarmante: apenas 17% discutem riscos éticos, como discriminação algorítmica e privacidade. E 42% apontam a falta de conhecimento técnico como a maior barreira para adoção (Plataforma Conjunta / SabIAr / FGV-EAESP, 2025).

A combinação é perigosa: organizações que lidam com populações vulneráveisizadas estão adotando uma tecnologia poderosa sem discutir seus riscos éticos. Quando a IA começa a ser usada para triagem de atendidos, priorização de casos ou geração de relatórios de impacto, o viés algorítmico pode reproduzir — e amplificar — desigualdades que a OSC existe para combater.

Diferencial do Nexus Social: a plataforma aplica cotas de uso por usuário, registra todas as interações com IA na trilha de auditoria e nunca envia dados sensíveis em texto puro para provedores externos — o dado é anonimizado antes de qualquer chamada de LLM.

O Panorama da IA em OSCs Brasileiras

Pesquisa SabIAr / FGV-EAESP (2025)

A pesquisa ouviu 414 organizações do campo socioambiental brasileiro sobre uso de IA:

• 42% apontam a falta de conhecimento técnico como a maior barreira
• 70% das que usam IA a aplicam em comunicação e geração de conteúdo
• Apenas 8% usam IA para apoiar captação de recursos
• Apenas 10% usam IA em gestão financeira
• Apenas 17% discutem riscos éticos como discriminação algorítmica e privacidade
• Apenas 10% dos coletivos e movimentos sociais relatam alta integração tecnológica

Fontes: Canal SabIAr / Instituto Beja / FGV-EAESP — IA no campo socioambiental brasileiro (2025); Plataforma Conjunta — Como o campo social brasileiro está usando a IA (2025)

Atenção: a pesquisa ouviu 414 organizações respondentes — não é um censo nacional de todas as OSCs brasileiras. Os números refletem o perfil de quem respondeu, não a totalidade do setor.

O Risco do Viés Algorítmico em Assistência Social

O caso da CAF na França

O caso mais documentado de viés algorítmico em assistência social é o da CAF (Caisse d'Allocations Familiales) da França. Em 2024, 15 organizações da sociedade civil, incluindo Amnesty International, entraram com ação judicial contra um algoritmo que atribuía pontuação de suspeição a beneficiários.

O problema: "fatores que aumentam a pontuação de suspeição incluem ter baixa renda, estar desempregado, receber o benefício de renda mínima (RSA) ou benefícios por deficiência (AAH). Como consequência direta, indivíduos em situação de vulnerabilidade se encontram mais monitorados que o restante da população".

Em outras palavras: o algoritmo penalizava justamente quem mais precisava da assistência — não por intenção maliciosa, mas porque os dados históricos de fiscalização concentravam-se em populações vulneráveis, e o modelo aprendeu esse padrão como "suspeito".

O alerta da OCDE

A OCDE (Organização para Cooperação e Desenvolvimento Econômico) publicou em 2024 relatório sobre uso de IA em programas de assistência social, alertando que a tecnologia "pode levar a avaliações de elegibilidade sistematicamente enviesadas ou aumentar desigualdades, entre outros riscos".

A lição para OSCs: antes de usar IA para triagem, priorização ou qualquer decisão que afete atendidos, é preciso auditar o modelo em busca de viés — e manter supervisão humana capaz de revisar decisões questionáveis.

O Que a Lei Diz: LGPD e Marco Legal da IA

LGPD — Decisões automatizadas (art. 20)

A LGPD (Lei 13.709/2018, art. 20) já estabelece:

"O titular dos dados tem direito a solicitar a revisão de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais que afetem seus interesses, incluídas as decisões destinadas a definir o seu perfil pessoal, profissional, de consumo e de crédito ou os aspectos de sua personalidade."

Isso significa: se sua OSC usa IA para decidir quem entra em um programa, quem recebe um benefício ou quem é priorizado no atendimento, o atendido tem direito de pedir a revisão da decisão. A LGPD não exige expressamente que a revisão seja feita por pessoa natural (esse trecho foi vetado em 2019), mas a supervisão humana é a forma mais segura de garanti-la na prática. A ANPD reforça que "a LGPD estabelece regras quanto à revisão de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais que afetem interesses dos titulares".

Marco Legal da IA (PL 2338/2023): um projeto, não uma lei

Estado da tramitação, consultado em 12/10/2026 nas páginas oficiais do Senado Federal e da Câmara dos Deputados: o PL 2338/2023 foi aprovado pelo Senado em dezembro de 2024 e enviado à Câmara em março de 2025. Lá, uma Comissão Especial foi criada em abril de 2025 para analisá-lo e, na consulta, a situação constava como "Aguardando Parecer". Não há lei sancionada. A tramitação muda com frequência; confira a ficha oficial antes de citar o estágio em documentos da sua organização.

O texto do PL 2338/2023 propõe, em seu art. 1º, "normas gerais de caráter nacional para a governança responsável de sistemas de inteligência artificial (IA) no Brasil, com o objetivo de proteger os direitos fundamentais, estimular a inovação responsável e a competitividade e garantir a implementação de sistemas seguros e confiáveis". Na Câmara também tramitam outros projetos sobre temas próximos, como IA na saúde e identificação de conteúdo gerado por IA, que podem ser reunidos ao debate. O texto final pode mudar e nenhuma obrigação do projeto vale hoje.

A discussão aponta como direção, sem garantia de resultado, a classificação de sistemas por nível de risco, a não discriminação, a transparência, a supervisão humana e a avaliação de impacto. Para uma OSC, a postura prudente é adotar essas práticas desde já, porque elas também reduzem riscos sob a LGPD.

O que já vale hoje: LGPD aplicada à IA

Mesmo sem lei específica de IA, todo tratamento de dados pessoais feito por sistemas de IA já está sujeito à LGPD: finalidade e necessidade (art. 6º), base legal (arts. 7º e 11, este para dados sensíveis), segurança (art. 46) e o direito de revisão do art. 20, que inclui pedir informações claras sobre os critérios e procedimentos da decisão automatizada. Para o panorama completo de obrigações, veja o guia de LGPD para ONGs e OSCs.

UNESCO — Recomendação sobre Ética em IA

A UNESCO, em 2021, adotou o primeiro padrão global sobre ética em IA, aprovado por 193 Estados-membros. O documento alerta que "tecnologias de IA podem ser de grande serviço à humanidade, mas também levantam preocupações éticas fundamentais, por exemplo, quanto aos vieses que podem incorporar e exacerbar, potencialmente resultando em discriminação, desigualdade, divisões digitais e exclusão".

7 Práticas de IA Responsável para OSCs

1. Nunca use IA para decisão exclusivamente automatizada sobre atendidos

A LGPD art. 20 exige direito de revisão. Se a IA sugere "priorizar atendido X", um humano deve confirmar — e o atendido deve poder pedir revisão. A IA pode apoiar, não decidir sozinha. A supervisão humana precisa ser real: quem revisa deve ter autonomia, tempo e informação para discordar da sugestão, e a discordância deve ficar registrada.

Diferencial do Nexus Social: os relatórios de IA são sempre apresentados como sugestões, com aviso explícito de que a decisão final é humana. Cada geração fica registrada na trilha de auditoria com o prompt, a resposta e o usuário que solicitou.

2. Anonimize dados sensíveis antes de enviar para LLMs

Nunca envie CPF, nome, endereço ou dados de saúde de atendidos para APIs de IA generativa em texto puro. Substitua por identificadores anônimos ("Atendido #1234"), remova PII do prompt e mantenha apenas o contexto necessário. Saiba mais em nosso guia sobre dados sensíveis de famílias atendidas.

3. Estabeleça cotas de uso por usuário

IA generativa tem custo e risco de uso indevido. Defina cotas mensais por usuário, monitore consumo e alerte sobre picos anômalos. Um voluntário que de repente faz 200 consultas de IA em um dia pode estar expondo dados que não deveria.

Diferencial do Nexus Social: o sistema implementa cotas de uso de IA por usuário, com bloqueio automático ao atingir o limite e registro na trilha de auditoria. Veja como funciona.

4. Audite o modelo em busca de viés

Antes de usar IA para triagem ou priorização, teste com dados históricos: o modelo trata igual populações diferentes (por renda, raça, gênero, território)? Se o modelo prioriza automaticamente famílias de uma região específica, investigue por quê. Repita o teste periodicamente, pois o comportamento muda com novos dados e novas versões do modelo, e desconfie de variáveis que funcionam como "proxy" de características sensíveis, como o CEP para renda ou raça. Para o uso de dados em decisões de forma mais ampla, veja análise de dados para tomada de decisão em OSCs.

5. Capacite a equipe

A falta de conhecimento técnico é a barreira nº 1 (42%). Programas como o IA.3 do IDIS — "Inteligência Artificial para o Terceiro Setor", com apoio do Google.org e Canal SabIAr — oferecem capacitação gratuita. Invista em formação antes de adotar IA em processos sensíveis.

6. Avalie fornecedores e modelos de terceiros

Antes de contratar, pergunte ao fornecedor: onde os dados são processados, quais subprocessadores participam, se os seus dados são usados para treinar modelos, por quanto tempo prompts e respostas ficam retidos, como é feita a exclusão e como ele comunica incidentes. Exija as respostas por escrito, no contrato ou nos termos de uso, e prefira planos corporativos a contas pessoais. Se houver transferência internacional de dados, verifique as regras vigentes na ANPD.

7. Defina retenção e uso dos dados

Trate prompts, anexos e respostas como dados da OSC: defina por quanto tempo ficam guardados, quem acessa e quando são apagados. Colete só o necessário para a finalidade, não reutilize dados de atendidos para fins novos sem base legal e informe os titulares, em linguagem simples, quando a IA influenciar algo que os afete.

Governança de Prompts com Dados Sensíveis

O ponto mais crítico da IA em OSCs é o prompt — o texto que se envia ao modelo. Um assistente social que cola o prontuário completo de uma família no ChatGPT para "resumir" está vazando dados sensíveis para um provedor externo, sem trilha de auditoria, sem controle de retenção do provedor.

Regras práticas:

• Nunca cole dados de atendidos em ferramentas de IA consumer (ChatGPT gratuito, Gemini público, etc.)
• Use apenas ferramentas que garantam contrato com cláusulas de LGPD e não treinem modelos com seus dados
• Anonimize antes de enviar (substitua nomes por IDs, remova CPF e endereço)
• Registre o prompt e a resposta na trilha de auditoria interna
• Defina quem pode usar IA e para quais finalidades

Checklist de governança interna de IA para OSCs

1. Inventário: liste as ferramentas de IA em uso, inclusive as que voluntários usam por conta própria, e a finalidade de cada uma.
2. Política escrita: o que é permitido, o que é proibido e o que exige aprovação (por exemplo, IA nunca decide sozinha sobre acesso a benefícios).
3. Dados: classifique o que pode entrar em prompts; dados pessoais e sensíveis só com base legal, minimização e anonimização.
4. Responsável: indique quem responde pela política e recebe dúvidas e pedidos de revisão; o encarregado de dados, quando houver, deve participar.
5. Revisão humana: defina o fluxo para o titular pedir revisão de uma decisão apoiada por IA, conforme o art. 20 da LGPD.
6. Viés e qualidade: teste periodicamente os resultados com diferentes grupos atendidos e registre as correções.
7. Fornecedores: contrato com cláusulas de proteção de dados, regra sobre treino com seus dados, retenção e exclusão.
8. Transparência: informe atendidos e parceiros quando a IA for usada em algo que os afete.
9. Incidentes: inclua a IA no plano de resposta a incidentes de segurança.
10. Revisão periódica: reavalie a política a cada semestre ou quando a legislação mudar.

Diferencial do Nexus Social: a plataforma intermediatiza a chamada ao LLM, anonimizando dados sensíveis antes do envio e registrando cada interação na trilha de auditoria. O usuário nunca interage diretamente com a API do provedor.

Perguntas Frequentes

Posso usar ChatGPT para resumir prontuários de atendidos?

Não sem precauções. Colar prontuários em ferramentas consumer expõe dados sensíveis a um provedor externo, sem garantias de LGPD. Use apenas sistemas que anonimizam os dados antes do envio e registram a interação na trilha de auditoria interna.

A LGPD proíbe uso de IA em OSCs?

Não proíbe, mas regula. O art. 20 garante ao titular o direito de revisão de decisões automatizadas. O art. 46 exige medidas de segurança. A ANPD tem se debruçado especificamente sobre a interface entre IA e proteção de dados (Tomada de Subsídios sobre IA, 2025).

O Marco Legal da IA já está em vigor?

Não. O PL 2338/2023 é um projeto de lei: foi aprovado no Senado em dezembro de 2024 e segue em análise na Câmara (consulta oficial em 12/10/2026). Só vira lei depois de aprovado pelo Congresso e sancionado. Enquanto isso, a LGPD já cobre grande parte dos riscos — especialmente o art. 20 sobre decisões automatizadas.

Como começar com IA na minha OSC de forma responsável?

Comece por usos de baixo risco: geração de conteúdo para redes sociais, rascunho de e-mails, resumos de reuniões (sem dados sensíveis). Antes de usar IA em qualquer processo que afete atendidos, defina uma política de IA responsável, capacite a equipe e audite o modelo em busca de viés.

Preciso avisar os atendidos que uso IA?

Se a IA influencia algo que os afete, sim: informe de forma clara, explique como pedir revisão e mantenha o registro. A LGPD exige transparência (art. 6º, VI) e garante a revisão do art. 20.

---

IA pode amplificar o impacto da sua OSC — ou reproduzir desigualdades que você existe para combater. O Nexus Social entrega IA com governança: cotas por usuário, anonimização de dados sensíveis, trilha de auditoria de cada interação e relatórios sempre como sugestão, com decisão humana. Agende uma demonstração e use IA sem colocar atendidos em risco.

---

Fontes e Referências

• Canal SabIAr / Instituto Beja / FGV-EAESP — IA no campo socioambiental brasileiro — Pesquisa com 414 organizações sobre uso de IA por OSCs brasileiras (2025)
• Plataforma Conjunta — Como o campo social brasileiro está usando a IA — Estudo exploratório sobre uso de IA por OSCs (2025)
• Planalto — Lei nº 13.709/2018 (LGPD), art. 20 — Direito de revisão de decisões automatizadas (2018)
• ANPD — Tomada de Subsídios sobre Inteligência Artificial — Resultados de consulta pública sobre interface IA e proteção de dados (2025)
• Câmara dos Deputados — PL 2338/2023 (Marco Legal da IA), ficha de tramitação — Projeto de lei em tramitação; consultado em 12/10/2026
• Câmara dos Deputados — PL 2338/2023, texto do Avulso — Texto que propõe normas para governança responsável de IA (2023)
• Senado Federal — PL 2338/2023 — Tramitação no Senado e remessa à Câmara; consultado em 12/10/2026
• UNESCO — Recommendation on the Ethics of Artificial Intelligence — Primeiro padrão global sobre ética em IA, adotado por 193 países (2021)
• OCDE — Using AI to Manage Minimum Income Benefits and Unemployment Assistance — Riscos de viés em IA para assistência social (2024)
• La Quadrature du Net — French Family Welfare Scoring Algorithm Challenged in Court — Ação judicial contra algoritmo discriminatório da CAF (2024)
• IDIS — IA.3 (Inteligência Artificial para o Terceiro Setor) — Programa de capacitação gratuita em IA para ONGs, com apoio do Google.org (2025)