Modelos de aprendizado de máquina são cada vez mais usados para informar tomadas de decisões de alto risco relacionadas às pessoas. Embora o aprendizado de máquina, por sua própria natureza, seja uma forma de discriminação estatística, a discriminação se torna questionável quando coloca grupos privilegiados em vantagem sistemática e certos grupos desprivilegiados em desvantagem sistemática, podendo causar danos variados. Vieses em dados de treinamento, devido a preconceitos em rótulos ou subamostragem/superamostragem, produzem modelos com viés indesejado.

• Dados diversificados e representativos

Certifique-se de que os dados de treinamento usados para criar modelos de IA sejam diversificados e representativos da população a que se destinam. Inclua inputs de dados de vários grupos demográficos para evitar sub-representação ou viés. Verifique e avalie regularmente os dados de treinamento em busca de vieses. Use ferramentas e métodos para identificar e corrigir vieses no conjunto de dados antes de treinar o modelo.

• Algoritmos com reconhecimento de viés

Incorpore métricas de imparcialidade no processo de desenvolvimento para avaliar como os diferentes subgrupos são afetados pelas previsões do modelo. Monitore e minimize as disparidades nos resultados entre vários grupos demográficos. Aplique restrições no algoritmo para garantir que o modelo siga os critérios de imparcialidade predefinidos durante o treinamento e a implementação.

• Técnicas de mitigação de vieses

Aplique técnicas como reamostragem, reponderação e treinamento adversário para mitigar vieses nas previsões do modelo.

• Equipes de desenvolvimento diversificadas

Reúna equipes interdisciplinares e diversificadas envolvidas no desenvolvimento da IA. Equipes diversificadas podem trazer perspectivas diferentes, ajudando a identificar e corrigir vieses que podem ser ignorados por equipes homogêneas.

• Conselhos de avaliação de IA ética

Estabelecer conselhos ou comitês de avaliação para analisar os possíveis vieses e as implicações éticas dos projetos de IA. Esses conselhos podem fornecer orientação sobre considerações éticas durante todo o ciclo de vida do desenvolvimento.

A IA robusta lida com condições excepcionais, como anormalidades em inputs ou ataques maliciosos, sem causar danos não intencionais. Ela também foi desenvolvida para resistir a interferências intencionais e não intencionais, protegendo contra vulnerabilidades expostas. Nossa crescente dependência desses modelos e o valor que eles representam como acúmulo de conhecimento confidencial e proprietário aumentam o risco de ataques. Esses modelos apresentam riscos de segurança exclusivos que devem ser contabilizados e mitigados.

Os usuários devem ser capazes de ver como o serviço funciona, avaliar sua funcionalidade e compreender seus pontos fortes e limitações. O aumento da transparência fornece informações para que os consumidores de IA entendam melhor como o modelo ou serviço de IA foi criado. Isso ajuda o usuário do modelo a determinar se ele é apropriado para um determinado caso de uso ou a avaliar como uma IA produziu conclusões imprecisas ou tendenciosas.  

Muitas frameworks regulatórias, incluindo o GDPR, exigem que as organizações cumpram certos princípios de privacidade ao processar informações pessoais. Um terceiro mal-intencionado com acesso a um modelo de ML treinado, mesmo sem acesso aos próprios dados de treinamento, ainda pode revelar informações pessoais confidenciais sobre as pessoas cujos dados foram usados para treinar o modelo. É crucial ser capaz de proteger modelos de IA que possam conter informações pessoais e controlar quais dados entram no modelo em primeiro lugar.