IBM dá um passo importante para abrir a chamada ‘caixa-preta’ da inteligência artificial

Compartilhe:

Novos controles de detecção e mitigação de vieses na nuvem respondem à necessidade de mais transparência na tomada de decisões

A IBM apresentou hoje uma nova tecnologia que dá às empresas mais transparência nos modelos de Inteligência Artificial (IA).

O novo serviço de software, disponível na nuvem, com novos recursos de confiança e transparência, dá visibilidade sobre os parâmetros que a IA usa para chegar às recomendações e detecta automaticamente vieses no momento em que os sistemas estão em execução. Para apoiar a adoção de projetos em IA, a companhia irá disponibilizar para a comunidade open source ferramentas e materiais de educação para incentivar a colaboração global em torno do gerenciamento do viés na IA.

Resultados de uma nova pesquisa do Institute for Business Value da IBM revelam que, enquanto 82% das empresas estão considerando implementações de IA, 60% ainda temem problemas de responsabilidade e compliance e 63% não possuem habilidades internamente para gerenciar com confiança a tecnologia.

“A IBM liderou o setor ao estabelecer princípios de transparência para o desenvolvimento de novas tecnologias de IA”, disse Beth Smith, General Manager para Watson AI na IBM. “É hora de traduzir princípios em prática. Estamos dando nova transparência e controle às empresas que usam inteligência artificial e enfrentam o maior risco potencial de qualquer tomada de decisão incorreta”.

A tecnologia é executada na IBM Cloud e ajuda as organizações a gerenciar sistemas de inteligência artificial de uma ampla variedade de players do setor. IBM Services também trabalhará com as empresas para ajudá-las a aproveitar o novo serviço de software.

Visibilidade nas decisões de IA – Como a tecnologia funciona

Os novos recursos de Confiança e Transparência da IBM trabalham com modelos construídos a partir de uma grande variedade de estruturas de machine learning e ambientes construídos com inteligência artificial, como Watson, Tensorflow, SparkML, AWS SageMaker, and AzureML. Isso significa que as organizações podem aproveitar esses novos controles para a maioria dos códigos de IA e demais plataformas utilizadas por outras empresas que atuam neste mercado.

O serviço de software pode ser programado para monitorar os fatores de decisão de qualquer workflow de negócio, podendo ser personalizado para o uso específico das organizações. Além disso, ele é totalmente automatizado e explica a tomada de decisões ao longo da execução. É importante ressaltar que também recomenda automaticamente que dados sejam adicionados ao modelo para ajudar a atenuar qualquer tendência de viés detectada.

As explicações são fornecidas em termos fáceis de entender, mostrando quais fatores ajustaram a decisão em uma direção versus outra, apontando a confiança na recomendação e os fatores por trás dessa confiança. Além disso, os registros de precisão, desempenho, equidade do modelo, e a linhagem dos sistemas de inteligência artificial são rastreados e direcionados para atendimento ao cliente, por motivos regulatórios ou de conformidade – tais como o cumprimento da GDPR.

Todos esses recursos são acessados ​​por meio de painéis de controle visuais, dando aos usuários de negócios a capacidade sem precedentes para compreender, explicar e gerenciar decisões indicadas por IA e reduzir a dependência de habilidades específicas desta tecnologia.

A IBM também está disponibilizando novos serviços de consultoria para ajudar as empresas a projetar processos de negócios e interfaces entre inteligência artificial e humanos para minimizar ainda mais o impacto do viés na tomada de decisões.

Capacitando a comunidade de código aberto para construir uma IA mais justa

Além disso, IBM Research está disponibilizando para a comunidade de código aberto o toolkit de ferramentas AI Fairness 360, que consiste em uma biblioteca de novos algoritmos, códigos e tutoriais que fornecerá aos acadêmicos, pesquisadores e cientistas de dados ferramentas e conhecimento para integrar detecção de preconceito, enquanto constroem e implementam modelos de machine learning.

Embora outros recursos de código aberto tenham se concentrado apenas na verificação de viés nos dados de treinamento, o toolkit de ferramentas IBM AI Fairness 360 criado pela IBM Research ajudará a verificar e atenuar o viés nos modelos de IA. Com isso, convidamos a comunidade global de código aberto a trabalhar em conjunto para promover a ciência e facilitar a abordagem do viés na IA. Mais detalhes sobre a tecnologia podem ser lidos neste link.

Estudo revela prioridades e obstáculos para a implementação de IA convencional

De acordo com o estudo recente da IBM com cinco mil executivos sênior, o IBM Institute for Business Value AI 2018 Report, há uma mudança significativa na forma como os líderes de negócios analisam o potencial da IA para impulsionar o valor comercial e o crescimento da receita.

Entre as principais descobertas:

• 82% das empresas e 93% das empresas de alto desempenho estão considerando ou avançando na adoção da IA com foco na geração de receita.
• 60% temem questões relacionadas a confiança e 63% não possuem as habilidades para aproveitar o potencial da IA.
• Os CEOs percebem o maior valor da adoção da IA em TI, segurança da informação, inovação, atendimento ao cliente e gerenciamento de riscos.
• A adoção da IA é maior e provavelmente acelerará mais rapidamente em setores mais digitalizados, como os serviços financeiros.

Sobre a IBM e Inteligência Artificial

Líder mundial em software, serviços e tecnologia de AI para empresas na nuvem, a IBM implementou soluções de inteligência artificial com Watson em milhares de empresas em 20 setores e 80 países. As soluções Watson IA da IBM são amplamente utilizadas em indústrias, incluindo sete das dez maiores empresas automotivas e oito das dez maiores empresas de petróleo e gás.