Saiba como integrar as práticas da AI Responsible ao seu fluxo de trabalho de ML usando o TensorFlow
O TensorFlow tem o compromisso de fazer progresso no desenvolvimento responsável da IA compartilhando recursos e ferramentas com a comunidade de ML.
O que é a IA Responsible?
O desenvolvimento da IA está criando novas oportunidades para resolver problemas desafiadores do mundo real. Também está levantando novas perguntas sobre a melhor maneira de desenvolver sistemas de IA úteis para todo mundo.
Práticas recomendadas para IA
A criação de sistemas de IA precisa seguir as práticas recomendadas de desenvolvimento de software e uma
abordagem em relação ao ML centrada nas pessoas
Imparcialidade
Conforme o impacto da IA aumenta em vários setores e na sociedade, é fundamental trabalhar para que os sistemas sejam imparciais e inclusivos
Interpretabilidade
Entender e confiar em sistemas de IA é importante para garantir que eles funcionem conforme o esperado
Privacidade
O treinamento de modelos com dados confidenciais exige salvaguardas para a preservação de privacidade
Segurança
Identificar possíveis ameaças pode ajudar a manter os sistemas de IA seguros e protegidos
Responsible AI em seu fluxo de trabalho de ML
Práticas da Responsible AI podem ser integradas em todas as etapas do seu fluxo de trabalho de ML. Veja algumas perguntas importantes a serem consideradas em cada fase.
Para quem é o meu sistema de ML?
A experiência dos usuários reais no seu sistema é essencial para avaliar o verdadeiro impacto das previsões, recomendações e decisões. Verifique se você recebeu informações de um grupo diverso de usuários desde o início do processo de desenvolvimento.
Estou usando um conjunto de dados representativo?
As amostras de dados representam os usuários (por exemplo, serão
usadas para todas as idades, mas você só tem dados de treinamento sobre idosos)
e o mundo real (por exemplo, serão usadas o ano todo, mas você só
tem dados de treinamento do verão)?
Há um viés humano ou real nos dados?
Vieses nos dados podem contribuir para feedback loops complexos que reforçam os estereótipos existentes.
Quais métodos devo usar para treinar meu modelo?
Use métodos de treinamento que desenvolvam a imparcialidade, a interpretabilidade, a privacidade e
a segurança do modelo.
Como está o desempenho do meu modelo?
Avalie a experiência do usuário em cenários reais para diversos usuários, casos e contextos de uso. Teste e repita os testes na versão dogfood primeiro e continue a testar após o lançamento.
Há feedback loops complexos?
Mesmo que todo o design do sistema seja cuidadosamente elaborado, modelos baseados em ML raramente funcionam com 100% de perfeição quando aplicados a dados de verdade e em tempo real. Quando ocorre um problema em um produto em tempo real, confira se ele se relaciona a desvantagens sociais existentes e como será afetado por soluções de curto e longo prazo.
Ferramentas de Responsible AI para o TensorFlow
O ecossistema do TensorFlow tem um pacote de ferramentas e recursos para ajudar a solucionar algumas das perguntas acima.
Definir o problema
Use os recursos a seguir para projetar modelos com Responsible AI em mente.
Saiba mais sobre o processo de desenvolvimento de IA e as principais considerações.
Descubra os principais conceitos e perguntas sobre a Responsible AI em visualizações interativas.
Criar e preparar os dados
Use as ferramentas a seguir para examinar possíveis vieses em dados.
Investigue interativamente seu conjunto de dados para melhorar a qualidade dos dados e mitigar problemas de imparcialidade e viés.
Analise e transforme os dados para detectar problemas e criar conjuntos de atributos mais eficientes.
Uma escala de tons de pele mais inclusiva, com licença aberta, para tornar sua coleção de dados e construção de modelos mais sólidos e inclusivos.
Crie e treine o modelo
Use as seguintes ferramentas para treinar modelos usando técnicas interpretáveis que preservam a privacidade e muito mais.
Avaliar o modelo
Depure, avalie e visualize o desempenho do modelo usando as seguintes ferramentas.
Avalie métricas de imparcialidade frequentemente identificadas para classificadores binários e multiclasse.
Avalie modelos de maneira distribuída e faça cálculos em diferentes partes de dados.
Implantar e monitorar
Use as seguintes ferramentas para acompanhar e se comunicar sobre o contexto do modelo e detalhes.
Registre e recupere metadados associados a fluxos de trabalho de desenvolvedores de ML e cientistas de dados.
Recursos da comunidade
Descubra o que a comunidade está fazendo e veja maneiras de participar.
Ajude os produtos do Google a se tornarem mais inclusivos e representativos no seu idioma, na sua região e cultura.
Pedimos aos participantes que usassem o TensorFlow 2.2 para desenvolver um modelo ou aplicativo com os princípios da Responsible AI em mente. Acesse a galeria para ver os vencedores e outros projetos incríveis.
Conheça um framework para pensar sobre ML, imparcialidade e privacidade.