Aprenda como integrar práticas de IA responsável ao seu fluxo de trabalho de ML usando o TensorFlow
O TensorFlow está comprometido em ajudar a progredir no desenvolvimento responsável da IA, compartilhando uma coleção de recursos e ferramentas com a comunidade de ML.
O que é IA Responsável?
O desenvolvimento da IA está a criar novas oportunidades para resolver problemas desafiantes do mundo real. Também está a levantar novas questões sobre a melhor forma de construir sistemas de IA que beneficiem a todos.
Melhores práticas recomendadas para IA
O projeto de sistemas de IA deve seguir as melhores práticas de desenvolvimento de software, ao mesmo tempo em que adota uma abordagem centrada no ser humano.
abordagem para ML
Justiça
À medida que o impacto da IA aumenta em todos os setores e sociedades, é fundamental trabalhar no sentido de sistemas que sejam justos e inclusivos para todos
Interpretabilidade
Compreender e confiar nos sistemas de IA é importante para garantir que funcionam conforme pretendido
Privacidade
Modelos de treinamento baseados em dados confidenciais precisam de salvaguardas que preservem a privacidade
Segurança
A identificação de ameaças potenciais pode ajudar a manter os sistemas de IA seguros e protegidos
IA responsável em seu fluxo de trabalho de ML
Práticas responsáveis de IA podem ser incorporadas em todas as etapas do fluxo de trabalho de ML. Aqui estão algumas questões-chave a serem consideradas em cada estágio.
Para quem é meu sistema de ML?
A forma como os usuários reais experimentam seu sistema é essencial para avaliar o verdadeiro impacto de suas previsões, recomendações e decisões. Certifique-se de obter informações de um conjunto diversificado de usuários no início do processo de desenvolvimento.
Estou usando um conjunto de dados representativo?
Seus dados são amostrados de forma a representar seus usuários (por exemplo, serão usados para todas as idades, mas você só tem dados de treinamento de idosos) e o cenário do mundo real (por exemplo, serão usados durante todo o ano, mas você só tem treinamento dados do verão)?
Existe preconceito humano/do mundo real em meus dados?
Os preconceitos subjacentes nos dados podem contribuir para ciclos de feedback complexos que reforçam os estereótipos existentes.
Que métodos devo usar para treinar meu modelo?
Use métodos de treinamento que incorporem justiça, interpretabilidade, privacidade e segurança ao modelo.
Como está o desempenho do meu modelo?
Avalie a experiência do usuário em cenários do mundo real em um amplo espectro de usuários, casos de uso e contextos de uso. Teste e itere primeiro no dogfood, seguido de testes contínuos após o lançamento.
Existem ciclos de feedback complexos?
Mesmo que tudo no design geral do sistema seja cuidadosamente elaborado, os modelos baseados em ML raramente funcionam com 100% de perfeição quando aplicados a dados reais e em tempo real. Quando ocorre um problema num produto ativo, considere se este se alinha com quaisquer desvantagens sociais existentes e como será impactado por soluções de curto e longo prazo.
Ferramentas de IA responsáveis para TensorFlow
O ecossistema TensorFlow possui um conjunto de ferramentas e recursos para ajudar a resolver algumas das questões acima.
Definir problema
Use os recursos a seguir para projetar modelos tendo em mente a IA responsável.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_pair-guidebook.jpg?authuser=0000&hl=pt)
Saiba mais sobre o processo de desenvolvimento de IA e as principais considerações.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_explorable-bias.jpg?authuser=0000&hl=pt)
Explore, por meio de visualizações interativas, as principais questões e conceitos no domínio da IA responsável.
Construir e preparar dados
Use as ferramentas a seguir para examinar os dados em busca de possíveis vieses.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_know-your-data.jpg?authuser=0000&hl=pt)
Investigue interativamente seu conjunto de dados para melhorar a qualidade dos dados e mitigar problemas de imparcialidade e preconceito.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_tensorflow-data-validation.jpg?authuser=0000&hl=pt)
Analise e transforme dados para detectar problemas e projetar conjuntos de recursos mais eficazes.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_data-cards.png?authuser=0000&hl=pt)
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/title_responsible-ai.jpg?authuser=0000&hl=pt)
Uma escala de tons de pele mais inclusiva, com licença aberta, para tornar suas necessidades de coleta de dados e construção de modelos mais robustas e inclusivas.
Construir e treinar modelo
Use as ferramentas a seguir para treinar modelos usando técnicas interpretáveis de preservação de privacidade e muito mais.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_tensorflow-model-remediation-library.jpeg?authuser=0000&hl=pt)
Treine modelos de aprendizado de máquina para promover resultados mais equitativos.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_tensorflow-privacy.jpg?authuser=0000&hl=pt)
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_tensorflow-federated.jpg?authuser=0000&hl=pt)
Treine modelos de aprendizado de máquina usando técnicas de aprendizado federado.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_constrained-optimization.jpg?authuser=0000&hl=pt)
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_lattice.jpg?authuser=0000&hl=pt)
Avaliar modelo
Depure, avalie e visualize o desempenho do modelo usando as ferramentas a seguir.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_fairness-indicators.jpg?authuser=0000&hl=pt)
Avalie métricas de justiça comumente identificadas para classificadores binários e multiclasses.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_tensorflow-model-analysis.jpg?authuser=0000&hl=pt)
Avalie modelos de maneira distribuída e calcule diferentes fatias de dados.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_what-if-tool.jpg?authuser=0000&hl=pt)
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_language-interpretability-tool.png?authuser=0000&hl=pt)
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_explainable-ai.jpg?authuser=0000&hl=pt)
Desenvolva modelos de aprendizado de máquina interpretáveis e inclusivos.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_tf-privacy-testing.png?authuser=0000&hl=pt)
Avalie as propriedades de privacidade dos modelos de classificação.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_tensorboard.png?authuser=0000&hl=pt)
Implantar e monitorar
Use as ferramentas a seguir para rastrear e comunicar sobre o contexto e os detalhes do modelo.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_model_card_toolkit.png?authuser=0000&hl=pt)
Gere cartões de modelo com facilidade usando o kit de ferramentas de cartão de modelo.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_ml-metadata.jpg?authuser=0000&hl=pt)
Registre e recupere metadados associados a fluxos de trabalho de desenvolvedores de ML e cientistas de dados.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_model-cards.jpg?authuser=0000&hl=pt)
Organize os fatos essenciais do aprendizado de máquina de forma estruturada.
Recursos comunitários
Saiba o que a comunidade está fazendo e explore maneiras de se envolver.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/other/tile_crowdsource.jpg?authuser=0000&hl=pt)
Ajude os produtos do Google a se tornarem mais inclusivos e representativos do seu idioma, região e cultura.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/other/tile_tensorflow.jpg?authuser=0000&hl=pt)
Pedimos aos participantes que usassem o TensorFlow 2.2 para criar um modelo ou aplicativo com os princípios da IA responsável em mente. Confira a galeria para ver os vencedores e outros projetos incríveis.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/other/tile_tf-dev-summit.jpg?authuser=0000&hl=pt)
Apresentando uma estrutura para pensar sobre ML, justiça e privacidade.
Aprenda como integrar práticas de IA responsável ao seu fluxo de trabalho de ML usando o TensorFlow
O TensorFlow está comprometido em ajudar a progredir no desenvolvimento responsável da IA, compartilhando uma coleção de recursos e ferramentas com a comunidade de ML.
O que é IA Responsável?
O desenvolvimento da IA está a criar novas oportunidades para resolver problemas desafiantes do mundo real. Também está a levantar novas questões sobre a melhor forma de construir sistemas de IA que beneficiem a todos.
Melhores práticas recomendadas para IA
O projeto de sistemas de IA deve seguir as melhores práticas de desenvolvimento de software, ao mesmo tempo em que adota uma abordagem centrada no ser humano.
abordagem para ML
Justiça
À medida que o impacto da IA aumenta em todos os setores e sociedades, é fundamental trabalhar no sentido de sistemas que sejam justos e inclusivos para todos
Interpretabilidade
Compreender e confiar nos sistemas de IA é importante para garantir que funcionam conforme pretendido
Privacidade
Modelos de treinamento baseados em dados confidenciais precisam de salvaguardas que preservem a privacidade
Segurança
A identificação de ameaças potenciais pode ajudar a manter os sistemas de IA seguros e protegidos
IA responsável em seu fluxo de trabalho de ML
Práticas responsáveis de IA podem ser incorporadas em todas as etapas do fluxo de trabalho de ML. Aqui estão algumas questões-chave a serem consideradas em cada estágio.
Para quem é meu sistema de ML?
A forma como os usuários reais experimentam seu sistema é essencial para avaliar o verdadeiro impacto de suas previsões, recomendações e decisões. Certifique-se de obter informações de um conjunto diversificado de usuários no início do processo de desenvolvimento.
Estou usando um conjunto de dados representativo?
Seus dados são amostrados de forma a representar seus usuários (por exemplo, serão usados para todas as idades, mas você só tem dados de treinamento de idosos) e o cenário do mundo real (por exemplo, serão usados durante todo o ano, mas você só tem treinamento dados do verão)?
Existe preconceito humano/do mundo real em meus dados?
Os preconceitos subjacentes nos dados podem contribuir para ciclos de feedback complexos que reforçam os estereótipos existentes.
Que métodos devo usar para treinar meu modelo?
Use métodos de treinamento que incorporem justiça, interpretabilidade, privacidade e segurança ao modelo.
Como está o desempenho do meu modelo?
Avalie a experiência do usuário em cenários do mundo real em um amplo espectro de usuários, casos de uso e contextos de uso. Teste e itere primeiro no dogfood, seguido de testes contínuos após o lançamento.
Existem ciclos de feedback complexos?
Mesmo que tudo no design geral do sistema seja cuidadosamente elaborado, os modelos baseados em ML raramente funcionam com 100% de perfeição quando aplicados a dados reais e em tempo real. Quando ocorre um problema num produto ativo, considere se este se alinha com quaisquer desvantagens sociais existentes e como será impactado por soluções de curto e longo prazo.
Ferramentas de IA responsáveis para TensorFlow
O ecossistema TensorFlow possui um conjunto de ferramentas e recursos para ajudar a resolver algumas das questões acima.
Definir problema
Use os recursos a seguir para projetar modelos tendo em mente a IA responsável.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_pair-guidebook.jpg?authuser=0000&hl=pt)
Saiba mais sobre o processo de desenvolvimento de IA e as principais considerações.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_explorable-bias.jpg?authuser=0000&hl=pt)
Explore, por meio de visualizações interativas, as principais questões e conceitos no domínio da IA responsável.
Construir e preparar dados
Use as ferramentas a seguir para examinar os dados em busca de possíveis vieses.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_know-your-data.jpg?authuser=0000&hl=pt)
Investigue interativamente seu conjunto de dados para melhorar a qualidade dos dados e mitigar problemas de imparcialidade e preconceito.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_tensorflow-data-validation.jpg?authuser=0000&hl=pt)
Analise e transforme dados para detectar problemas e projetar conjuntos de recursos mais eficazes.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_data-cards.png?authuser=0000&hl=pt)
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/title_responsible-ai.jpg?authuser=0000&hl=pt)
Uma escala de tons de pele mais inclusiva, com licença aberta, para tornar suas necessidades de coleta de dados e construção de modelos mais robustas e inclusivas.
Construir e treinar modelo
Use as ferramentas a seguir para treinar modelos usando técnicas interpretáveis de preservação de privacidade e muito mais.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_tensorflow-model-remediation-library.jpeg?authuser=0000&hl=pt)
Treine modelos de aprendizado de máquina para promover resultados mais equitativos.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_tensorflow-privacy.jpg?authuser=0000&hl=pt)
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_tensorflow-federated.jpg?authuser=0000&hl=pt)
Treine modelos de aprendizado de máquina usando técnicas de aprendizado federado.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_constrained-optimization.jpg?authuser=0000&hl=pt)
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_lattice.jpg?authuser=0000&hl=pt)
Avaliar modelo
Depure, avalie e visualize o desempenho do modelo usando as ferramentas a seguir.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_fairness-indicators.jpg?authuser=0000&hl=pt)
Avalie métricas de justiça comumente identificadas para classificadores binários e multiclasses.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_tensorflow-model-analysis.jpg?authuser=0000&hl=pt)
Avalie modelos de maneira distribuída e calcule diferentes fatias de dados.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_what-if-tool.jpg?authuser=0000&hl=pt)
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_language-interpretability-tool.png?authuser=0000&hl=pt)
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_explainable-ai.jpg?authuser=0000&hl=pt)
Desenvolva modelos de aprendizado de máquina interpretáveis e inclusivos.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_tf-privacy-testing.png?authuser=0000&hl=pt)
Avalie as propriedades de privacidade dos modelos de classificação.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_tensorboard.png?authuser=0000&hl=pt)
Implantar e monitorar
Use as ferramentas a seguir para rastrear e comunicar sobre o contexto e os detalhes do modelo.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_model_card_toolkit.png?authuser=0000&hl=pt)
Gere cartões de modelo com facilidade usando o kit de ferramentas de cartão de modelo.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_ml-metadata.jpg?authuser=0000&hl=pt)
Registre e recupere metadados associados a fluxos de trabalho de desenvolvedores de ML e cientistas de dados.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_model-cards.jpg?authuser=0000&hl=pt)
Organize os fatos essenciais do aprendizado de máquina de forma estruturada.
Recursos comunitários
Saiba o que a comunidade está fazendo e explore maneiras de se envolver.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/other/tile_crowdsource.jpg?authuser=0000&hl=pt)
Ajude os produtos do Google a se tornarem mais inclusivos e representativos do seu idioma, região e cultura.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/other/tile_tensorflow.jpg?authuser=0000&hl=pt)
Pedimos aos participantes que usassem o TensorFlow 2.2 para criar um modelo ou aplicativo com os princípios da IA responsável em mente. Confira a galeria para ver os vencedores e outros projetos incríveis.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/other/tile_tf-dev-summit.jpg?authuser=0000&hl=pt)
Apresentando uma estrutura para pensar sobre ML, justiça e privacidade.