Aprenda cómo integrar prácticas de IA responsable en su flujo de trabajo de aprendizaje automático utilizando TensorFlow
TensorFlow se compromete a ayudar a avanzar en el desarrollo responsable de la IA compartiendo una colección de recursos y herramientas con la comunidad de ML.
¿Qué es la IA responsable?
El desarrollo de la IA está creando nuevas oportunidades para resolver problemas desafiantes del mundo real. También está planteando nuevas preguntas sobre la mejor manera de construir sistemas de IA que beneficien a todos.
Mejores prácticas recomendadas para la IA
El diseño de sistemas de IA debe seguir las mejores prácticas de desarrollo de software y, al mismo tiempo, adoptar una perspectiva centrada en el ser humano.
acercamiento al aprendizaje automático
Justicia
A medida que aumenta el impacto de la IA en todos los sectores y sociedades, es fundamental trabajar para lograr sistemas que sean justos e inclusivos para todos.
Interpretabilidad
Comprender y confiar en los sistemas de IA es importante para garantizar que funcionen según lo previsto
Privacidad
Los modelos de capacitación a partir de datos confidenciales necesitan salvaguardias para preservar la privacidad
Seguridad
Identificar amenazas potenciales puede ayudar a mantener los sistemas de IA seguros y protegidos
IA responsable en su flujo de trabajo de ML
Se pueden incorporar prácticas responsables de IA en cada paso del flujo de trabajo de ML. A continuación se presentan algunas preguntas clave a considerar en cada etapa.
¿Para quién es mi sistema ML?
La forma en que los usuarios reales experimentan su sistema es esencial para evaluar el verdadero impacto de sus predicciones, recomendaciones y decisiones. Asegúrese de obtener comentarios de un conjunto diverso de usuarios al principio de su proceso de desarrollo.
¿Estoy utilizando un conjunto de datos representativo?
¿Se muestrean sus datos de una manera que represente a sus usuarios (por ejemplo, se usarán para todas las edades, pero solo tiene datos de capacitación de personas mayores) y el entorno del mundo real (por ejemplo, se usarán durante todo el año, pero solo tiene datos de capacitación? datos del verano)?
¿Hay sesgos humanos o del mundo real en mis datos?
Los sesgos subyacentes en los datos pueden contribuir a complejos ciclos de retroalimentación que refuerzan los estereotipos existentes.
¿Qué métodos debo utilizar para entrenar mi modelo?
Utilice métodos de capacitación que incorporen equidad, interpretabilidad, privacidad y seguridad al modelo.
¿Cómo está funcionando mi modelo?
Evalúe la experiencia del usuario en escenarios del mundo real en un amplio espectro de usuarios, casos de uso y contextos de uso. Primero pruebe e itere en dogfood, seguido de pruebas continuas después del lanzamiento.
¿Existen ciclos de retroalimentación complejos?
Incluso si todo en el diseño general del sistema está cuidadosamente elaborado, los modelos basados en ML rara vez funcionan con un 100 % de perfección cuando se aplican a datos reales y en vivo. Cuando ocurre un problema en un producto en vivo, considere si se alinea con alguna desventaja social existente y cómo se verá afectado por las soluciones a corto y largo plazo.
Herramientas de IA responsables para TensorFlow
El ecosistema TensorFlow tiene un conjunto de herramientas y recursos para ayudar a abordar algunas de las preguntas anteriores.
Definir problema
Utilice los siguientes recursos para diseñar modelos teniendo en cuenta la IA responsable.
Obtenga más información sobre el proceso de desarrollo de la IA y las consideraciones clave.
Explore, a través de visualizaciones interactivas, preguntas y conceptos clave en el ámbito de la IA responsable.
Construir y preparar datos.
Utilice las siguientes herramientas para examinar los datos en busca de posibles sesgos.
Investigue de forma interactiva su conjunto de datos para mejorar la calidad de los datos y mitigar los problemas de equidad y sesgo.
Analice y transforme datos para detectar problemas y diseñar conjuntos de funciones más eficaces.
Una escala de tono de piel más inclusiva, con licencia abierta, para que sus necesidades de recopilación de datos y creación de modelos sean más sólidas e inclusivas.
Construir y entrenar modelo
Utilice las siguientes herramientas para entrenar modelos utilizando técnicas interpretables que preserven la privacidad y más.
Entrene modelos de aprendizaje automático para promover resultados más equitativos.
Entrene modelos de aprendizaje automático utilizando técnicas de aprendizaje federado.
Implemente modelos basados en celosías flexibles, controlados e interpretables.
Evaluar modelo
Depure, evalúe y visualice el rendimiento del modelo utilizando las siguientes herramientas.
Evalúe métricas de equidad comúnmente identificadas para clasificadores binarios y de clases múltiples.
Evalúe modelos de forma distribuida y calcule sobre diferentes sectores de datos.
Examinar, evaluar y comparar modelos de aprendizaje automático.
Desarrollar modelos de aprendizaje automático interpretables e inclusivos.
Evaluar las propiedades de privacidad de los modelos de clasificación.
Implementar y monitorear
Utilice las siguientes herramientas para realizar un seguimiento y comunicar sobre el contexto y los detalles del modelo.
Genere tarjetas modelo con facilidad utilizando el kit de herramientas Model Card.
Registre y recupere metadatos asociados con los flujos de trabajo de desarrolladores de ML y científicos de datos.
Organice los hechos esenciales del aprendizaje automático de forma estructurada.
Recursos de la comunidad
Conozca lo que está haciendo la comunidad y explore formas de participar.
Ayude a que los productos de Google sean más inclusivos y representativos de su idioma, región y cultura.
Les pedimos a los participantes que usaran TensorFlow 2.2 para crear un modelo o aplicación teniendo en mente los principios de la IA responsable. Echa un vistazo a la galería para ver los ganadores y otros proyectos increíbles.
Presentamos un marco para pensar en el aprendizaje automático, la equidad y la privacidad.
Aprenda cómo integrar prácticas de IA responsable en su flujo de trabajo de aprendizaje automático utilizando TensorFlow
TensorFlow se compromete a ayudar a avanzar en el desarrollo responsable de la IA compartiendo una colección de recursos y herramientas con la comunidad de ML.
¿Qué es la IA responsable?
El desarrollo de la IA está creando nuevas oportunidades para resolver problemas desafiantes del mundo real. También está planteando nuevas preguntas sobre la mejor manera de construir sistemas de IA que beneficien a todos.
Mejores prácticas recomendadas para la IA
El diseño de sistemas de IA debe seguir las mejores prácticas de desarrollo de software y, al mismo tiempo, adoptar una perspectiva centrada en el ser humano.
acercamiento al aprendizaje automático
Justicia
A medida que aumenta el impacto de la IA en todos los sectores y sociedades, es fundamental trabajar para lograr sistemas que sean justos e inclusivos para todos.
Interpretabilidad
Comprender y confiar en los sistemas de IA es importante para garantizar que funcionen según lo previsto
Privacidad
Los modelos de capacitación a partir de datos confidenciales necesitan salvaguardias para preservar la privacidad
Seguridad
Identificar amenazas potenciales puede ayudar a mantener los sistemas de IA seguros y protegidos
IA responsable en su flujo de trabajo de ML
Se pueden incorporar prácticas responsables de IA en cada paso del flujo de trabajo de ML. A continuación se presentan algunas preguntas clave a considerar en cada etapa.
¿Para quién es mi sistema ML?
La forma en que los usuarios reales experimentan su sistema es esencial para evaluar el verdadero impacto de sus predicciones, recomendaciones y decisiones. Asegúrese de obtener comentarios de un conjunto diverso de usuarios al principio de su proceso de desarrollo.
¿Estoy utilizando un conjunto de datos representativo?
¿Se muestrean sus datos de una manera que represente a sus usuarios (por ejemplo, se usarán para todas las edades, pero solo tiene datos de capacitación de personas mayores) y el entorno del mundo real (por ejemplo, se usarán durante todo el año, pero solo tiene datos de capacitación? datos del verano)?
¿Hay sesgos humanos o del mundo real en mis datos?
Los sesgos subyacentes en los datos pueden contribuir a complejos ciclos de retroalimentación que refuerzan los estereotipos existentes.
¿Qué métodos debo utilizar para entrenar mi modelo?
Utilice métodos de capacitación que incorporen equidad, interpretabilidad, privacidad y seguridad al modelo.
¿Cómo está funcionando mi modelo?
Evalúe la experiencia del usuario en escenarios del mundo real en un amplio espectro de usuarios, casos de uso y contextos de uso. Primero pruebe e itere en dogfood, seguido de pruebas continuas después del lanzamiento.
¿Existen ciclos de retroalimentación complejos?
Incluso si todo en el diseño general del sistema está cuidadosamente elaborado, los modelos basados en ML rara vez funcionan con un 100 % de perfección cuando se aplican a datos reales y en vivo. Cuando ocurre un problema en un producto en vivo, considere si se alinea con alguna desventaja social existente y cómo se verá afectado por las soluciones a corto y largo plazo.
Herramientas de IA responsables para TensorFlow
El ecosistema TensorFlow tiene un conjunto de herramientas y recursos para ayudar a abordar algunas de las preguntas anteriores.
Definir problema
Utilice los siguientes recursos para diseñar modelos teniendo en cuenta la IA responsable.
Obtenga más información sobre el proceso de desarrollo de la IA y las consideraciones clave.
Explore, a través de visualizaciones interactivas, preguntas y conceptos clave en el ámbito de la IA responsable.
Construir y preparar datos.
Utilice las siguientes herramientas para examinar los datos en busca de posibles sesgos.
Investigue de forma interactiva su conjunto de datos para mejorar la calidad de los datos y mitigar los problemas de equidad y sesgo.
Analice y transforme datos para detectar problemas y diseñar conjuntos de funciones más eficaces.
Una escala de tono de piel más inclusiva, con licencia abierta, para que sus necesidades de recopilación de datos y creación de modelos sean más sólidas e inclusivas.
Construir y entrenar modelo
Utilice las siguientes herramientas para entrenar modelos utilizando técnicas interpretables que preserven la privacidad y más.
Entrene modelos de aprendizaje automático para promover resultados más equitativos.
Entrene modelos de aprendizaje automático utilizando técnicas de aprendizaje federado.
Implemente modelos basados en celosías flexibles, controlados e interpretables.
Evaluar modelo
Depure, evalúe y visualice el rendimiento del modelo utilizando las siguientes herramientas.
Evalúe métricas de equidad comúnmente identificadas para clasificadores binarios y de clases múltiples.
Evalúe modelos de forma distribuida y calcule sobre diferentes sectores de datos.
Examinar, evaluar y comparar modelos de aprendizaje automático.
Desarrollar modelos de aprendizaje automático interpretables e inclusivos.
Evaluar las propiedades de privacidad de los modelos de clasificación.
Implementar y monitorear
Utilice las siguientes herramientas para realizar un seguimiento y comunicar sobre el contexto y los detalles del modelo.
Genere tarjetas modelo con facilidad utilizando el kit de herramientas Model Card.
Registre y recupere metadatos asociados con los flujos de trabajo de desarrolladores de ML y científicos de datos.
Organice los hechos esenciales del aprendizaje automático de forma estructurada.
Recursos de la comunidad
Conozca lo que está haciendo la comunidad y explore formas de participar.
Ayude a que los productos de Google sean más inclusivos y representativos de su idioma, región y cultura.
Les pedimos a los participantes que usaran TensorFlow 2.2 para crear un modelo o aplicación teniendo en mente los principios de la IA responsable. Echa un vistazo a la galería para ver los ganadores y otros proyectos increíbles.
Presentamos un marco para pensar en el aprendizaje automático, la equidad y la privacidad.