El paso de IBM hacia la apertura de la caja negra de la Inteligencia Artificial

IBM ha presentado nuevas tecnologías que proporcionan a las empresas una mayor transparencia respecto a la aplicación de la Inteligencia Artificial, IA, lo que les va a permitir sacar el máximo provecho de todo su potencial.

IBM ha dado a conocer un nuevo servicio de software que detecta automáticamente los sesgos y proporciona la explicación sobre las decisiones que toma la IA. Este servicio está disponible en IBM Cloud para ayudar a las empresas a administrar sistemas de IA de una amplia variedad de sectores. La organización de servicios de IBM, IBM Services, también estará a disposición de las empresas para obtener este nuevo servicio.

Además, IBM Research pondrá a disposición de la comunidad open source un kit de herramientas de reducción y detección de sesgos en la IA para fomentar la colaboración global sobre cómo tratar el sesgo en la Inteligencia Artificial.

"IBM ha liderado la industria y ha impulsado establecimiento de valores como la confianza y la transparencia en el desarrollo de nuevas tecnologías de IA”, ha afirmado Beth Smith, General Manager de Watson AI de IBM. "Es hora de llevar estos valores a la práctica. Estamos facilitando a las empresas que utilizan la IA una mayor transparencia y control para afrontar el riesgo potencial de una toma de decisiones errónea".

Estos desarrollos dan respuesta a las conclusiones de una reciente encuesta del Institute for Business Value de IBM, que muestra que mientras el 82% de las empresas se plantea utilizar la IA, al 60% le preocupa cuestiones de responsabilidad y el 63% carece de las capacidades y el talento interno para gestionar esta tecnología con confianza.

Visibilidad en las decisiones de la IA

Los nuevos desarrollos de IBM disponibles en IBM Cloud funcionan con modelos construidos a partir de una amplia variedad de frameworks de machine learning y entornos personalizados de IA como Watson, Tensorflow, SparkML, AWS SageMaker y AzureML. Esto significa que las organizaciones pueden aprovechar estos nuevos controles para la mayoría de los frameworks de IA más utilizados por las empresas. El servicio de software también se puede programar para monitorizar los factores específicos de decisión que se tengan en consideración para cualquier flujo de trabajo empresarial, lo que permite personalizarlo para el uso específico de cada organización.

El servicio de software, totalmente automatizado, describe la toma de decisiones y detecta sesgos en los modelos de IA en tiempo de ejecución –a medida que se toman las decisiones-. Es decir, captura resultados potencialmente injustos a medida que se producen. También recomienda, de manera automática, datos para añadirlos al modelo y ayudar a reducir cualquier sesgo que haya detectado.

Las explicaciones que proporciona son de fácil comprensión y muestran qué factores hicieron inclinar la decisión hacia un lado o hacia otro, la confianza en la recomendación y los factores detrás de esa confianza. Además, los registros de la precisión, rendimiento y equidad del modelo pueden rastrearse y monitorizarse fácilmente para cumplir con la normativa, como es el caso del GDPR, o prestar un mejor servicio al cliente.

Todas estas capacidades son accesibles a las empresas a través de cuadros de mando visuales. Esto proporciona a los usuarios una capacidad incomparable para comprender, explicar y gestionar las decisiones tomadas a partir de la IA y reducir la dependencia de contar con conocimientos específicos sobre IA.

IBM también proporciona nuevos servicios de consultoría para ayudar a las empresas a diseñar procesos empresariales e interfaces hombre-IA para minimizar aún más el impacto del sesgo en la toma de decisiones.

Empoderando a la comunidad open source para construir una IA más justa

Asimismo, IBM pone a disposición de la comunidad open source un kit de herramientas de equidad de IA. El kit de herramientas AI Fairness 360 es una biblioteca de algoritmos, códigos y tutoriales innovadores que proporcionarán a los académicos, investigadores y científicos de datos herramientas y conocimientos para integrar mecanismos de detección de sesgos durante la construcción y aplicación de modelos de machine learning. Mientras que otros recursos de open source se centran únicamente en detectar los sesgos en los datos que se utilizan en el entrenamiento del sistema, el kit de herramientas IBM AI Fairness 360, creado por IBM Research, ayudará a identificar y reducir el sesgo en los modelos de IA. Esto invita a la comunidad global de open source a trabajar conjuntamente para abordar los sesgos en IA.

Un estudio revela las prioridades y los obstáculos para implementar la IA

Según el estudio AI 2018 Report de IBM recién publicado por el IBM Institute for Business Value, y que cuenta con una muestra de unos 5.000 ejecutivos C-Suite, actualmente se está produciendo un cambio significativo en cómo los líderes empresariales contemplan el potencial de la IA para impulsar el valor empresarial y el aumento de los ingresos.

Entre sus principales conclusiones, el estudio destaca:

·         El 82% de las empresas en general y el 93% de las empresas de alto rendimiento contempla o avanza en la adopción de la IA, con un enfoque en la generación de ingresos.

·         Al 60% le preocupa cuestiones de responsabilidad, y el 63% carece de las habilidades necesarias para sacar partido al potencial de IA.

·         Los CEO perciben que el principal valor a la hora de adoptar la IA está en las TI, en la seguridad de la información, en la innovación, en el servicio al cliente y en la gestión del riesgo.

·         La adopción de la IA es más alta y es probable que se acelere en mayor medida en empresas más digitalizadas, como los servicios financieros.