La confianza es buena, pero el control de la IA es mejor

¿Cuáles son los peores escenarios posibles si no se dispone de determinados materiales? ¿Cuáles son los sustitutos adecuados? ¿Podemos optimizar el uso de materiales con la menor cantidad posible de residuos? ¿Y cómo alcanzamos nuestros objetivos de sostenibilidad? "Aquí es donde entra en juego nuestro gráfico de materiales. Nuestra IA aprende no sólo de textos o imágenes sobre materiales, propiedades o usos previstos, sino también de conocimientos y experiencia práctica para identificar riesgos materiales para la producción o los servicios, gestionar cadenas de suministro o requisitos de piezas y optimizar el uso y la compra de materiales", explica Hendrik Stange, jefe del equipo Auto Intelligence de Fraunhofer IAIS en Sankt Augustin. Por ejemplo, la IA realiza un seguimiento de la posible fecha de caducidad de un material para que se utilice antes de la fecha prevista. O prevé permanentemente las cantidades necesarias para ahorrar formas o producir materiales de forma rentable.

Pero, ¿cómo funciona exactamente un gráfico de materiales? "Piense en él como una red de carreteras de su gestión de materiales, a través de la cual la inteligencia artificial nos guía como una especie de sistema de navegación para llegar a nuestros destinos. Si los expertos quieren la ruta más ecológica de principio a fin, la IA recomienda una ruta que puede ahorrar dióxido de carbono, por ejemplo ahorrando viajes para entregar o utilizar el material. Si los expertos buscan un efecto inmediato, la IA gráfica sugerirá la mejor manera de conseguirlo en forma de una mezcla optimizada de materiales", explica Stange.

En la feria de Hannover, los visitantes del stand conjunto de Fraunhofer podrán experimentar un gráfico de materiales con el ejemplo de un proveedor de cuidados de heridas. "Nuestro enfoque de la solución sitúa la IA industrial en un nivel completamente nuevo. Desde la cadena de suministro hasta la aplicación, todo el uso de materiales puede optimizarse para mejorar la rentabilidad y, en el mejor de los casos, acortar la cicatrización de heridas. Al mismo tiempo, las cantidades de material que se espera necesitar durante una terapia se vuelven transparentes para mantener los costes de excedentes y transporte lo más bajos posible", explica el experto.

Los gráficos de materiales pueden adaptarse a distintos sectores: La IA híbrida combina la inteligencia de las máquinas con la inteligencia humana de los expertos para entrenar aplicaciones de IA incluso con datos pequeños. El objetivo principal es evitar desperdicios, optimizar el consumo de materiales, reducir costes y anticiparse a los cuellos de botella en el suministro. Hendrik Stange: "Nuestra IA es un sparring para los profesionales que les ayuda a tomar decisiones informadas con mayor rapidez, apoyándose en recomendaciones profundas. No es la IA la que decide si tomar la ruta A o B. Eso queda en manos de los humanos".

Herramientas de evaluación para un uso seguro y fiable de la IA

El Dr. Maximilian Poretschkin está representado en el stand conjunto de Fraunhofer con un enfoque diferente. El responsable de IA segura y certificación de IA en Fraunhofer IAIS mostrará varias herramientas y métodos de evaluación que examinan y evalúan las inteligencias artificiales en términos de fiabilidad, imparcialidad, solidez y transparencia. Los criterios de prueba se basan en el Catálogo de Evaluación de IA, una guía para el diseño de inteligencia artificial fiable, que fue publicada por los expertos de Fraunhofer IAIS en 2021. Desde enero de 2023 también está disponible en una traducción al inglés.

Pero, ¿por qué es tan importante poder comprobar sistemáticamente la calidad y validez de las aplicaciones de IA? "Especialmente en campos de aplicación sensibles, como los diagnósticos médicos, la gestión de recursos humanos, las finanzas, las aplicaciones utilizadas por las fuerzas de seguridad o las áreas críticas para la seguridad, los sistemas de IA deben ofrecer resultados absolutamente fiables". La Ley de IA -el proyecto europeo para regular los sistemas de IA- clasifica muchos de estos ejemplos en la categoría de alto riesgo e incluso exige una evaluación obligatoria en estos casos", explica Poretschkin. "Las empresas que desarrollan o utilizan aplicaciones de IA de alto riesgo deben abordar urgentemente cómo pueden garantizar la calidad de sus aplicaciones".

El reto es que la IA funciona de forma diferente al software convencional. Este último se programa a partir de reglas, lo que permite probar sistemáticamente su funcionalidad, es decir, si las respuestas o salidas son correctas en relación con las entradas. Para las aplicaciones de IA, estos procedimientos no suelen ser suficientes, sobre todo si se basan en redes neuronales.

La herramienta "ScrutinAI" desarrollada por Fraunhofer IAIS permite al personal de pruebas y a los evaluadores buscar sistemáticamente vulnerabilidades en las redes neuronales y evaluar así la calidad de las aplicaciones de IA. Un ejemplo concreto es una aplicación de IA que detecta anomalías y enfermedades en imágenes de TC. La cuestión aquí es si todos los tipos de anomalías se detectan igual de bien o si algunas se detectan mejor que otras. Este análisis ayuda al personal de pruebas a evaluar si una aplicación de IA es adecuada para el contexto de uso previsto. Al mismo tiempo, los desarrolladores también pueden beneficiarse al ser capaces de identificar insuficiencias en sus sistemas de IA en una fase temprana y tomar las medidas de mejora adecuadas, como mejorar los datos de entrenamiento con ejemplos específicos.

El marco de software modular ofrece apoyo para la selección y evaluación de sistemas de IA

Otras herramientas y procedimientos de evaluación están integrados en un marco de software y pueden combinarse entre sí de forma modular. Por ejemplo, la llamada herramienta de "evaluación comparativa" puede utilizarse para examinar qué modelo de IA es el más adecuado para una tarea específica. "Hay un exceso de nuevas aplicaciones de IA que las empresas pueden integrar en sus procesos. La evaluación comparativa les ayuda a tomar la decisión correcta", afirma el investigador. El método "uncertAInty" también puede utilizarse para evaluar el grado de confianza de una red neuronal en el resultado que produce. Puede ocurrir que una red neuronal sea muy incierta porque ha recibido datos de entrada que aún no conoce por haberlos entrenado previamente. "Por ejemplo, un vehículo autónomo debe ser capaz de detectar con fiabilidad objetos y personas en su entorno para poder reaccionar adecuadamente ante ellos. La evaluación de la incertidumbre ayuda a medir hasta qué punto se puede confiar en la decisión del sistema, si es necesario activar ciertos mecanismos de emergencia o si un humano debe tomar la decisión final", explica Poretschkin.

Del 17 al 21 de abril, los visitantes de Hannover Messe 2023 podrán experimentar en directo diversas herramientas y procesos de evaluación de la mano de expertos del Fraunhofer IAIS en el stand conjunto Fraunhofer A12 del pabellón 16. Hendrik Stange es jefe del equipo Auto Intelligence, que se centra en la IA automatizada en la gestión de materiales: Esta IA se basa en gráficos de materiales innovadores para concienciar a las empresas sobre los recursos y capacitarlas para ser económicamente más avanzadas y ecológicamente más sostenibles. El Dr. Maximilian Poretschkin, responsable de IA segura y certificación de IA, utiliza varias herramientas de evaluación para mostrar cómo evaluar la calidad de las aplicaciones de IA y explica por qué esto es cada vez más importante.