Confianza en la IA y la IA Generativa
El último Global Risk Report 2024 publicado por parte del Foro Económico Mundial, que celebra estos días el Foro Davos 2024, sitúa a la IA como uno de los mayores riesgos a tener en cuenta para este año, por encima de temas como el cambio climático o la guerra.
En este sentido, James Fisher, Chief Strategy Officer en Qlik, declara lo siguiente:
La IA y la IA Generativa prometen muchos avances en la mejora de la productividad, pero debe utilizarse y desarrollarse con precaución. La innovación no debe producirse a expensas de la regulación, y las alucinaciones y errores actuales de la IA Generativa corren el riesgo de minar por completo la confianza en la tecnología, especialmente ahora que nos adentramos en un año de numerosas elecciones políticas.
La cumbre de la IA fue gran paso hacia la creación de una regulación adecuada en torno a la misma, y a finales de 2023 vimos cómo la Ley de IA de la UE pasaba por sus primeras fases de aprobación. Esto es alentador, pero las empresas deben analizar cuidadosamente cómo utilizan y entrenan a la IA.
Estamos muy lejos de que las empresas confíen de forma generalizada datos empresariales críticos a la IA , pero esta debe ser rigurosamente examinada cuando se utilice en áreas como la analítica. Se necesitarán "guardianes" para garantizar la calidad y la gobernanza de los datos, y para respetar la privacidad de los mismos. Aun así, debe aplicarse con cuidado. Y con todas estas precauciones pueden introducirse sesgos y producirse alucinaciones, por lo que los humanos siguen siendo esenciales en el proceso para evitar el riesgo de obtener información errónea.
