Resumen de buceo:
- Los responsables de la toma de decisiones empresariales dicen que los riesgos de la IA están cobrando fuerza a medida que crece la adopción y continúan los lanzamientos de herramientas, según una encuesta de EY de casi 1.000 líderes de alto nivel publicado la semana pasada.
- Más que 3 de cada 5 organizaciones han sufrido ataques relacionados con el riesgo de IA Pérdidas de al menos 1 millón de dólares.y casi todos – 99% – informó algún nivel de impacto financiero. En conjunto, EY estima que los encuestados han acumulado 4.300 millones de dólares en pérdidas totales.
- La gobernanza y las prácticas responsables de IA ofrecen a las empresas una protección contra los riesgos. Las empresas con un conjunto definido de principios de IA responsable experimentan un 30% menos de riesgos en comparación con sus pares menos preparados. La mayoría de las empresas han fortalecido la gobernanza y los líderes han adoptado un promedio de siete acciones de mitigación, como compartir estándares con los empleados, adoptar métricas para medir el cumplimiento y establecer salvaguardas.
Información de buceo:
Las empresas están experimentando una buena cantidad de dificultades de crecimiento relacionadas con la IA mientras intentan gestionar nuevos riesgos y continuar la búsqueda del retorno de la inversión.
«La mayoría de las organizaciones han visto una rápida adopción de soluciones de IA». Joe Depa, director global de innovación de EY, dijo al CIO Dive. «Lo que están descubriendo ahora es que la pregunta es: '¿Dónde está el valor que estoy logrando con la IA?'»
Las empresas a menudo buscan aumentar la productividad, ahorrar costos o aumentar los ingresos como parte de sus iniciativas de IA. depa dicho. En la encuesta de EY, muchas organizaciones informaron haber logrado sus objetivos hasta cierto punto, pero otras dijeron que todavía tenían dificultades para captar retornos.
«Algunos se han sentido desilusionados al no ver la cantidad de retorno de la inversión que esperaban en este punto de su viaje, especialmente después de invertir importantes dólares, recursos y tiempo en IA». depa dicho.
Analistas y expertos de la industria han enfatizado la conexión entre gobernanza e innovación mejoradas. Los resultados de la encuesta de EY llevan ese consejo un paso más allá: las barreras de seguridad de la IA están demostrando ser útiles en algunas de las áreas más difíciles para lograr el retorno de la inversión, como el crecimiento de los ingresos y la satisfacción de los empleados.
Si bien las empresas se han apresurado a adoptar la IA generativa en los últimos años, el desarrollo de salvaguardas para controlar la tecnología ha avanzado a un ritmo más lento. depa dicho.
«Requiere un proceso de gobernanza diferente, y es algo en lo que también hemos trabajado en EY, rehaciendo y reoptimizando nuestra propia gobernanza». depa dicho.
EY se apoya en tres protocolos de gobernanza, que incluyen una vía rápida, un segundo nivel y un proceso de alta gobernanza. El camino rápido es para ideas con un caso de negocio claro, retorno de la inversión y cumplimiento de protocolos de seguridad, ética y cumplimiento. Estos casos de uso se revisan trimestralmente para garantizar que vayan según lo esperado. Los casos de uso más riesgosos están separados en estos últimos protocolos, lo que a menudo requiere un seguimiento más estrecho y salvaguardias adicionales.
Las empresas no quieren terminar en la portada o ante un juez como parte de las consecuencias de que las iniciativas de IA salgan mal. Con los riesgos de estas iniciativas a la vista, los CIO están priorizando la mitigación de riesgos y casi todos planean aumentar los presupuestos de gobernanza, según una encuesta de OneTrust.
depa Recomendó que los CIO que quieran acelerar la innovación deberían comenzar brindando claridad a los equipos e implementando barreras de seguridad dentro de las cuales los profesionales de la tecnología puedan trabajar.
«Como líderes en IA, tenemos que desafiar la noción de que se trata simplemente del modelo tradicional de gobernanza de la IA». depa dicho. «Se trata realmente de crear perfiles de riesgo para que se puedan establecer las barreras adecuadas, de modo que las organizaciones puedan innovar de manera responsable a su alrededor».
Fuente