Resumen de buceo:
- Proteger la IA se ha convertido en una máxima prioridad para los CIO, según un informe logico publicado el lunes. El informe, que encuestó más de 1.000 CIO globalmente, encontrado más de una cuarta parte ven la IA como una importante fuente de riesgo, colocándola casi a la par de amenazas tradicionales como el malware, el ransomware y el phishing.
- El uso indebido de la IA por parte de los empleados está agravando las preocupaciones, con 57% de los CIO dicen que el personal está poniendo en riesgo la seguridad de los datos. A pesar del creciente riesgo, las medidas de gobernanza de la IA siguen siendo limitadas, con sólo el 37% de las organizaciones diciendo que tienen visibilidad de las herramientas de IA en uso.
- Los desafíos que plantea la llegada de la IA son tan importantes que casi la mitad de los encuestados en el informe de Logicalis dijeron que desearían que la IA «no hubiera sido inventada».
Información de buceo:
Si bien las amenazas tradicionales siguen siendo la preocupación dominante para los CIO, la IA se cita cada vez más como un riesgo a medida que los líderes empresariales se enfrentan a cuestiones críticas como la IA en la sombra, la expansión de las aplicaciones y la falta de supervisión.
Los equipos de seguridad, ya de por sí tensos, están perdiendo terreno ante el aumento de los puntos ciegos, con más de un tercio informando una capacidad reducida para detectar infracciones y empeorando los tiempos de respuesta a incidentes.
Al mismo tiempo, el mal uso interno de la IA está planteando nuevos desafíos para la fuerza laboral. Dos tercios de los encuestados dicen que la formación de los empleados sobre la gestión de riesgos de la IA es insuficiente, mientras que 94% de los CIO informar sobre una escasez de habilidades en ciberseguridad.
Si bien un renovado enfoque en la mejora de las habilidades y el gasto en remediación posterior a una infracción está aumentando junto con la amenaza, existe una creciente necesidad de hacer más para cambiar la respuesta de reactiva a preventiva.
«La IA es una fuerza poderosa en ciberseguridad, pero sin las habilidades y la gobernanza adecuadas, puede crear más vulnerabilidades que protección», afirmó Bob Bailkoski, director ejecutivo de Logicalis Groupen el informe. «Los CIO tienen la difícil tarea de defender sus organizaciones contra las amenazas impulsadas por la IA, pero también contra los riesgos que plantean las propias herramientas de IA destinadas a salvaguardarlas».
En respuesta, Bailkoski sugiere que los CIO integren la gobernanza y la transparencia en las iniciativas de IA desde su inicio para garantizar la estabilidad a largo plazo.
Los hallazgos se alinean con preocupaciones más amplias de la industria. Informes recientes de Alianza de seguridad en la nube y Thales De manera similar, se destacó cómo los datos no estructurados y los canales de IA mal gobernados están ampliando la superficie de ataque empresarial, con 68%f las empresas encuestadas dicen que la mayoría de sus datos permanecen desprotegidos.
De manera similar, se identificaron como herramientas clave para mitigar el riesgo los datos confiables, la mejora de las habilidades específicas de la IA y una mejor gobernanza.
Iniciativas como Proyecto Ala de Vidrio, antrópico El esfuerzo anunciado recientemente para identificar y remediar las vulnerabilidades del software subraya aún más un impulso creciente para escalar la gobernanza junto con la adopción de tecnología.
La iniciativa se lanzó junto con socios como AWS, Apple, Broadcom, Cisco, Google y otros que utilizarán el modelo Claude Mythos Preview de Anthropic para identificar y corregir vulnerabilidades.
Fuente