Este audio se genera automáticamente. Por favor háganos saber si tiene comentario.
El gobierno de EE. UU. y aliados occidentales clave publicaron el miércoles una guía para ayudar a los operadores de infraestructura crítica a utilizar la inteligencia artificial de forma segura.
El documento de orientación describe cuatro principios clave para integrar la IA en la tecnología operativa y detalla las cuestiones que los operadores de infraestructura deben considerar al adoptar la IA. El asesoramiento cubre la conciencia general sobre los riesgos, la evaluación de necesidades y riesgos, la gobernanza del modelo de IA y las medidas de seguridad operativas.
CISA, el FBI y la NSA elaboraron la guía en asociación con agencias de ciberseguridad de Australia, Canadá, Alemania, los Países Bajos, Nueva Zelanda y el Reino Unido.
El documento insta a las empresas a comprender los riesgos únicos de la IA, educar a sus empleados sobre el uso de sistemas automatizados, desarrollar justificaciones claras para el uso de la IA, establecer fuertes expectativas de seguridad con sus proveedores y evaluar cuidadosamente los desafíos de integrar la IA en la tecnología operativa existente. Además, dice el documento, las empresas deben desarrollar procedimientos claros de uso y responsabilidad de la IA, probar exhaustivamente sus sistemas de IA antes de implementarlos y validar continuamente el cumplimiento de la IA con los requisitos normativos y de seguridad.
Las empresas también deberían supervisar sus sistemas de IA, según el documento, incluso a través de protocolos de intervención humana que garanticen que un modelo de IA nunca pueda tomar acciones potencialmente peligrosas sin supervisión humana. Los sistemas de IA deberían tener “mecanismos de seguridad que permitan a los sistemas de IA fallar suavemente sin interrumpir las operaciones críticas”, dice el documento, y las empresas deberían actualizar sus planes de respuesta a incidentes cibernéticos para tener en cuenta sus nuevos usos de la IA.
Además, advierte la guía, «los propietarios y operadores de infraestructuras críticas deben revisar cómo están integrando el sistema de IA en sus procedimientos existentes y crear nuevos procedimientos de uso e implementación seguros que se centren en la integración del sistema de IA en el entorno de OT».
Enfatizando la precaución
Desde el comienzo del frenesí de la IA, el gobierno de Estados Unidos ha tratado de moderar el entusiasmo de los operadores de infraestructura crítica sobre la tecnología con advertencias sobre sus riesgos.
En noviembre de 2024, el Departamento de Seguridad Nacional publicó un desglose sugerido de los roles relacionados con la IA de diferentes entidades en el espacio de infraestructura crítica, desde desarrolladores hasta proveedores de nube y los propios operadores de infraestructura. Y en julio, Plan de acción de IA de la Casa Blanca ordenó al DHS que ampliara el intercambio de advertencias de seguridad relacionadas con la IA con los proveedores de infraestructura. Ese plan promovía principalmente los beneficios de la IA, pero también reconocía que «el uso de la IA en la infraestructura cibernética y crítica expone esos sistemas de IA a amenazas adversas».
Los sistemas de infraestructura crítica ya están plagado de vulnerabilidades de seguridady a los funcionarios gubernamentales les preocupa que los operadores de infraestructura puedan estar creando nuevas debilidades al implementar la IA de formas novedosas sin suficientes salvaguardias. Muchos proveedores de infraestructura, especialmente en comunidades muy dispersas como el sector del agua, tienen presupuestos de seguridad raídos y no cuentan con personal de seguridad dedicado, lo que hace menos probable que alguien en esas organizaciones retroceda mientras los ejecutivos se apresuran a adoptar la última y emocionante tecnología.
Fuente