Este audio se genera automáticamente. Por favor háganos saber si tiene comentario.
El Instituto Nacional de Estándares y Tecnología ha preparado un complemento a su ampliamente utilizado Marco de Ciberseguridad que se centra en cómo las organizaciones pueden utilizar la IA de forma segura.
NIST Perfil del marco de ciberseguridad para la inteligencia artificialque la agencia publicó en forma de borrador el martes, describe cómo las organizaciones pueden gestionar los desafíos de ciberseguridad de diferentes sistemas de IA, mejorar sus capacidades de ciberdefensa con IA y bloquear los ciberataques impulsados por IA. El documento mapea los componentes de el marco de ciberseguridad (CSF) sobre recomendaciones específicas en cada una de esas tres áreas, que el NIST denominó “segurar”, “defender” y “frustrar”, respectivamente.
«Las tres áreas de enfoque reflejan el hecho de que la IA está entrando en la conciencia de las organizaciones de diferentes maneras», dijo Barbara Cuthill, una de las autoras del perfil. dijo en un comunicado. «Pero, en última instancia, cada organización tendrá que lidiar con los tres».
El perfil de IA está diseñado para ayudar a las organizaciones a implementar las actividades del CSF con respecto a las tres categorías de preocupaciones sobre IA. Enumera consideraciones específicas de IA para cada elemento del CSF, abarcando todo, desde la detección de intrusiones hasta la seguridad de la cadena de suministro, pasando por la identificación y remediación de vulnerabilidades. En su anuncio, el NIST dijo que el documento «ofrece ideas para ayudar a las organizaciones a comprender, examinar y abordar las preocupaciones de ciberseguridad relacionadas con la IA e integrar cuidadosamente la IA en sus estrategias de ciberseguridad».
El NIST redactó el documento en consulta con una comunidad de más de 6.500 personas que presentaron ideas sobre cómo mapear las consideraciones de IA en el CSF. La agencia ahora está buscando comentarios públicos sobre el borrador hasta el 30 de enero. Planea realizar un taller virtual el 14 de enero.
Ampliación de la orientación existente
El perfil CSF específico de IA es la última publicación del NIST centrada en ayudar a las organizaciones a gestionar los beneficios y desventajas de la IA. En 2023, la agencia lanzó un marco de gestión de riesgos de IAy en 2024 lanzó un perfil de IA generativa para el marco. En agosto, NIST publicó un documento destinado a ayudar a las organizaciones a proteger sus sistemas de inteligencia artificial utilizando las herramientas existentes y ampliamente adoptadas de la agencia. catalogo de controles de seguridad.
Varios presidentes han encargado al NIST con el desarrollo de directrices de seguridad para la IA. El presidente Joe Biden ordenó al NIST que publicara estándares para pruebas de seguridad de IA y contenido sintético. El presidente Donald Trump rescindió algunas de esas directivas y agregó otras, incluidas instrucciones para que el NIST ayude a otras agencias a evaluar sus modelos de IA.
Fuente