¿Están los expertos en TI divididos al 50% en el uso de la IA para la ciberseguridad?

En un momento en el que la ciberseguridad está en el centro de las preocupaciones de empresas y particulares, una cuestión divide a los expertos en TI: el uso de la inteligencia artificial. Mientras que algunos ven la IA como un valioso aliado para fortalecer la protección de datos y sistemas, otros siguen siendo escépticos sobre su eficacia y confiabilidad. Pero ¿cuál es la posición real de los expertos en el tema?

Un informe reciente de Corelight, especialista en detección y respuesta de redes (NDR), revela una división notable entre los administradores de TI europeos con respecto al uso deIA generativa (GenAI) en un contexto de ciberseguridad. Esta encuesta, realizada entre 300 tomadores de decisiones de TI (ITDM) en el Reino Unido, Francia y Alemania, genera opiniones divergentes sobre esta tecnología emergente.

Optimismo y preocupación a partes iguales

El informe destaca un delicado equilibrio entre entusiasmo y preocupación. Alrededor del 46% de los encuestados dijeron que están explorando de manera proactiva la integración de GenAI en sus estrategias de ciberseguridad. Sin embargo, una proporción similar (44%) expresa preocupación por la exposición de datos y los silos organizacionales, que complican o imposibilitan el uso de GenAI para la ciberseguridad.

Además, el 37% de los participantes cree que GenAI “no es seguro de usar en ciberseguridad”. Un ejemplo destacado de estas preocupaciones es Samsung, que prohibió el uso de ChatGPT en 2023 después de que los empleados compartieran notas de reuniones privadas y el código fuente con la herramienta. Esta exposición de datos confidenciales puede plantear riesgos claros en términos de seguridad, privacidad y estándares de cumplimiento.

Preocupaciones y soluciones

A pesar de estos desafíos, Corelight asegura que las preocupaciones sobre la privacidad no son insuperables, siempre que la herramienta GenAI y el modelo de lenguaje grande (LLM) subyacente estén diseñados adecuadamente teniendo en cuenta la privacidad. El NDR comercial de Corelight, por ejemplo, establece un “firewall funcional” entre los datos del cliente y la funcionalidad GenAI.

Ignacio Arnaldo, director de ciencia de datos de Corelight, sostiene que la adopción de GenAI se está viendo frenada por preocupaciones sobre la privacidad de los datos y la precisión de los modelos. Sin embargo, a medida que los modelos mejoran en capacidad de razonamiento global y conocimiento de ciberseguridad, y a medida que más implementaciones de LLM incluyen protecciones estructurales de privacidad, GenAI está preparada para convertirse en una parte integral de las operaciones de seguridad.

Los principales impactos de GenAI en la ciberseguridad

Según la mitad de los ITDM encuestados, el principal impacto de GenAI en la ciberseguridad podría ser la provisión de contexto y análisis para los equipos de SecOps. Otros casos de uso citados incluyen:

• Mantener políticas de cumplimiento (41%)
• Recomendaciones de mejores prácticas en lenguajes específicos de dominio, como la gestión de identidades y accesos (36%)
• Información no estructurada sobre vulnerabilidades (35%)
• Orientación para la remediación (35%)
• Información no estructurada sobre conexiones y procesos de red (32%)

En resumen, si bien GenAI genera optimismo y preocupación entre los expertos en TI, tiene el potencial de transformar significativamente las prácticas de ciberseguridad, siempre que los desafíos actuales se superen mediante avances tecnológicos y protecciones sólidas de la privacidad.

Fuente: www.infosecurity-magazine.com