Los Directores de Seguridad Informática de hoy enfrentan nuevos desafíos debido al uso cada vez mayor de la Inteligencia Artificial (IA). Esto no es una sorpresa dado el creciente uso de esta tecnología en los lugares de trabajo: dos tercios de las organizaciones informaron el año pasado que ya estaban comenzando a utilizarla, sin embargo, se ha convertido en un arma de doble filo para la ciberseguridad, bajando por un lado la barrera para entrar al negocio del cibercrimen, y por otro, brindando a los equipos de TI estrategias de defensa y automatización inteligentes.
LOS RETOS DE LA IA Y EL IMPACTO EN LAS CIBERAMENAZAS
La GenAI puede aumentar drásticamente la sofisticación de los ataques de phishing, elevándolos por encima del contenido estándar y los errores ortográficos o gramaticales que las organizaciones suelen enseñar a los usuarios a buscar. Ahora, cuando un actor malicioso recopila la libreta de direcciones de una víctima, también puede tomar el contenido del correo electrónico y utilizarlo para generar mensajes personalizados que coincidan con la sintaxis y los asuntos que el remitente comprometido ha utilizado con cada destinatario.
La IA brinda además nuevas capacidades y herramientas a los cibercriminales. Por ejemplo, las organizaciones típicamente entrenan a los colaboradores para encontrar y avisar sobre cualquier intento de compromiso en los correos corporativos, como solicitudes para obviar procesos normales y transferir fondos a algún ejecutivo de alto nivel como el CEO, haciendo una validación por teléfono o video tanto del remitente como de la solicitud. Sin embargo, los criminales han empezado a utilizar falsificaciones de voz y video del supuesto remitente y respuestas generadas por chatbots para frustrar tales controles.
UTILIZACIÓN DE IA PARA CIBERDEFENSA
Los ciberactores maliciosos rara vez tienen éxito la primera vez que atacan a un objetivo, incluso utilizando IA, más bien dependen de que sus ataques fallidos sean pasados por alto en la avalancha de alertas que inundan un centro de operaciones de seguridad empresarial. La IA ayuda a detectar actividades anómalas, determinar qué anomalías son ataques, generar una respuesta en tiempo real para bloquear el ataque y proteger el resto de los activos digitales de la organización contra futuros ataques.
Por más empoderante que sea la IA para los Directores de Seguridad Informática, las empresas enfrentan otros desafíos relacionados con el uso de la IA en el lugar de trabajo. Problemas comunes incluyen la infracción de derechos de autor, la revelación de información de identificación personal, el uso desconocido de datos sesgados o dudosos y las “alucinaciones” de la IA, que son resultados simplistas, pero evidentemente incorrectos.
Muchas organizaciones están actuando con cautela en el uso de GenAI; pero en la mayoría de los casos, la fuerza laboral no comprende las razones de este ritmo ni ve las barreras digitales que se están implementando. Se están acostumbrando a utilizar GenAI en su vida privada y a experimentar con ella de forma independiente dentro del lugar de trabajo. GenAI se ha convertido en la última forma de TI en la sombra con la que los Directores de Seguridad Informática deben lidiar.
La innovación impulsada por IA está ocurriendo en todo el panorama tecnológico y depende de las organizaciones aprovecharla.
notiveraz