Inteligencia artificial y ciberseguridad: ¿Qué beneficios? ¿Qué riesgos?

Contenido realizado en el marco de los fondos del  Plan de Recuperación, Transformación y Resiliencia  del Gobierno de España, financiado por la Unión Europea (Next Generation). Mediante el uso de algoritmos biométricos y de autenticación multifactor basada en comportamiento, la IA refuerza los procesos de acceso. El ataque denominado “acceso a los datos” consiste en que el atacante puede acceder a todo o parte de los datos de entrenamiento y utilizar esos datos para crear un modelo sustituto. En opinión de Verdi, el plan debe establecer zonas especiales de IA en las regiones europeas que se beneficiarían de permisos acelerados para la construcción y que tienen un alto potencial de generación de energía renovable en el corto plazo.

El 98% de las organizaciones españolas no tiene el nivel suficiente para afrontar las ciberamenazas en la era de la IA

Un enfoque centrado en la formación continua y la simulación de escenarios de ataque puede ser decisivo para fortalecer las defensas frente a este tipo de amenazas emergentes. El uso de IA para la monitorización y análisis masivo de datos puede generar conflictos con regulaciones como el RGPD y preocupaciones éticas sobre la privacidad. Esto incluye el riesgo de abuso de la IA por parte de actores maliciosos o incluso dentro de las mismas organizaciones, ya sea por negligencia o intenciones maliciosas.

Pistas para identificar contenido falso generado por IA

La IA puede monitorear y analizar el comportamiento de los usuarios y los sistemas en una red para identificar actividades sospechosas o anómalas que podrían indicar una brecha de seguridad. En lugar de seguir instrucciones específicas, los modelos CibinAR.com de aprendizaje automático utilizan datos para aprender patrones y tomar decisiones con mínima intervención humana. Los sistemas de IA pueden también pueden generar falsos positivos, identificando erróneamente actividades legítimas como amenazas. Esto puede ser especialmente problemático en entornos de alta complejidad donde hay mucho ruido en los datos. El panorama de las amenazas y el desarrollo de la seguridad de la IA no ocurren en el vacío.

De hecho, el progreso en este sector ha hecho posible que los algoritmos generen informes en lenguaje natural a partir de registros de actividad y datos de tráfico, lo que ayuda a traducir información compleja en mensajes comprensibles para el personal de ciberseguridad. Así que en este artículo, queremos hablar sobre la inteligencia artificial generativa, centrándonos tanto en sus fundamentos, su historia, su evolución y sus posibles usos en el campo de la ciberseguridad. La ciberseguridad es uno de los campos más importantes del mundo tecnológico y con la llegada de la inteligencia artificial, sin duda, ha adquirido una nueva dimensión, ya que al mismo tiempo que hay nuevas formas de defenderse, también han aparecido nuevas amenazas. Los efectos de estas tecnologías van más allá de las preocupaciones corporativas, impactando a la sociedad en general al erosionar la confianza en los medios y los procesos democráticos. Un ejemplo notorio fue el escándalo de Cambridge Analytica, donde se recolectaron datos de usuarios de Facebook sin su consentimiento para influir en elecciones políticas. El potencial de los deepfakes y otras herramientas de IA generativa para manipular la opinión pública es una preocupación seria y creciente.

Servirá como punto de contacto y centro de información y orientación sobre la Ley de IA”, indican desde la CE. “Integrarán una enorme potencia de procesamiento y centros de datos para entrenar y desarrollar modelos complejos de IA a una escala sin precedentes. Las gigafábricas liderarán la próxima generación de modelos de vanguardia y mantendrán la autonomía estratégica de la UE en sectores industriales y científicos críticos, lo que requiere inversiones públicas y privadas”, reza una publicación de la CE. Aunque ningún sector del mercado está a salvo de los ciberataques, el sector educativo fue el más afectado en el primer trimestre de 2025, con un promedio de 4.484 ataques semanales por organización, lo que representa un aumento del 73% con respecto al año anterior. En Ticnova, compartimos las mejores prácticas de ahorro y optimización en el uso de la tecnología. Hemos aparecido en varios medios compartiendo consejos sobre cómo las empresas pueden reducir costes y mejorar su ciberseguridad.

Áreas como la gestión de incidentes y la detección de actividades sospechosas ya están mostrando claros beneficios gracias a la integración de la IA en la ciberseguridad. Sin embargo, en un entorno marcado por cambios continuos y la proliferación de amenazas cada vez más avanzadas, incluidas aquellas impulsadas por IA, es esencial intensificar los esfuerzos y adaptarse rápidamente para mitigar los riesgos emergentes. Desde malware y phishing hasta sofisticados ataques dirigidos, los ciberdelincuentes emplean técnicas avanzadas para vulnerar sistemas. Frente a esto, las herramientas tradicionales de ciberseguridad, como los antivirus y firewalls, aunque útiles, ya no son suficientes.

UU., pueden incluso llevar a la desregulación en los sectores de la tecnología y los medios sociales. Esto, a su vez, podría permitir a los estafadores y otros agentes maliciosos inundar las plataformas en línea con amenazas generadas por IA. Sin embargo, los responsables de TI y seguridad también deben comprender las limitaciones de la IA y la importancia de la experiencia humana en el proceso de toma de decisiones.

Además, lideramos iniciativas de ámbito nacional como el proyecto SEGRES, cuyo enfoque pionero conceptualiza un nuevo modelo de ciberseguridad inspirado en los sistemas inmunológicos biológicos, denominado “Sistema Inmunitario Artificial”. Este modelo combina la adaptabilidad y resiliencia características del sistemas inmunitarios como el humano con las capacidades avanzadas de aprendizaje y automatización de la IA, creando una defensa dinámica frente a las ciberamenazas. El aprendizaje automático, o machine learning (ML), es una rama de la IA centrada en desarrollar sistemas capaces de aprender a partir de datos, tomar decisiones informadas y realizar predicciones. En la última década, la irrupción de la IA generativa ha supuesto otro salto cualitativo. Esta tecnología, con su capacidad para analizar patrones complejos y generar contenido como texto, imágenes o simulaciones, ha ampliado enormemente los casos de uso en ciberseguridad. Su facilidad de adopción, gracias a la interacción en lenguaje natural, ha sido clave para su popularización, permitiendo que profesionales de diferentes sectores la integren rápidamente en sus procesos.

¿Qué hacer si eres víctima de phishing?

El sector gubernamental le siguió de cerca, con 2678 ataques semanales por organización, un aumento del 51%. Y si bien esta necesidad alentó inversiones en diferentes industrias, los directores de Información y Tecnología todavía enfrentan el desafío de demostrar el impacto real de estas soluciones sobre la generación de valor de las compañías. En cambio llega a 67% de las respuestas la opción de “mantener” la innovación en IA con nuevas inversiones. Por otro lado, sólo el 37% de los CIO respondió que ve a la IA generativa como una solución, aunque la mayoría de las organizaciones encuestadas se encuentran en la fase de exploración (33%) o de implementación (27%) en alguna etapa. Además, el 18% declaró que le preocupan las implicaciones éticas en lo que respecta al uso de la Inteligencia Artificial. En este marco, un estudio reciente revela que la ciberseguridad encabeza por lejos el listado de principales desafíos que definen el rumbo tecnológico de las empresas para este año.

La IA es especialmente eficaz cuando se trata de analizar enormes volúmenes de datos generados por los sistemas informáticos, identificar anomalías en tiempo real y tomar decisiones automáticas basadas en aprendizaje previo. Pero no siempre la IA es un aliado, también puede convertirse en un adversario si su uso es inadecuado. Cuando hablamos del potencial de la IA en malas manos, nos referimos a los ciberdelincuentes y actores malintencionados que pueden utilizar esta tecnología para fines delictivos. Éstos pueden aprovechar su capacidad de aprendizaje automático para desarrollar técnicas de ataque más sofisticadas, automatizando y escalando sus ataques. La IA también puede ser utilizada en ataques de ingeniería social, creando perfiles precisos de las víctimas y diseñando ataques personalizados.