Un paper publicado en arXiv revisa el papel de los LLMs y la IA generativa en ciberseguridad y privacidad. El tema es incómodo porque no entra en una sola caja: la misma tecnología que ayuda a defender sistemas también puede ayudar a atacarlos.
El valor del paper no está en anunciar una solución definitiva. Es una revisión de literatura. Sirve para ordenar el mapa: riesgos de doble uso, malware generado con IA, explicabilidad y estrategias defensivas.
La IA como herramienta de ataque
Los modelos generativos bajan la barrera de entrada para tareas que antes exigían más conocimiento técnico. Eso no significa que cualquier prompt produzca un ataque sofisticado, pero sí cambia el costo de experimentar.
Los usos ofensivos más claros son:
- Redacción de phishing más convincente y personalizado.
- Generación de scripts o variantes de código malicioso.
- Ayuda para entender vulnerabilidades y automatizar pruebas.
- Ingeniería social con mensajes más adaptados al contexto.
El punto práctico es que la IA no reemplaza por completo al atacante experto. Pero puede hacer más productivo al atacante intermedio y multiplicar intentos de baja calidad a gran escala.
La IA como herramienta defensiva
El lado defensivo también importa. Los LLMs pueden ayudar a clasificar logs, resumir incidentes, explicar alertas, generar reglas iniciales de detección o asistir en revisión de código. En equipos chicos, esa asistencia puede ahorrar tiempo.
Pero hay una condición: no se puede delegar seguridad crítica a respuestas no verificadas. En ciberseguridad, una explicación plausible no alcanza. Hace falta trazabilidad, pruebas reproducibles y revisión humana.
El problema de la explicabilidad
Uno de los puntos más importantes del paper es la explicabilidad. Si un sistema basado en IA marca una actividad como maliciosa, el equipo necesita entender por qué. Si no, puede terminar confiando en una caja negra con autoridad falsa.
La ciberseguridad no tolera bien la ambigüedad. Un falso positivo puede bloquear operación legítima. Un falso negativo puede dejar pasar un ataque real. Por eso los sistemas con IA deben integrarse en procesos auditables.
Límites de esta evidencia
Este es un survey, no una prueba de campo propia. Resume investigaciones existentes y organiza el debate. No demuestra por sí solo cuánto malware real fue generado por LLMs ni qué defensa funciona mejor en producción.
La lectura correcta es prudente: la tendencia es seria, pero cada claim necesita evidencia concreta.
Conclusión rápida
La IA generativa ya forma parte del tablero de ciberseguridad. No conviene exagerarla como amenaza mágica ni minimizarla como una herramienta más. El camino sensato es tratarla como capacidad de doble uso: útil para defender, peligrosa cuando baja la fricción de ataque, y siempre necesitada de control humano.
Este tema conecta con nuestra mirada sobre agentes de IA y responsabilidad y con la necesidad de usar agentes de código con procesos verificables.
Conclusion rapida
Los LLMs ya son herramientas de doble uso en ciberseguridad: pueden ayudar a detectar amenazas, pero también bajan la barrera para automatizar ataques.
Que significa esto para vos
Equipos técnicos necesitan tratar la IA generativa como una superficie de riesgo y como una herramienta defensiva, no como una moda separada de seguridad.
