Riesgos nuevos
Cada sistema de IA abre una puerta nueva a ciberataques.
David Pereira Paz · Primera edición, octubre de 2026
La fundación OWASP, referente en seguridad de software, publica los diez riesgos principales de los sistemas basados en modelos de lenguaje. A un consejo le basta con agruparlos en cuatro vías de ataque.
| Vía | El riesgo | La protección básica |
|---|---|---|
| Lo que recibe | Instrucciones escondidas en un documento que el modelo lee. No sabe distinguir las órdenes de la empresa de las de un atacante. | Tratar como sospechoso cualquier documento que el sistema lea. |
| Lo que devuelve | Respuestas que se ejecutan sin revisar y filtraciones de contraseñas, datos personales o instrucciones internas. | No ejecutar ni publicar nada sin validarlo antes. |
| Lo que trae consigo | Programas generados con IA que incorporan componentes de terceros que nadie ha revisado. | Versiones cerradas, repositorio propio y revisión automática. |
| Lo que puede hacer | Permisos excesivos que convierten una mala respuesta en una mala acción, y exceso de confianza que hace que nadie lo revise. | Los permisos justos para cada herramienta y aprobación humana para lo importante. |
55 %
Parte del código generado con IA que Veracode consideró seguro en su informe de 2025. El resto no lo era.
40–62 %
Parte del código generado con IA que contenía al menos una vulnerabilidad, según los estudios publicados en 2025.
Y ya ha ocurrido. En 2025 y 2026, programas maliciosos capaces de copiarse a sí mismos se han extendido por repositorios públicos de software y han robado credenciales de equipos de desarrollo. Entraron por un componente que un asistente instaló y que nadie revisó.
Proteger y comprobar son tareas distintas
La seguridad evita ataques; la verificación evita errores. Las dos son necesarias. Y hay cuatro capacidades que una empresa debe construir en su harness sea cual sea el modelo que use, porque se mantienen aunque cambie de proveedor:
- Evaluación. Una batería de casos reales con respuesta conocida que se repite cada vez que se cambia algo. Sin ella, los primeros en sufrir los fallos pueden ser los clientes.
- Selección de la información. Qué información de contexto se le da al modelo y en qué orden. Los modelos leen mejor el principio y el final que el centro: en un estudio, colocar el dato relevante en medio restó unos 22 puntos de acierto.
- Coordinación. Qué recuerda el sistema entre un paso y otro, cómo reintenta cuando falla y cómo evita perderse en procesos largos. De esto depende buena parte del rendimiento.
- Verificación. Un umbral de confianza para cada decisión, un camino para pasar el caso a una persona y revisiones por muestreo de lo que se aprobó sin revisar.
Qué significa para el consejo
Cualquier modelo que la empresa use hoy habrá sido sustituido o quedará obsoleto en menos de un año. Lo que permanece y gana valor con el tiempo son esas cuatro capacidades. Son el verdadero activo; el modelo no pasa de ser un proveedor más.