Ciberseguridad e Inteligencia Artificial: los nuevos retos que enfrentan las organizaciones
Nuestra participación en el VIII Congreso Internacional de Ingeniería de Sistemas – Universidad de Lima
La inteligencia artificial (IA) está transformando la manera en que operan las organizaciones. Desde la automatización de procesos hasta la toma de decisiones estratégicas, su adopción crece cada día más. Sin embargo, este avance trae consigo nuevos riesgos de ciberseguridad que las empresas deben aprender a identificar y gestionar.
En el marco del VII Congreso Internacional de Ingeniería de Sistemas de la Universidad de Lima, nuestro Director de Ciberseguridad e Inteligencia Artificial, Luis Cuenca, ofreció la charla «Riesgos de Ciberseguridad e Inteligencia Artificial», donde compartió con estudiantes, docentes e invitados una visión clara sobre los desafíos que enfrenta el sector tecnológico ante el uso masivo de la IA.
Principales riesgos de ciberseguridad en la Inteligencia Artificial
Durante la presentación, se abordaron temas que hoy son críticos para toda organización que esté explorando o implementando soluciones de IA:
1. Shadow AI y el uso no controlado de herramientas de IA
El uso de aplicaciones de IA sin autorización o supervisión corporativa, lo que se conoce como Shadow AI, puede implicar riesgos de fuga de información sensible y pérdida de control sobre los datos.
2. Riesgos en el ciclo de vida de una aplicación de IA
Desde la definición del caso de uso hasta la personalización del modelo, cada etapa representa posibles vulnerabilidades;
- Modelos open-source o datasets de terceros comprometidos.
- Exposición de datos sensibles durante el entrenamiento.
- Manipulación de modelos (data & model poisoning) por actores maliciosos.
3. Consecuencias de no gestionar los riesgos.
Los impactos pueden ser significativos: pérdidas financieras, sanciones legales, daño reputacional, incumplimiento normativo y fuga de propiedad intelectual.
Una reflexión clave: la innovación debe ser segura
El espacio generó un intercambio muy valioso con los asistentes, quienes compartieron preguntas y experiencias sobre cómo las organizaciones pueden equilibrar innovación, cumplimiento y seguridad digital.
La conclusión fue clara: no hay transformación digital sin una estrategia de ciberseguridad sólida y adaptada a los nuevos riesgos de la Inteligencia Artificial.
Nuestro compromiso con la seguridad y la innovación
En Japan Technology Solutions continuamos impulsando inciativas que promuevan el desarrollo tecnológico seguro en el Perú.
Nuestro equipo trabaja constantemente para ayudar a las organizaciones a fortalecer su resiliencia digital, implementar estrategias de ciberseguridad modernas y adoptar la Inteligencia Artificial de manera responsable y protegida.
¿Tu organización está preparada para gestionar los nuevos riesgos que trae la IA? Contáctanos y conversemos sobre cómo fortalecer la seguridad y el cumplimiento en tus proyectos de transformación digital.