Recientemente, se ha publicado en El Peruano el Decreto Supremo N° 115-2025-PCM, que aprueba el Reglamento de la Ley N° 31814 sobre el uso de la inteligencia artificial en favor del desarrollo económico y social del país. Entre los principales aspectos que regula el Reglamento se encuentran:
AMBITO DE APLICACIÓN
El Reglamento se aplica a las entidades de la Administración Pública, así como a las organizaciones del sector privado, sociedad civil, ciudadanía y academia que forman parte del Sistema Nacional de Transformación Digital.
PRINCIPIOS RECTORES
El Reglamento incluye y consolida los siguientes principios:
- No discriminación: Se busca evitar cualquier forma de discriminación conforme lo establece la Constitución Política del Perú, en las normas y tratados o acuerdos nacionales e internacionales, asegurando que los sistemas basados en IA se usen de manera segura, responsable, ética, justa, transparente, equitativa y respetuosa de los derechos humanos.
- Privacidad de los datos personales: Promover la transparencia de las condiciones del tratamiento de los datos personales y fortalecer la confianza digital.
- Protección de derechos fundamentales: Se garantiza el respeto y protección de los derechos fundamentales en el desarrollo, implementación y uso de sistemas basados en IA, priorizando el bienestar humano conforme a la Constitución Política del Perú, las normas y tratados o acuerdos nacionales e internacionales.
- Respeto del derecho de autos y derechos conexos: Se deben respetar los derechos de autor, tanto morales como patrimoniales, y de los creadores respecto de sus obras originales de acuerdo con la normativa nacional y los tratados internacionales en la materia.
- Seguridad, proporcionalidad y fiabilidad: La aplicación de las salvaguardias y medidas de fiabilidad y seguridad debe ser proporcional al nivel de riesgo que el sistema basado en IA pueda generar.
- Sensibilización y educación en IA: Se promueve la alfabetización digital y el desarrollo de habilidades relacionadas con el diseño, desarrollo, implementación y uso de sistemas basado en IA.
- Sostenibilidad: Se promueve la adopción de prácticas sostenibles que minimicen el consumo de energía y recursos, fomentando soluciones tecnológicas responsables con el ambiente, así como sus componentes, y comprometidas con el desarrollo sostenible.
- Supervisión humana: La intervención humana es necesaria para corregir, modificar o detener el funcionamiento de estos sistemas, con el fin de prevenir abusos, fortalecer la transparencia y rendición de cuentas y salvaguardar el bienestar colectivo, en cumplimiento de los principios jurídicos, éticos y morales vigentes.
- Transparencia: Los sistemas basados en IA, deben ser claros, explicables y accesibles, garantizando que los procesos, algoritmos y decisiones sean comprensibles para usuarios, implementadores, y autoridades.
- Rendición de cuenta: Los actores involucrados en el desarrollo, implementación y uso de sistemas basados en IA, asumen responsabilidad por sus acciones y decisiones, debiendo garantizar mediante mecanismos que permitan identificar, evaluar y responder por los impactos generados por la IA, ya sean positivos o negativos.
CLASIFICACION Y GESTION DE RIESGOS
La clasificación de riesgos generados por el uso de sistemas basados en IA, son los siguientes:
- Uso indebido (prohibido): Se consideran indebidos los sistemas de IA que manipulen decisiones humanas, generen capacidad letal autónoma, realicen vigilancia masiva sin base legal, infieran datos sensibles con fines discriminatorios o realicen identificación biométrica en tiempo real en espacios públicos (salvo casos excepcionales).
- Uso de riesgo alto (permitido bajo condiciones): Incluye aplicaciones en activos críticos, educación de menores, selección laboral, programas sociales, evaluación crediticia y servicios de salud, siempre que cuenten con salvaguardas como supervisión humana, evaluaciones de impacto y protocolos de transparencia.
OBLIGACIONES DEL SECTOR PUBLICO
Las entidades deberán aprobar políticas institucionales de uso responsable de IA, conformar equipos multidisciplinarios, realizar auditorías de seguridad, publicar código fuente cuando corresponda y aplicar evaluaciones de impacto en sistemas de riesgo alto.
OBLIGACIONES DEL SECTOR PRIVADO
Los desarrolladores e implementadores deberán mantener registros sobre el funcionamiento de la IA, garantizar transparencia y explicabilidad, capacitar a su personal y adoptar estándares internacionales de gestión y seguridad.
ALCANCES FINALES
La Secretaría de Gobierno y Transformación Digital (SGTD) en el ejercicio de sus funciones de supervisión, realiza las gestiones conducentes para hacer efectiva la responsabilidad de los funcionarios de las entidades de la Administración Pública ante el incumplimiento en la implementación del presente Reglamento, para lo cual reporta a la Contraloría General de la República, para las acciones correspondientes.
En el caso en que la SGTD, tome conocimiento de una presunta vulneración a la propiedad intelectual, protección de datos personales o la afectación de otros derechos fundamentales y/o legislación vigente, comunica el hecho a las autoridades competentes, para las acciones fiscalizadoras y sancionadoras correspondientes.
Autor:
Kimberly Vilca Flores
Abogada especialista en Derecho de Protección al Consumidor y Propiedad Intelectual