El congresista, Flavio Cruz Mamani, presentó el Proyecto de Ley 8223/2023-CR, que plantea regular el desarrollo, implementación y uso de la inteligencia artificial (IA) en el Perú, promoviendo su uso ético, seguro y responsable para el desarrollo económico y social, garantizando el respeto a los derechos fundamentales. La normativa se aplicaría a entidades de la administración pública, empresas del Estado bajo el FONAFE y organizaciones de la sociedad civil, ciudadanos, empresas y academia.
La iniciativa establece principios éticos como transparencia, responsabilidad, no discriminación, privacidad, seguridad y supervisión humana para el uso de la IA. Además, define principios legales de legalidad, protección de datos personales, seguridad y confiabilidad, supervisión y control, e innovación responsable. Estos principios buscan asegurar un marco regulatorio que proteja los derechos individuales y fomente la innovación ética y sostenible en el uso de la IA.
PROYECTO LEY DE FOMENTO Y REGULACIÓN DEL USO DE LA INTELIGENCIA ARTIFICIAL EN EL PERU
El Congresista de la República , integrante del Grupo Parlamentario PERÚ LIBRE, ejerciendo el derecho a iniciativa legislativa que les confiere el artículo 107° de la Constitución Política del Perú, y en concordancia con los artículos 22° inciso c), 67°, 75° y 76° del Reglamento del Congreso de la República, presenta el siguiente proyecto de ley.
FÓRMULA LEGAL
El Congreso de la República ha dado la siguiente ley:
LEY DE FOMENTO Y REGULACIÓN DEL USO DE LA INTELIGENCIA ARTIFICIAL EN EL PERÚ
TÍTULO I
DISPOSICIONES GENERALES
Capítulo I: Objeto y Ámbito de Aplicación
Artículo 1. Objeto de la Ley
La presente ley tiene por objeto regular el desarrollo, implementación y uso de la inteligencia artificial (IA) en el Perú, promoviendo su aprovechamiento ético, seguro y responsable, en beneficio del desarrollo económico y social, garantizando el respeto a los derechos fundamentales.
Artículo 2. Ámbito de Aplicación
La ley es aplicable en:
a) Las entidades de la administración pública, incluidas las personas jurídicas bajo el régimen privado que presten servicios públicos o ejercen función administrativa, en virtud de una autorización del Estado;
b) Las empresas que realizan actividad empresarial del Estado que se encuentran en el ámbito del Fondo Nacional de Financiamiento de la Actividad Empresarial del Estado (FONAFE); y
c) Las organizaciones de la sociedad civil, ciudadanos, empresas y academia en lo que corresponda.
Artículo 3. Definiciones
Para los efectos de esta ley, se entiende por:
a) Inteligencia Artificial (IA): Conjunto de técnicas y tecnologías que permiten a las máquinas realizar tareas que requieren inteligencia humana.
b) Sistema de IA: Conjunto de algoritmos, datos y procesos que permiten la operación de una inteligencia artificial.
c) Datos Personales: información sobre una persona natural identificada o identificable.
d) Algoritmo: Conjunto de instrucciones para la resolución de un problema, la realización de una tarea o la toma de decisiones, basadas en datos y en reglas matemáticas.
e) Riesgo: Combinación de la probabilidad de que se genere un daño y la gravedad de dicho daño.
f) Sesgo de automatización: Tendencia a confiar automáticamente o en exceso en los resultados generados por un sistema basado en inteligencia artificial.
g) Implementador: Toda persona natural o jurídica que utiliza un sistema basado en inteligencia artificial excepto cuando su uso se da exclusivamente para actividades personales no profesionales.
h) Error de Uso de la inteligencia artificial: Cualquier acción, omisión o negligencia por parte de los desarrolladores, proveedores o usuarios de los sistemas de inteligencia artificial que resulte en consecuencias adversas, daño o perjuicio a personas, propiedades o derechos.
i) Datos de entrada: Datos suministrados a un sistema basado en inteligencia artificial u obtenida directamente por el mismo para producir información de salida.
j) Datos de prueba: Datos usados para realizar una evaluación independiente del sistema basado en inteligencia artificial entrenado y validado a fin de verificar su funcionamiento previsto.
k) Datos de validación: Datos usados para evaluar un sistema basado en inteligencia artificial entrenado y ajustar sus parámetros no entrenables, así como su proceso de aprendizaje a fin de, entre otras cosas, evitar el sobreajuste o el ajuste insuficiente.
l) Modelo fundacional: Modelo de un sistema basado en inteligencia artificial entrenado con un gran volumen de datos, diseñado para generar información de salida de carácter general y con capacidad de adaptación a un conjunto de tareas diversas.
TITULO II
PRINCIPIOS RECTORES
Capítulo I: Principios Éticos y Legales
Los sistemas de IA deben desarrollarse y utilizarse de acuerdo con los siguientes principios éticos:
a) Transparencia. Se debe incorporar medidas de transparencia algorítmica y de trazabilidad; y brindar información sobre sus usos para mayor entendimiento de las personas que pueden verse afectadas por su uso.
b) Responsabilidad. Se debe incorporar medidas de transparencia algorítmica y de trazabilidad; y brindar información sobre sus usos para mayor entendimiento de las personas que pueden verse afectadas por su uso.
c) No discriminación: Se prohíbe expresamente el desarrollo y uso de sistemas de IA que generen o perpetúen discriminación.
d) Privacidad: Los sistemas de IA deberán respetar la privacidad y protección de datos personales de acuerdo con la normativa vigente.
e) Seguridad: Los sistemas de IA deberán ser diseñados y utilizados de manera segura, minimizando riesgos de manipulación o daños, a través de enfoque de riesgos; el uso de estos sistemas debe ser proporcional a su finalidad.
f) Rendición de cuentas y supervisión humana: Los sistemas basados en IA deben contar con mecanismos para la rendición de cuentas y supervisión. De ser el caso, se deben incorporar mecanismos de supervisión humana.
Artículo 5. Principios Legales
Los sistemas de IA deben cumplir con los siguientes principios legales:
a) Legalidad: Implica que ninguna persona puede ser castigada sino en virtud de un debido proceso ante sus jueces naturales, donde, además, se respeten las garantías establecidas en la ley.
b) Protección de los datos personales: Conjunto de normas y directrices destinadas a salvaguardar la privacidad y los derechos de los individuos con respecto al tratamiento de sus datos personales. Este principio es fundamental en la legislación de muchos países y tiene como objetivo garantizar que la recopilación, almacenamiento, procesamiento y uso de datos personales se realicen de manera ética, segura y respetuosa con los derechos individuales
c) Seguridad y confiabilidad: Se refiere a la obligación de las organizaciones de implementar medidas adecuadas para proteger los datos personales contra riesgos como el acceso no autorizado, la divulgación, la alteración, la pérdida o la destrucción accidental,
d) Supervisión y control: Es una obligación para establecer mecanismos adecuados para el monitoreo continuo, la evaluación y la verificación del cumplimiento de las políticas, normativas y medidas de protección de datos personales dentro de una organización
e) Innovación responsable: Se refiere a la promoción y desarrollo de tecnologías y prácticas innovadoras de manera ética, sostenible y con un enfoque en el bienestar social.
f)
TITULO III
DESARROLLO Y USO DE SISTEMAS DE IA
Disposiciones específicas de desarrollo
Artículo 6. Requisitos para el Desarrollo
Las entidades que desarrollen sistemas de IA deben:
a) Asegurar la calidad y representatividad de los datos utilizados.
b) Realizar evaluaciones de impacto ético y social.
c) Establecer mecanismos de supervisión y corrección de errores.
Artículo 7. Gestión de riesgos
a) El implementador de un sistema basado en IA debe tomar las medidas de gestión adecuadas en función a su nivel de riesgo.
b) Un sistema basado en IA es considerado de riesgo alto cuando no cuenta con mecanismos para interpretar cómo se ha llegado un determinado resultado o cuánto se utiliza para actividades como, por ejemplo, la identificación biométrica y categorización de personas naturales; la selección de trabajadores o postulantes a un puesto de trabajo; y la evaluación crediticia de las personas.
c) Un implementador de un sistema basado en IA de riesgo alto debe, entre otros aspectos, identificar y evaluar los riesgos generados e implementar medidas para su gestión; elaborando informes que describan el proceso de validación del sistema.
d) Un sistema basado en IA es considerado de riesgo inaceptable cuando se utiliza para modificar el comportamiento de una persona a través de técnicas subliminales; y clasificar la fiabilidad de una persona o colectivo a través de la cuantificación de su conducta social siempre que dicha clasificación le genere un efecto perjudicial. Está prohibido hacer uso de un sistema basado en IA de riesgo inaceptable dentro del territorio nacional.
Artículo 8. Transparencia en el Desarrollo
Las entidades desarrolladoras deben documentar y publicar información relevante sobre los algoritmos y procesos utilizados, garantizando la transparencia de los sistemas de Inteligencia Artificial.
Los usuarios de sistemas de Inteligencia Artificial deben:
a) Utilizar los sistemas de IA de manera ética y conforme a los principios establecidos en esta ley.
b) Informar a los individuos cuando sus datos sean utilizados por sistemas de IA.
c) Garantizar la protección de los datos personales involucrados.
d) Informar al ciudadano, de forma previa, clara y sencilla, el uso de dicho sistema.
e) Explicar el funcionamiento y los parámetros utilizados para llegar a un resultado.
f) Proveer información sobre las personas responsables de la toma de decisiones y los derechos con los que dispone el afectado.
g) Garantizar el cumplimiento de los derechos de autor y propiedad intelectual en el uso y desarrollo de los sistemas basados en IA; y
h) Establecer un canal de comunicación para que una persona pueda alertar sobre el uso indebido de los sistemas basados en IA o el incumplimiento de una norma.
Artículo 10. Supervisión y Control
El uso de sistemas de IA será supervisado por una entidad reguladora, que tendrá facultades para inspeccionar, auditar y sancionar incumplimientos.
TITULO IV
PROTECCIÓN DE DATOS PERSONALES
Artículo 11. Protección de Datos Personales
Los sistemas de IA deben garantizar la protección de los datos personales, de acuerdo con la Ley de Protección de Datos Personales vigentes.
Artículo 12. Consentimiento Informado
La recolección y uso de datos personales por sistemas de IA requieren el consentimiento previo, informado y explícito de los individuos.
Artículo 13. Derechos de las Personas
Se reconocen los derechos de acceso, rectificación, cancelación y oposición respecto al tratamiento de datos personales por parte de sistemas de IA, de acuerdo con lo establecido en la normativa de protección de datos.
Artículo 14. Derechos Fundamentales
El desarrollo, uso y aplicación de la inteligencia artificial no podrá vulnerar los derechos fundamentales reconocidos en la Constitución y en los tratados internacionales ratificados por el Perú.
Artículo 15. Garantías Judiciales
Se garantiza el acceso a la justicia y la posibilidad de interponer recursos judiciales en caso de vulneración de derechos fundamentales por parte de sistemas de IA.
Artículo 16. Derechos de Acceso y Rectificación
Los titulares de los datos tienen derecho a acceder a la información sobre el uso de sus datos por sistemas de IA y a solicitar la rectificación de datos inexactos o incompletos.
Artículo 17. Derecho a la Omisión
Los titulares de los datos pueden solicitar la eliminación de sus datos personales cuando estos ya no sean necesarios para los fines para los cuales fueron recogidos o tratados.
TÍTULO V
GOBERNANZA Y SUPERVISIÓN
Artículo 18. Entidad Reguladora y de control
Encargar a la Secretaria de Gobierno y Transformación Digital de la Presidencia del Consejo de ministros, quien será la encargada de garantizar el cumplimiento de la ley y la regulación de los sistemas de inteligencia artificial, incorporará a expertos en Inteligencia Artificial, ética, derecho y otros campos relevantes en el tema.
Artículo 19. Funciones de la Entidad Reguladora
La entidad reguladora tendrá las siguientes funciones:
a) Emitir normas y directrices sobre el desarrollo y uso de IA.
b) Supervisar y auditar los sistemas de IA.
c) Investigar denuncias y sancionar incumplimientos.
d) Promover la investigación y el desarrollo responsable de IA.
Artículo 20. Régimen de Sanciones
El incumplimiento de las disposiciones de esta ley será sancionado con multas, suspensión de actividades y otras medidas administrativas, según la gravedad de la infracción.
El procedimiento sancionador se regirá por los principios de legalidad, proporcionalidad y debido proceso, garantizando el derecho de defensa de los infractores.
TÍTULO VI
DEL FOMENTO DE LA INTELIGENCIA ARTIFICIAL
Artículo 22. Promoción de la Investigación
El Estado fomentará la investigación en IA, a través de la investigación en Inteligencia Artificial (IA) con el objetivo de fomentar avances científicos, tecnológicos y sociales en este campo. Se destinarán recursos e incentivos y se podrá crear un fondo, con aportes público-privado, para apoyar la investigación de vanguardia, la innovación y la colaboración en Inteligencia Artificial en la ley de presupuesto de cada año se asignará los recursos necesarios para dicho fin y debiendo ser requerido por la autoridad competente.
Artículo 23. Incentivos para la Innovación
El Estado podrá establecer incentivos fiscales, financieros y otros estímulos para la investigación y el desarrollo de la inteligencia artificial, en especial para proyectos que tengan como objetivo mejorar el bienestar de la sociedad y promover la innovación.
La investigación en Inteligencia Artificial se llevará a cabo respetando los principios éticos y legales, y se fomentará la transparencia y el intercambio de conocimientos y resultados para promover un desarrollo responsable y beneficioso para la sociedad.
Artículo 24. Formación en IA
Se promoverá la formación de talento humano a través de programas educativos y capacitaciones, en instituciones educativas de educación básica regular y educación superior universitaria y no universitaria.
Se fomentará la colaboración entre instituciones educativas, centros de investigación y la industria para desarrollar programas de capacitación actualizados y relevantes, adaptados a las necesidades y avances en el campo de la IA.
Artículo 25. Concientización Pública
Se realizarán campañas para informar sobre los beneficios y riesgos de la IA., fomentar el intercambio de conocimientos, datos y mejores prácticas en el campo de la Inteligencia Artificial a nivel nacional e internacional, promoviendo la cooperación entre diferentes países, organizaciones y sectores.
TITULO VII
DISPOSICIONES FINALES
Artículo 26. Reglamentación
El Poder Ejecutivo reglamentará la presente ley en un plazo de 180 días a partir de su promulgación.
Artículo 27. Disposiciones Transitorias
Las entidades que actualmente desarrollan o utilizan sistemas de IA dispondrán de un año para adecuarse a las disposiciones de esta ley.
DISPOSICIÓN COMPLEMENTARIA FINAL
La presente ley no afecta los derechos adquiridos ni las disposiciones especiales vigentes en otras materias relacionadas con la tecnología y la protección de datos.
Lima, junio del 2024.
