Algoritmos, modelos matemáticos y redes neuronales para modernizar el sistema de justicia

Un amauta pro, versión IA2023, para asistir al Juez del siglo XXI

990

Sumilla: 1. Introducción. 2. Inteligencia artificial (IA). 2.1. ¿Qué es la inteligencia artificial? 2.2. Los presupuestos de la IA. 2.2.1. Digitalización. 2.2.2. Estandarización y sistematización. 2.2.3. Base de datos de gran volumen (big data). 2.2.3. Interoperabilidad. 2.3. Elementos de IA. 2.3.1. Algoritmo. 2.3.2. Modelo matemático. 2.3.3. Interfaz. 2.3.4. Red neuronal. 2.4. La IA en el sistema de justicia. 2.5. Límites de la IA. 2.6. La IA en el sistema de tutela de la víctima de violencia familiar. 2.7. La IA y los juicios de probabilidad urgentes. 2.8. Concepto del sistema de predicción de medidas de protección. 3. Conclusiones. 4. Referencias bibliográficas.


1. Introducción

El glosario de palabras en idiomas indígenas del libro “El espía del Inca. 2020” de Rafael Dumett, describe al Amauta del Imperio de los Incas como “hombre sabio, depositario de conocimiento, docente que impartía instrucción en el Yachayhuasi[3]. Entre sus funciones estaba la de componer quipus sagrados en loor del Inca”. El Amauta registraba las memorias y elogios en honor del Inca y las transmitía a sus alumnos, futuros gobernantes, en la casa del saber, gracias a un instrumento denominado quipu.

La gobernanza de los datos del Tahuantinsuyo se realizaba utilizando el quipu, la herramienta tecnológica de los incas del siglo XV, incluso antes, era una eficiente base de datos que registraba, guardaba y transmitía la información numérica y no numérica. El Quipucamayoc, una suerte de contador, escribano e historiador registraba e interpretaba los datos, la historia y costumbres de los pueblos del antiguo Perú.

En el año 2008 se descubrió el M373[4], no se trata de algún robot mascota, asistente médico o de algún robot sexual, tampoco del algoritmo o código matemático de algún asistente con inteligencia artificial (IA) como ALEXA, SIRIS, Chat.GPT-4, ROSS, PROMETEA, PETRORIA, Xiao Zhi 3.0 o alguna “Pequeña Sabiduría” tecnológica[5], tampoco de un avión de combate o un arma de última generación, solo se trata de una base de datos antigua, del siglo XV, de origen Chancha e Inca. El M373 es un código elaborado por Umberto Miccelli para la numeración y clasificación de todos los quipus existentes y accesibles a los investigadores.

Esta base de datos del siglo XV permitía a los Quipucamayoc registrar, guardar y transmitir información no solo contable sino también de carácter histórico, como las genealogías, los eventos importantes e inclusive las costumbres, (Miccelli. 2008. Un quipu gigante hallado en una Chullpa -M373), servía para recordar hechos, leyes, ritos y ceremonias, por ejemplo, para guardar la descripción codificada de una danza con sus pocos pasos básicos diversamente ordenados, una descripción fila a fila de un patrón textil, incluso una partitura musical o una ley; “por el color del hilo, tamaño y número de nudos sacaban la ley que prohibía tal o cual delito y la pena que se daba a quien la quebrantaba” (Miccelli citando a Garcilaso 1976 [1609]).

El quipu encontrado en Ayacucho fue elaborado entre los años 1535-1600, su dimensión, la utilización parcial de cabello humano, el color de las cuerdas y los nudos de más de 10 vueltas, que supera la base decimal del registro numérico de los quipus, sugieren que guarda información importante y que parte no era de carácter contable, sin embargo, debido a que se desconoce el patrón del diseño de la serie de cuerdas y la sucesión de nudos (algoritmo), así como el código con el que debe leerse (modelo matemático), es casi imposible descifrar la información exacta que contiene.

Para darnos cuenta de lo extraño que puede ser este sistema para quien no lo conoce, Miccelli nos recuerda que los conquistadores del Tahuantinsuyo y los cronistas contaban con el sistema de notación numérica de los números romanos, la más común en todo Occidente Europeo del siglo XVI y, debido a que tenían poca familiaridad con el sistema de base decimal, consideraron al quipu un instrumento del demonio y ordenaron su destrucción masiva en el Concilio de Lima de 1583 (Miccelli. 2018).

2.  Inteligencia artificial (IA)

Cinco siglos después, en 2023, asistimos a otro singular encuentro con la tecnología, esta vez, la del siglo XXI; una época de transformación global, post pandemia COVID 19, inédita, de grandes transformaciones en la gobernanza de datos, la transmisión de la información y la generación de conocimiento, gracias a la masificación del uso de las tecnologías de la información (TI), especialmente, la inteligencia artificial (IA). Los más moderados, entre los hispanos, ven en la IA una oportunidad para mejorar la gestión de la información y el conocimiento humano, (Oppenheimer, Hildebrandt, del Río, Cárdenas, Nieva, Corvalán, Diaz, entre otros)[6]; en efecto, permitirá distinguir el conocimiento básico, estándar, y la actividad repetitiva y rutinaria, del conocimiento complejo, creativo, y la actividad innovadora, especial, que no puede dejarse a cargo de los algoritmos y los modelos matemáticos.

2.1 ¿Qué es la inteligencia artificial?

El resumen ejecutivo del sistema PROMETEA elaborado por Estevez y otros (BID- 2017) nos brinda las nociones iniciales de IA, de los años 70 y 90:

[La automatización de] actividades que asociamos con el pensamiento humano, actividades como la toma de decisiones, la resolución de problemas, el aprendizaje. (Bellman, 1978).

El arte de crear máquinas que realizan funciones que requieren inteligencia cuando las realizan personas (Kurzweil, 1990).

El estudio de los cálculos que hacen que sea posible percibir, razonar y actuar (Winston, 1992).

Inteligencia artificial… se ocupa del comportamiento inteligente en los artefactos (Nilsson, 1998).

Por otro lado, una consulta rápida en Bing, el buscador de Microsoft, nos informa que “OpenAI es una organización de investigación en inteligencia artificial (IA) fundada el 11 de diciembre del 2015, con un capital de mil millones de dólares, que se dedica a la creación de sistemas de IA. Sus propietarios son un grupo de empresarios y expertos en tecnología como Elon Musk, Sam Altman, Peter Thiel, Reid Hoffman y Greg Brockman.

En noviembre de 2022, OpenAI lanzó la primera versión de ChatGPT una IA diseñada para mantener conversaciones y responder preguntas empleando la información obtenida gracias a la aplicación de técnicas de aprendizaje automático y procesamiento del lenguaje natural. La cuarta versión de Chat GPT-4 lanzada el 14 de marzo del 2023, además, es capaz de interpretar fotos y explicar lo que contienen gracias a su poderoso algoritmo con una base de datos notablemente mayor a la de su predecesor ChatGPT-3, desde entonces, ChatGPT ha generado tendencia mundial en los medios y las redes, y ha iniciado un carrera por el control de los datos y los medios digitales entre Google.Chrome y Microsoft. Bing.

No resistimos la tendencia y le preguntamos al ChatGPT: ¿Quién eres?, en estricto, la consulta fue: ¿qué es la inteligencia artificial? En tiempo real, procesando de forma sorprendente lenguaje natural, nos contestó lo siguiente:

La inteligencia artificial (IA) es un campo de la informática que se centra en la creación de sistemas y programas informáticos que pueden realizar tareas que normalmente requieren inteligencia humana. La IA se basa en algoritmos y modelos matemáticos que permiten a los sistemas aprender de los datos y experiencias pasadas y tomar decisiones basadas en esa información. (Citamos la respuesta del Chat.GPT.3.5, Febrero 2023, no la versión Chat.GPT-4, por ser la primera más técnica y específica).

Para validar la información brindada por la IA revisamos los conceptos de los expertos, quienes sostienen:

La inteligencia artificial es una enorme base de datos que se relaciona a través de algoritmos y ante un problema específico da una respuesta o propone una posible solución. (Entrevista, Nieva-Fenoll, España 2022. La inteligencia artificial en los procesos judiciales)[7].

Simulador de sentencia: se usa hace algunos años en los grandes estudios y también se viene desarrollando en los tribunales de justicia. Es inteligencia artificial que basado en el caso concreto simula lo piensa que podría ser la sentencia. Considera todas las decisiones dictadas anteriormente y frente a un nuevo caso predice la posible solución. Los algoritmos valoran los precedentes y frente a un caso predicen la solución. (Entrevista, Pereyra. Uruguay 2022. Inteligencia Artificial aplicada a la Justicia y al sistema judicial. Ventajas, riesgos y debates)[8].

En palabras sencillas, la inteligencia artificial es una rama de la informática que desarrolla sistemas que son capaces de ejecutar trabajos que requieren inteligencia humana mediante una serie de algoritmos (Noreña. Gestión 13/03/2023). (véase que esta noción en síntesis es muy parecida a la brindada por el ChatGPT3.5 y aún más lo es con la noción genérica que brinda el ChtaGPT-4).

Como puede advertirse el ChatGPT ha brindado una respuesta satisfactoria a una pregunta determinada, procesando la información de su base de datos y procesando lenguaje natural. La información brindada ha sido validada con la bibliografía citada, además hemos verificado que tiene aprendizaje automático, porque aprende de sus inconsistencias y de la información que se le brinda.

En síntesis, podemos afirmar que la IA es un sistema informático experto que registra, almacena y procesa una gran cantidad de datos gracias a poderosos algoritmos y, mediante modelos matemáticos que programan redes neuronales y lenguaje natural, propone soluciones a problemas determinados. La IA programa una sucesión ordenada y sistemática de actividades y tareas (algoritmo) para procesar una big data, además, opera un conjunto de ecuaciones y fórmulas (modelo matemático) para conectar diversas unidades de entrada (variables e indicadores) con otras preestablecidas (redes neuronales), utiliza técnicas de aprendizaje automático en todo el proceso y, finalmente, mediante procesamiento de lenguaje natural, proyecta una solución concreta (unidad de salida).

2.2 Los presupuestos de la IA[9]

La construcción y programación de una IA requiere de una infraestructura tecnológica preexistente, pues esta no es factible sin que la actividad o proceso esté digitalizada, estandarizada y sistematizada en una gran base de datos, y, de preferencia un sistema interoperable, esto es, la conexión de todos los sistemas operativos necesarios para desarrollar una determinada actividad o proceso, pues en el mejor de los escenarios de gobernanza de datos, los sistemas deberán ser interoperables.

La importancia de esta infraestructura para la modernización del sistema de justicia, ha sido considerada tanto como objetivo estratégico (OE) del Plan Institucional del Poder Judicial aprobado mediante resolución Resolución Administrativa N° 000136-2021-P-PJ de fecha 17 de febrero del 2021 (PEI) 2021-2030, como objetivo prioritario (OP) de la Política de Reforma del Sistema de Justicia aprobado mediante D.S. No. 012-2021-JUS (OP), en ese sentido, para modernizar el sistema de justicia aplicando inteligencia artificial en la gestión del proceso y los servicios se requiere tres pasos previos:

2.2.1 Digitalización

Uno de los objetivos del Plan Estratégico Institucional del Poder Judicial es precisamente fortalecer el desarrollo de la Transformación Digital. Este objetivo estratégico institucional (OEI) está orientado a cubrir las necesidades de información, así como monitorear los cambios tecnológicos y desarrollar actividades para la digitalización de servicios, procesos e información del Poder Judicial, a través del uso intensivo de las tecnologías digitales y la innovación dirigida por datos.

La transformación digital (TD), en la Corte de Lima Norte, se viene implementando en el Sistema Integrado Judicial que permite generar, guardar y transmitir documentos electrónicos tanto en formato de texto editable (Word) como en PDF (documento en formato portable), además, permite agregar documentos digitalizados y con la implementación del expediente judicial electrónico (EJE) penal y no penal, especialmente, en el sistema de protección contra la violencia, se ha alcanzado la digitalización casi en su totalidad, El expediente judicial electrónico está siendo repotenciando y objeto de mejora continua desde la Oficina de coordinación de Proyectos de la Gerencia General del Poder Judicial.

2.2.2 Estandarización y sistematización

La estandarización y sistematización de documentos, así como de los datos que generan las actividades, desarrolladas en cada etapa del proceso judicial, esta alineada también con otros dos objetivos prioritarios de la Política de Reforma del Sistema de Justicia que buscan (OP1) impulsar la gobernanza de los datos y la interoperabilidad del sistema de justicia, así como (OP9) fortalecer la predictibilidad de las decisiones judiciales y la adecuación normativa.

La Comisión de Gestión de despacho Judicial de la Corte de Lima Norte, viene implementando un plan de estandarización y sistematización de las decisiones judiciales que se emiten en el sistema de protección de violencia contra la mujer e integrantes del grupo familiar. Esta comisión, con sus técnicos y el soporte de la Gerencia de Desarrollo Corporativo y la Gerencia de informática del Poder Judicial, viene validando, además, la digitalización de las actividades y procesos de dicho sistema de protección.

La Corte de Lima Norte ha solicitado implementar un modelo predictivo para brindar una o más soluciones judiciales para la emisión de medidas de protección, esto es, un Amauta PRO, en versión ciencia de datos del 2023 para asistir al juez del siglo XXI.

2.2.3 Base de datos de gran volumen (big data)

Otro de los objetivos prioritarios del Plan Estratégico Institucional del Poder Judicial es la gobernanza de los datos. En un mundo globalizado el nuevo petróleo que mueve la economía mundial, son los datos, esta nueva realidad global exige también una nueva forma de gobernar los datos y la información generada en todas las actividades y procesos del poder judicial, debido a que no se puede administrar ni medir lo que no se conoce ni se registra, por ello, es prioritario generar y gestionar una gran base de datos, especialmente, hacer ciencia y minería de datos, antes de proyectar y tomar decisiones, pues como bien dice: ”generar una big data es salir de la fe”.

En ese sentido, se requiere un buen sistema de registro, almacenamiento y transmisión de datos y protocolos adecuados para recuperar la información en caso de riesgo o para migrar de un servidor o migrar la base de datos del SIJ al EJE sin perder datos valiosos, por ejemplo; aún más urgente es incorporar analistas y científicos de datos, que realicen: a). minería de datos (buscar, clasificar y codificar datos valiosos) y b) proponer soluciones con modelos o algoritmos descriptivos o predictivos, con la finalidad de agregar valor a nuestros datos y decisiones institucionales, que resulta siendo el activo más valioso que tiene el poder judicial.

En la Corte Superior de Justicia de Lima Norte contamos con 10 Servidores FTP de última generación, adquiridos en el año 2020 y 2021 y además seis más en proceso de actualización. El sistema de protección contra la violencia contra la mujer y los integrantes del grupo familiar tiene implementado un servidor FTP exclusivo para alojar la base de datos de última generación y permite operar el Sistema Integrado Judicial y el sistema de notificaciones judiciales (SERNOT) así como el EJE.

Por su parte, la Gerencia General con el respaldo del presidente del Poder Judicial, mediante servicio de terceros, viene gestionando la contratación de un equipo de ciencia de datos que, a velocidad de crucero, trabaje en la prueba de factibilidad de un modelo de predicción para el otorgamiento o no de medidas de protección, que la Corte de Lima Norte ha solicitado implementar en los procesos de violencia familiar.

2.2.4 Interoperabilidad

La Política de Reforma del Sistema de Justicia tiene otros dos objetivos relacionados con la interoperabilidad de los sistemas del poder judicial y los sistemas de las demás instituciones. En el ámbito del sistema de protección contra la violencia familiar es un objetivo estratégico institucional (OEI) la interoperabilidad entre la Policía Nacional y el Poder Judicial, este objetivo busca garantizar el acceso a la justicia de todas las personas y modernizar los procesos judiciales en línea y en tiempo real.

En Lima Norte desde el 2020 se ha implementado un sistema interoperable entre SIPROVIV, SIJ, EJE y SERNOT, esto es, entre el Sistema de Denuncias Policiales – SIDPOL (antes), Sistema de Protección de Víctimas por Violencia SIPROVIV (ahora) de la Policía Nacional del Perú (PNP), implementadas en las Comisarias básicas y de Familia de la PNP; el Sistema Integrado Judicial de Expedientes (SIJ) y el Expediente Judicial Electrónico (EJE), implementado en los Módulos de Violencia Protección; y, el Servicio de Notificaciones Electrónicas del Poder Judicial (SERNOT). Este sistema interoperable permite registrar la denuncia de violencia en línea y, en tiempo real, remitirla al Juez de Familia, quien la califica, emite las medidas de protección requeridas, hasta en cuatro horas, y las notifica a los interesados y a la Policía Nacional el Perú, para su cumplimiento, todo el proceso es digital, cero papeles.

2.3 Elementos de IA

Abordar los elementos esenciales que permite operar la Inteligencia Artificial (IA) es un asunto altamente técnico su tratamiento requiere mayor análisis y excedería el propósito de este ensayo, de modo que, gracias a ChatGPT y el buscador Bing, en esta oportunidad solo estamos en condiciones de reproducir algunas referencias generales de los principales elementos de la IA: algoritmo, modelo matemático, interfaz y redes neuronales.

2.3.1 Algoritmo

Los algoritmos son un conjunto de pasos o instrucciones para diseñar programas y sistemas informáticos con la finalidad de resolver un problema o realizar una tarea específica.

Un algoritmo puede ser tan simple como una lista de pasos para hacer una tarea determinada, o puede ser extremadamente complejo y requerir un gran número de cálculos y decisiones. En el sistema de justicia, por ejemplo, los algoritmos pueden valoran los precedentes y frente a uno caso nuevo predicen la solución.

2.3.2 Modelo matemático

En cambio, un modelo matemático es un conjunto de ecuaciones y fórmulas que se utilizan para representar un sistema o proceso. Los modelos matemáticos pueden ser muy útiles para predecir el comportamiento de un sistema en diferentes situaciones y para analizar la relación entre las diferentes variables que influyen en ese comportamiento.

En la inteligencia artificial, los modelos matemáticos se utilizan para crear sistemas de aprendizaje automático y para realizar tareas específicas, como el reconocimiento de voz o imagen, la clasificación de datos y la toma de decisiones basada en los datos (ChatGPT 3.5, febrero 2023).

2.3.3 Interfaz

Por último, el Chat.GPT-4, consultado en el buscador Bing de Microsoft, nos informa que “en informática, una interfaz es un punto de contacto o conexión entre dos o más sistemas o componentes, que permite la comunicación y el intercambio de datos, información o señales entre ellos. Por ejemplo, una interfaz de usuario (UI) es la forma en que los usuarios interactúan con una aplicación en una pantalla mediante botones, menús, iconos y otros elementos visuales.

Existen diferentes tipos de interfaces: (a) de hardware (USB y HDMI) que permiten la conexión de dispositivos físicos, (b) de software que permiten que las aplicaciones interactúen con otras aplicaciones o servicios en la red. En resumen, “guna interfaz es una abstracción que permite la interacción entre diferentes sistemas, componentes o usuarios de manera estandarizada y fácil de usar”.

2.3.4 Red neuronal

La red neuronal no es más que “bases de datos en conexión” (Nieva-Fenoll.2022). Esta definición brindada por el profesor español es didáctica e ilustrativa, pues una red neuronal, en estricto, no es solo base de datos en conexión. El portal web aws.amazon.com, de forma más detallada, nos indica que:

Las neuronas artificiales son módulos de software, llamados nodos, y las redes neuronales artificiales son programas de software o algoritmos que, en esencia, utilizan sistemas informáticos para resolver cálculos matemáticos.

Una red neuronal básica tiene neuronas artificiales interconectadas en tres capas:

Capa de entrada

La información del mundo exterior entra en la red neuronal artificial desde la capa de entrada. Los nodos de entrada procesan los datos, los analizan o los clasifican y los pasan a la siguiente capa.

Capa oculta

Las capas ocultas toman su entrada de la capa de entrada o de otras capas ocultas. Las redes neuronales artificiales pueden tener una gran cantidad de capas ocultas. Cada capa oculta analiza la salida de la capa anterior, la procesa aún más y la pasa a la siguiente capa.

Capa de salida

La capa de salida proporciona el resultado final de todo el procesamiento de datos que realiza la red neuronal artificial. Puede tener uno o varios nodos. Por ejemplo, si tenemos un problema de clasificación binaria (sí/no), la capa de salida tendrá un nodo de salida que dará como resultado 1 o 0. Sin embargo, si tenemos un problema de clasificación multiclase, la capa de salida puede estar formada por más de un nodo de salida. Véase https://aws.amazon.com/es/what- is/neural-network/ actualizada al 28.03.2023.

2.4 La IA en el sistema de justicia

La IA aplicada al arte, como el algoritmo DALL-E, es capaz de generar una pintura que en 2018 ha sido subastada en US$ 350,000 dólares; aplicada al lenguaje y literatura, como el ChatGPT, su modelo matemático y su poderoso algoritmo es capaz de procesar una gran cantidad de datos y redactar un informe, una biografía, un poema o generar una fórmula matemática y está revolucionando la gestión de la información y el conocimiento humano.

El uso de la IA en el derecho, como los sistemas de predicción Watson o Ross, procesan una gran cantidad de normas y precedentes judiciales y proyectan informes jurídicos. En el sistema de justicia la IA se viene usando desde hace varios años y en distintos países, pero con algunas reservas, incluso en algunos las han prohibido[10], debido a las controversias en torno a fiabilidad, sesgos e inequidad de los algoritmos.

Teniendo en cuenta la información de ChatGPT y la bibliografía consultada podemos hacer una lista de algunos algoritmos y modelos matemáticos que se han utilizado en el sistema de justicia de varios países:

a. COMPAS

Es un sistema de puntuación de riesgo que se utiliza en los Estados Unidos para predecir la probabilidad de que una persona reincida en la El sistema utiliza una variedad de factores, como el historial de delitos de una persona, su edad, su género y su raza, para generar una puntuación de riesgo que se utiliza para informar las decisiones judiciales.

b. HARMONY

Es otro sistema de puntuación de riesgo que se utiliza en Reino Unido para evaluar el riesgo de que una persona cometa un delito

c. LSI-R

Es un sistema de evaluación de riesgos que utiliza Canadá y opera de forma similar a HARMONY y COMPAS.

d. RISCAMBI

Es otro programa de predicción del nivel de reincidencia de que un reo comenta un nuevo delito que España utiliza con la finalidad de otorgarle beneficios.

e. PredPol

En cambio, es un modelo matemático creado en UU. (UCLA.2000) para predecir la probabilidad de que se produzca un delito en una determinada área geográfica en un momento determinado. El modelo utiliza datos históricos sobre la delincuencia y otros factores, como las condiciones meteorológicas y la hora del día, para generar predicciones de dónde y cuándo se producirán los delitos. Funciona en Atlanta y ha logrado reducir en 19% el número de delitos.

f. CASE LAW ANALITICS

Es un sistema de predicción que utiliza modelos matemáticos, algoritmos y se apoya en la IA para proporcionar servicios de cuantificación de riesgos para abogados basados en una asociación de larga data entre abogados y matemáticos. El sistema ha permitido, por ejemplo, anticipar correctamente el 79° de los veredictos del Tribunal Europeo de Derechos Humanos. Considera todas las decisiones dictadas anteriormente y frente a un nuevo caso predice la posible solución.

g. SOCRATES (Brasil 2017)

Es un programa de inteligencia artificial que procesa una data de 108 millones de casos. Se basa en el análisis de casos repetitivos. El Tribunal Supremo de Justicia tiene el programa Sócrates que ha tomado 300,000 decisiones judiciales para predecir los casos (Pereyra, 2017).

h. El Tribunal de Internet (China 2019)

Es un mega sistema horizontal conectado con todos los organismos públicos y privados, todo el proceso y la sentencia se dicta por IA. Existe un Juez que supervisa y controla la decisión, pero si decide apartarse debe fundamentar su decisión. El sistema funciona al revés, la IA no asiste al sistema y al Juez, sino que el Juez asiste al Tribunal de Internet. La crítica incide que es un gran sistema de control; la persona que es condena y no cumple la sentencia, no puede comprar un boleto de bus o avión, no tiene acceso al crédito ni al comercio electrónico. (véase. https://www.dw.com/es/las-cortes- de-china-ya-utilizan-inteligencia-artificial-para-resolver-casos/a-64471873).

i. El juez holográfico en China (2019) es un sistema que ha tomado todos los rostros de los Jueces de China, los ha mezclado y ha generado el rostro del juez holográfico, que junto a la realidad aumentada son prototipos para interactuar en un proceso judicial, que permitiría a una persona estar en su casa mientras un holograma suyo podría estar participando digitalmente en un juicio; o permitir la enseñanza del juicio oral del proceso de forma virtual, en línea, mediante el juego de roles y la participación de (Pereyra. 2017).

j. DoNotPay

Es un abogado robot que brinda consejos legales, que está interviniendo en los Tribunales de EE.UU. para casos simples como las multas de tránsito, incluso, recientemente, habría sido demandado por haber intervenido en un Tribunal sin tener título en derecho[11].

k. ROSS

Es un sistema de predicción desarrollado en base a la tecnología del superordenador Watson, termina dando una respuesta del caso basado en toda la legislación vigente, la doctrina y la jurisprudencia aplicable al caso.

l. PROMETEA 2017

Sistema de estandarización y redacción automatizado de dictámenes fiscales para casos de amparos habitacionales, en los que la fiscalía debía emitir opinión sobre si el reclamante tenía o no derecho a que se proteja su derecho a una vivienda digna. Juan G. Corvalán, director del Laboratorio de Innovación e Inteligencia Artificial (IALAB), Universidad de Buenos Aires (Derecho), es el creador de Prometea.

El sistema funciona como un sistema de estadísticas dirigida. Esto es tomando como referencia ciertas palabras clave predefinidas por un grupo de expertos, reconoce con un grado de probabilidad los fallos relevantes almacenados en una base de datos y predice la solución adecuada al caso. La herramienta de IA desarrollada permite realizar un dictamen jurídico de forma íntegra….

m. PretorIA

Es un sistema que puede “leer”, detectar, predecir y elaborar resúmenes sobre miles de sentencias en pocos segundos.

Está basado en la experiencia Prometea (Argentina) pero hubo que hacer un código nuevo porque el objetivo es totalmente diferente y la magnitud es mucho Además, hubo que adaptarse a la cultura jurídica que fue quizás el desafío mayor. La Corte Constitucional de Colombia es de las cortes que más casos atiende. Argentina recibe 30 mil casos por año y la de Colombia supera los 700 mil.

El sistema es capaz de leer e interpretar y a partir de allí realiza automáticamente y sin intervención humana tres grandes tareas:

1) la búsqueda de información de interés para la selección de las sentencias,

2) la categorización siguiendo criterio de relevancia establecidos por la Corte Constitucional,

3) la elaboración de estadísticas que permiten visualizar de manera íntegra las tutelas presentadas en ese ámbito de la justicia.

En un primer momento, los criterios de categorización y de estadísticas estarán disponibles solo para sentencias relacionadas con temas de salud.

n. Estonia

El país más avanzado del planeta en materia digital, está implementado la inteligencia artificial en casos de pequeños montos, en donde el proceso y la sentencia se gestiona con IA. Ott Velsberg, director de datos de Estonia, tiene la labor de diseñar una IA robot que se encargue de la enorme acumulación de disputas legales en las Cortes, al menos en lo que respecta a reclamos (Pereyra, Uruguay-2017, Cárdenas Perú-2023. ChatGPT-4). Como se puede advertir los sistemas de predicción COMPAS (EE.UU.), HARMONY (Reino Unido), LSI-R (Canadá), RISCAMBI (España) son modelos de predicción de soluciones jurídicas, pero han sido cuestionados y limitados por su alto sesgo, por ejemplo, por razón de la raza. El sistema de predicción PROMETEA (Argentina) tiene una aplicación relativa, pues se aplica para recomendaciones no vinculantes de una sola dependencia del Ministerio Público Fiscal de la Ciudad de Buenos Aires; y, el sistema PRETORIA, que no es un sistema de predicción de decisiones judiciales, sino un modelo estadístico, se viene aplicando en la Corte Constitucional de Colombia para buscar, seleccionar y categorizar sentencias, así como para elaborar estadísticas integrales de una materia determinada.

PRETORIA (2020), no obstante ser un sistema basado en la versión inicial de PROMETEA[12] (2017), es un paso atrás en la construcción de un modelo de predicción de decisiones o recomendaciones judiciales, debido a que “uno de los problemas con los que se encontraron a la hora de crear PretorIA es que no había suficientes datos de entrenamiento (disponibles y digitalizados) para desarrollar una solución, es decir que faltaba los volúmenes necesarios de información (big data) para entrenar el sistema empleando redes neuronales. Y ése fue uno de los motivos por los cuales optaron por generar otro tipo de modelo de predicciones, basado en un sistema de aprendizaje automático supervisado, siguiendo la técnica de clasificación o topic model que requiere “interactuar mucho entre humano y máquina hasta que logras buenas tasas de acierto que supera el 90%”.

2.5. La IA y los juicios de probabilidad urgentes

En nuestro país, como en todos los demás países del mundo, nos hemos visto obligados a abreviar tiempos en el uso de las tecnologías de la información, ya que, por la necesidad y las circunstancias de la emergencia sanitaria del 2020 y 2021, hemos tenido que implementarlas en todas las actividades y procedimientos públicos y privados.

Al igual que en la experiencia argentina creemos que la IA es factible, por ahora, en los casos específicos, repetitivos y no complejos, debido a que aún no se ha alcanzado generar una big data, una total transformación digital de los procesos, ni la gobernanza de todos los datos que genera el Poder Judicial. La estandarización y sistematización de los datos y documentos es más rápido y viable en los casos simples, estándares o habituales, los casos complejos o emblemáticos requieren creatividad, alto nivel de razonamiento y decisiones innovativas de parte del Juez.

No obstante, en teoría, todas las actividades y procesos jurídicos podrían estandarizarse y sistematizarse. El derecho sintéticamente es un algoritmo, pues, como bien sostiene Guastini:

el derecho es un discurso, una secuencia de enunciados. Un enunciado a su vez, es una secuencia de palabras dotada de forma sintáctica y sentido completo. Los enunciados de los cuales está compuesto el Derecho son enunciados de un lenguaje normativo o preceptivo o, dicho de otra manera, directivo. (Guastini. 2018. Filosofía del Derecho Positivo, p. 27 y 28).

Por ahora, entonces, debemos convenir que los sistemas de predicción de soluciones judiciales, esto es, el uso de algoritmos, modelos matemáticos y redes neuronales para asistir al sistema judicial y al Juez mediante un programa que proyecte decisiones judiciales, es más factible en los juicios urgentes de probabilidad, como las medidas judiciales provisionales, que cuenten con procesos y actividades digitalizadas, estandarizadas y sistematizadas, con base de datos de gran volumen y un sistema interoperable.

2.6 Límites de la IA

El propio ChatGPT nos advierte que “es importante tener en cuenta que estos sistemas y modelos matemáticos pueden ser útiles para ayudar a los jueces y magistrados a tomar decisiones informadas, pero también deben ser utilizados con precaución y en conjunto con la experiencia y el juicio humano. (Chat GPT3.5, consultado el 24.02.2023 a las 20:00 horas).

Los sesgos (riesgo de prejuicio o discriminación)[13] y la ausencia de un código ético de los algoritmos y los modelos matemáticos son los otros dos grandes retos que representa la inteligencia artificial, especialmente, en el sistema de justicia, pues “no podemos hacer ley de nuestros prejuicios” ni debemos ser asistidos por algoritmos o modelos matemáticos inequitativos.

Además, debe advertirse de otras limitaciones relacionadas con los presupuestos financieros, los medios y los tiempos para implementar IA en los sistemas de justicia,

como bien resaltan el informe de PROMETEA, en efecto, cuando el costo de aprendizaje es elevado, la tarea es urgente o sujeta a plazos, la carga de trabajo es grande y las viejas rutinas conviven con las nuevas herramientas tecnológicas, existe un alto riesgo de fracaso de cualquier proyecto de IA.

Los límites y riesgos de la IA en el sistema de justicia es un tema crítico y capital, requiere mayor amplitud y análisis, lo que excede estas líneas; por ahora, solo estamos en condiciones de enunciarlos, dejando para otra oportunidad su desarrollo.

2.7 La IA en el sistema de tutela de la víctima de violencia familiar

En la Corte de Lima Norte el sistema judicial de tutela de la víctima de violencia regulado por la Ley 30364: “Ley para prevenir, sancionar y erradicar la violencia contra las mujeres y los integrantes del grupo Familiar”, vigente desde 24 de noviembre del 2015, se viene implementando mediante dos procedimientos distintos:

El sistema de protección a cargo del Juez de Familia especializado en Violencia, otorga protección a la víctima de violencia mediante un proceso urgente, que exige solo un juicio de probabilidad, concede las medidas requeridas por la víctima o las más adecuadas al caso, sin necesidad de escuchar a la otra parte.

El sistema de sanción a cargo del Juez penal que requiere de un proceso debido, un proceso de cognición y de prueba plena de los hechos y la responsabilidad del denunciado.

El sistema de tutela de la víctima de violencia en la Corte de Lima Norte funciona mediante un sistema interoperable, desde julio del 2020; mediante una interfaz, este sistema vincula el SIDPOL (antes), SIPROVIV (ahora), de la Policía Nacional con el SIJ, el EJE y el SERNOT del Poder Judicial. Este sistema interoperable permite registrar la denuncia de violencia en el SIPROVIV desde la Comisaria Básica y de Familia y, en tiempo real, transmitirla al SIJ y EJE del Módulo de Violencia de los Juzgados de Familia, donde se califica y emite las medidas de protección inmediatamente, sistema interoperable que se ha replicado en todo el país.

Uno de los objetivos estratégicos del Plan Institucional del Poder Judicial al 2030 busca la transformación digital, en ese marco jurídico desde el 24 de febrero del 2022, el sistema de protección funciona mediante el expediente judicial electrónico EJE que promueve la migración del expediente físico al expediente digital.

Además, el sistema cuenta con un instrumento de gestión de calidad que permite registrar las denuncias de violencia, medir y gestionar los plazos y las actividades en cada etapa y emitir medidas en cuatro horas, para los casos de riesgo severo, dicho plazo se cuenta desde el registro de la denuncia hasta la notificación de la resolución que concede medidas de protección.

El sistema de gestión de calidad mide la eficacia del sistema en función al tiempo y resuelve la dilación del proceso, pero no mide ni controla la congruencia ni predictibilidad de las decisiones, por ello, hay necesidad de dar el siguiente paso y medir la eficacia del sistema en función de la congruencia procesal y de los precedentes judiciales, mediante un sistema automatizado de predicción de medidas de protección.

Para ello se requiere verificar cuatro pasos previos: 1. Digitalización de las actividades y procesos. 2. Estandarizar y sistematizar de datos y documentos, 3. Una base de datos de gran volumen (big data), y 4. Validar el sistema interoperable.

Superada la verificación de la infraestructura necesaria, corresponde desarrollar el algoritmo para procesar la información de cada etapa del proceso y generar puntos de conexión que permitan la transferencia de información y datos con la finalidad de proyectar las medidas requeridas por la víctima o las más adecuadas al caso.

El sistema requiere de un modelo que permita relacionar las variables del caso (tipo de violencia, riesgo y gravedad) con las previstas por la ley, aquellas con las variables de casos similares ya resueltos, del mismo modo, debe vincular la gravedad de los hechos y el riesgo de la víctima con las características de las medidas previstas por la ley, todo esto, con la finalidad de proyectar los hechos, los fundamentos y las medidas más adecuadas al caso concreto, predicción que le permitirá al juez tomar decisiones más rápido y con mejor información.

Enseguida se describe, por ejemplo, las conexiones (red) que podría vincular hechos de violencia episódicos y riesgo leve con medidas genéricas y específicas de baja intervención y restricción de derechos que podrían predecir las medidas de protección necesarias para proteger a la víctima de violencia sicológica episódica en riesgo leve.

El sistema tutelar de protección contra la violencia familiar es un terreno dúctil para la automatización del proceso y la predicción de la decisión mediante IA, el sistema no requiere probar el hecho de violencia o el riesgo de la víctima, basta que estos sean probables, por tanto, es posible anticipar la decisión basado en un sistema automatizado.

En ese sentido, consideramos que es factible el uso de la IA en el sistema tutelar contra la violencia familiar, esto es, un algoritmo que mediante técnicas de aprendizaje automático vincule, de forma congruente, los hechos de violencia de un caso concreto con las medidas de protección requeridas, que conecte los hechos del caso y el nivel de riesgo con las variables previstas en la ley y las registradas en casos similares y, procesando lenguaje natural, proyecte las medidas adecuadas para el caso. Este sistema además descartará, automáticamente, las medidas impertinentes e incongruentes con el caso propuesto.

El sistema de predicción, además, podría ampliarse a procesos sumarios: alimentos y desalojo, a procesos ejecutivos, pues si bien éstos requieren un juicio de certeza, el análisis de los hechos, la controversia, la legislación y la jurisprudencia es menos compleja, más uniforme y cuantitativa.

La incorporación de IA en los procesos de alimentos, desalojo y ejecutivos podría permitir que tanto el Juez de primera como el de segunda instancia, liberen tiempo y capacidades para reorientarlas a actividades cognitivas relevantes (labores complejas, mayor reflexión en casos emblemáticos o mediáticos, capacitación en horas laborales, mejores soluciones, innovación, etc.) además, permitiría agregar valor público: eficiencia y productividad a la labor judicial y mayor satisfacción personal: identidad institucional de jueces y servidores judiciales.

2.8 Concepto del sistema de predicción de medidas de protección

El sistema de predicción de modelos y recomendaciones judiciales automatiza las actividades y procesos repetitivos, no complejos, del sistema tutelar de violencia contra la mujer e integrantes del grupo familiar y propone una solución jurídica. Se trata de un sistema de predicción automatizado y secuencial, en tres etapas, la primera clasifica y define la factibilidad y complejidad del caso, identificando el tipo de violencia, la gravedad de los hechos y el riesgo de la víctima, la segunda proyecta la resolución definiendo el tipo de violencia, el nivel de riesgo, la complejidad del caso y redacta los hechos y los fundamentos, y, en la tercera proyecta el otorgamiento o no de las medidas de protección vinculando los datos del caso, la normativa vigente y los casos similares ya resueltos.

3. Conclusiones

  • El proyecto permitirá que las más de 24,000 medidas de protección dictadas, en 2022, por los Juez de Familia de Lima Norte además de ser emitidas rápidamente sean congruentes con las medidas requeridas y con la gravedad de los hechos y el nivel de riesgo de la víctima.
  • Mejorar la calidad de las decisiones judiciales que conceden medidas de protección, midiendo el factor tiempo y además la congruencia y la predictibilidad de las decisiones judiciales, pues las medidas proyectadas con automatización inteligencia no solo serán coherente con los hechos y la ley sino además conforme con las decisiones anteriores emitidas para casos similares.
  • El sistema de predicción no podrá sustituir al asistente o al Juez quienes, en definitiva, deben revisar el proyecto de decisión judicial y validarla con sus correcciones y su firma; en última instancia, la corrección de cualquier error quedará a cargo de la segunda instancia, esto es, por tres jueces superiores y sus respectivos asistentes que proyectan la decisión
  • La creatividad, el sentido común y la capacidad argumentativa aún son patrimonio del ser humano, de modo que la fiabilidad y la utilidad de las soluciones jurídicas generadas por IA deben ser, todavía, revisadas por el asistente del Juez y validadas por éste.
  • Cualquier instrumento que utilice IA solo será un instrumento tecnológico más para mejorar la elaboración de proyectos de las resoluciones judiciales y los tiempos de respuesta en la toma de las decisiones judiciales

Referencias bibliográficas


[1] El presente artículo se ha titulado: Un AMAUTA PRO, versión IA 2023, (Inteligencia Artificial 2023), en honor al gran amauta del imperio del Tahuantinsuyo, con la finalidad de resaltar la importancia de la primera base de datos de los pueblos del antiguo Perú y la buena gobernanza de datos que les permitía registrar, guardar y gestionar no solo su contabilidad sino también su historia, leyes y cultura; otros sistemas como Prometea, PretorIA, Sócrates, entre otros, resaltan culturas que sentimos muy ajenas.

[2] Un agradecimiento especial a la Ing. Tatiana Machicao por las correcciones y el soporte técnico; la paciencia, la asertividad e interés de la asistencia humana, no podrá ser superada por ninguna asistencia de IA.

[3] Yachayhuasi: Casa del saber. Lugar en que los hijos de principales incas e incas de privilegio recibían educación.

[4] La historia del M373 comienza cuando unos pobladores que realizaban trabajos de excavación y desbroce de acequias en la localidad de Aucará, Provincia de Lucanas, departamento de Ayacucho, encontraron una Chulpa (fardo funerario de piedra), en su interior encontraron una momia recubierta de algodón en posición fetal y, entre su ajuar funerario, una bolsa de piel de venado con un quipu de extraordinarias dimensiones (420 cm) y en perfecto estado, al que Miccelli denominó M373.

[5]https://www.dw.com/es/las-cortes-de-china-ya-utilizan-inteligencia-artificial-para-resolver-casos/a- 64471873

[6] Carlos Díaz Vargas. 2023. Juez Superior de la Sala Civil Permanente de la Corte de Cajamarca. Discurso de orden por el 167 aniversario de la Corte Superior de Justicia de Cajamarca publicado en el diario Panorama Cajamarquino el 31 de enero 2023.

Jordi Nieva Fenoll. 2022. Barcelona, “La inteligencia artificial en los procesos judiciales”. Entrevista con Martha Pabon. ttps://www.youtube.com/watch?v=GKNV821wkm8

Andrés Oppenheimer. El asistente robótico que lo cambiará todo. “he probado el ChatGPT en las últimas tres semanas, y lo encuentro fantástico y peligroso al mismo tiempo”. El Comercio actualizado a 9/1/2023 https://elcomercio.pe/opinion/columnistas/el-asistente-robotico-que-lo-cambiara-todo-por- andres-oppenheimer-noticia/

Patricia del Río. ChatGPT, el poder de los mediocres. “Qué futuro le depara a una nación que está dominada por sujetos que no son capaces de hacer lo obvio con más eficiencia que una máquina”. https://elcomercio.pe/opinion/columnistas/inteligencia-artificial-educacion-chatgpt-el-poder-de-los- mediocres-por-patricia-del-rio-noticia/ El Comercio. Actualizado a 26/2/2023.

Cesar Hildebrandt. Propuesta de golpe de Estado. “el protectorado cibernético que habrá de regirnos establecerá el centro de solución de conflictos”. Hildebrandt en sus trece, 24 febrero 2023.año 13. No. 624

[7] http://www.youtube.com/watch?v=GKNV821wkm8

[8] http://www.youtube.com/watch?v=V1UzehwIB9c

[9] Diego Noreña Diario Gestión 13/03/2023 Inteligencia Artificial- ChatGPT4. Blogs. GESTIÓN. https://gestion.pe/blog/el-arte-de-emprender-y-fallar/2023/03/inteligencia-artificial-chatgpt4.html#%3A~%3Atext%3D%C2%BFCu%C3%A1ntas%20versiones%20de%20ChatGPT%20existen%3F%20Actualmente%2C%20existen%20cuatro%2Ccuatro%20y%20cuenta%20con%20117%20millones%20de%20par%C3%A1metros

[10] Las soluciones basadas en IA ya se aplican en los sistemas jurídicos de muchos países, sobre todo para optimizar las bases de datos y hacerlas más accesibles. Sin embargo, solo unos pocos países están preparados para ir más allá. Francia, por ejemplo, prohibió cualquier desarrollo de litigios predictivos basados en IA en 2019, argumentando, entre otras cosas, el riesgo de la comercialización de datos.

[11] Estados Unidos: Demandan a primer abogado robot que utiliza IA por no tener un título en Derecho | DoNotPay | Inteligencia Artificial | ChatGPT | Mundo | La República (larepublica.pe).

[12] Juan G. Corvalán, director del Laboratorio de Innovación e Inteligencia Artificial (IALAB) Universidad de Buenos Aires (Derecho) y creador de Prometea y cocreador de PRETORIA.

[13] Sesgos: Discrimina minorías, condiciones personales: raza, edad, condición social.El juez de motivo: in judice. Los jueces son más clementes cuando tienen abre que cuando acaban de comer.

Comentarios: