Un juez de Argentina sostuvo que la empresa Google LLC habría emitido un «reporte automático ilegítimo» al considerar como ilícito material que formaba parte de un expediente judicial, lo que, según indica, derivó en una denuncia penal internacional en su contra. De acuerdo con su presentación, dicha actuación se habría producido sin el «grado de diligencia debido» ni control humano suficiente en la toma de decisiones automatizadas.
De acuerdo con el documento difundido por el Observatorio de Derecho Informático Argentino, el magistrado explicó que los archivos cuestionados correspondían a imágenes vinculadas a un proceso por delitos sexuales contra menores, cuya «legítima tenencia» se originó en el ejercicio de su función como juez de instrucción en el año 2016. En ese contexto, precisó que estos archivos se habrían incorporado a su computadora institucional de manera automática, «sin advertir al usuario», como parte de un sistema de almacenamiento vinculado a la apertura de archivos encriptados.
Incorporación automática de archivos
Según detalla el documento, las imágenes se integraron al disco rígido de su equipo laboral debido a un proceso automatizado que «incorpora los documentos al disco rígido sin advertir al usuario». El juez indicó que este mecanismo se produjo en el marco de la utilización de herramientas institucionales orientadas a «favorecer el flujo de trabajo».
Asimismo, señaló que estos archivos provenían de documentación judicial almacenada en su computadora institucional y que su presencia no fue resultado de una acción voluntaria. En esa línea, afirmó que el «alojamiento de tales documentos» no fue intencional, sino consecuencia de un proceso automático de descarga.
Inscríbete aquí Más información
Reporte automático y denuncia internacional
El magistrado sostiene que, a partir de estos archivos, Google habría generado un «reporte automático» que calificó el contenido como ilegal y lo remitió a instancias internacionales, lo que dio origen a una denuncia penal. En su escrito, indica que esta actuación se realizó «sin mecanismos adecuados de revisión contextual» y sin considerar información relevante que explicaba el origen del material.
Además, afirma que la empresa omitió trasladar «información exculpatoria» al organismo receptor del reporte, lo que habría contribuido a la generación de un «cuadro de imputación y estigmatización». En ese sentido, señala que el proceso automatizado careció de «supervisión humana significativa», pese al impacto que podía tener sobre derechos fundamentales.
Afectación a derechos y reputación
El juez sostiene que el reporte generó un «gravísimo daño al honor, a la reputación profesional y a la salud física y psíquica», afectando su carrera judicial y su vida personal. Asimismo, señala que esta situación tuvo consecuencias en su «imagen pública» y en el entorno familiar en el que se desenvuelve.
En esa línea, argumenta que la actuación de la empresa configuraría un incumplimiento del «deber de seguridad en la prestación de servicios digitales», al no garantizar condiciones adecuadas frente a riesgos derivados del funcionamiento automatizado. Según el documento, estas omisiones incrementaron el riesgo de «daños reputacionales y personales», traduciéndose en perjuicios de significativa magnitud.
Cuestionamientos a la responsabilidad algorítmica
El magistrado también invoca estándares internacionales sobre inteligencia artificial, señalando que los sistemas automatizados deben garantizar «explicabilidad y trazabilidad» cuando afectan derechos fundamentales. Asimismo, refiere que todo proceso de este tipo debe contar con «revisión o supervisión humana significativa».
En ese marco, sostiene que la empresa habría actuado con «temerario desinterés por la verdad», al no verificar adecuadamente el contexto de los archivos antes de generar el reporte. Finalmente, afirma que la información existente en sus propios registros permitía advertir que el material tenía un origen judicial y legítimo, lo que, según indica, no fue considerado al momento de la decisión automatizada.
