La Justicia Federal ordenó a Google restablecer los servicios digitales del juez de Cámara Andrés Leonelli, luego de una denuncia automatizada por presunto material de abuso sexual infantil que derivó en allanamientos y una investigación penal que descartó delito. El caso también derivó en una sanción administrativa contra la empresa y abrió una discusión sobre algoritmos, automatización y control humano en plataformas digitales.
La resolución judicial que ordenó a Google restituir el acceso a los servicios digitales del juez de Cámara Andrés Leonelli volvió a instalar el debate sobre el funcionamiento de los sistemas automatizados utilizados por grandes plataformas tecnológicas y el impacto que pueden tener sobre los derechos de los usuarios. La medida cautelar fue dictada por la Justicia Federal luego de que el magistrado denunciara que la empresa bloqueó y eliminó su cuenta tras una detección automática vinculada a una investigación judicial previa.
El juez de Cámara de Ushuaia Andrés Leonelli explicó que el conflicto se originó cuando un algoritmo detectó dentro de su cuenta un archivo asociado a una causa judicial sobre explotación infantil que él había investigado años atrás como magistrado. Según precisó, el material correspondía a un reporte oficial del National Center for Missing and Exploited Children (NCMEC), acompañado de documentación aclaratoria sobre su origen legal y judicial. “Era un reporte internacional completo acompañado de un descargo donde les decía: ‘Miren señores, no sé por qué están bloqueando la cuenta pero esto es material de origen legal y judicial. Soy juez’”, sostuvo en diálogo con Zoom a Diario.
Leonelli remarcó que el planteo judicial nunca cuestionó las políticas de persecución de delitos vinculados a la explotación sexual infantil, sino el modo en que la plataforma procesó automáticamente la información sin evaluar contexto ni activar mecanismos reales de revisión humana. “Nadie puede no tener tolerancia cero con la pornografía infantil. Lo que estamos discutiendo es cómo procesan ese material una vez que lo identifican”, afirmó.
Según indicó, pese a haber presentado documentación y explicaciones sobre el origen judicial del archivo, Google mantuvo el bloqueo de la cuenta y avanzó con el reporte internacional automático. “Todo eso fue ignorado y fue denunciado de manera automática sin procesamiento humano”, expresó. El magistrado sostuvo además que las respuestas posteriores fueron completamente automatizadas y sin intervención de personas. “Me respondían desde una casilla ‘no reply’ diciendo que mi descargo había sido rechazado, sin argumentos”, señaló.
El camarista explicó que la empresa garantiza en sus propios términos y condiciones la existencia de controles humanos para evitar “falsos positivos”, aunque aseguró que eso nunca ocurrió en su caso. “Ellos te garantizan el control humano para evitar falsos positivos, pero cuando hice el primer descargo ya me habían denunciado internacionalmente”, indicó. Según planteó, la compañía “larga el reporte automático sin control y viola las propias garantías que le ofrece al usuario”.
La denuncia derivó posteriormente en actuaciones judiciales, allanamientos y una fuerte exposición pública. Leonelli recordó que distintos medios y cuentas anónimas difundieron acusaciones en su contra antes de que avanzara la investigación penal. “Algunos medios sensacionalistas intentaban presentarme de una manera tendenciosa bajo el argumento de que ‘Google lo dijo’”, afirmó. El magistrado sostuvo que el peso de las plataformas digitales genera una presunción automática de culpabilidad difícil de revertir socialmente. “Era como si el dios digital estuviera diciendo algo indiscutible”, expresó.
La investigación penal finalmente descartó la existencia de delito vinculado al material denunciado. Sin embargo, Leonelli aseguró que las consecuencias personales y familiares continúan. “Al día de hoy todavía estamos pagando las consecuencias con tratamiento mi mujer y yo”, sostuvo. Según explicó, la exposición pública y la gravedad de las acusaciones generaron un fuerte impacto psicológico y reputacional.
En paralelo a la causa federal, Defensa del Consumidor intervino y sancionó administrativamente a Google. Leonelli explicó que la resolución cuestionó tanto el incumplimiento de los términos de servicio como la falta de garantías para ejercer defensa frente al bloqueo de la cuenta. “Ya hay una condena administrativa porque infringieron sus propios términos y condiciones y porque violaron el derecho de defensa en juicio del usuario”, indicó.
La resolución administrativa fue apelada por la empresa y actualmente se encuentra bajo revisión judicial en el Juzgado Civil y Comercial Nº2 de Ushuaia. El magistrado explicó que decidió presentarse también en ese expediente para sostener su reclamo y avanzar sobre la discusión de fondo vinculada a los daños ocasionados por el procedimiento automatizado.
Respecto de la medida cautelar federal, Leonelli precisó que ahora resta conocer cómo responderá Google a la orden judicial. “Hoy se le vence a Google el término para restablecer los servicios”, afirmó. No obstante, advirtió que la compañía ya informó que gran parte del contenido había sido eliminado definitivamente incluso después de haber sido notificada de la existencia del expediente judicial. “Cuando nosotros presentamos el pedido cautelar, el juez le corre traslado a Google, Google se notifica del inicio de la causa y borra todo mi material”, denunció.
Esa situación derivó además en una nueva presentación penal vinculada a la posible eliminación de pruebas. “También los denunciamos en sede penal porque hay una eliminación de medios de prueba”, sostuvo.
Leonelli consideró que el caso excede ampliamente su situación individual y abre un debate más amplio sobre inteligencia artificial, automatización y derechos fundamentales. “El futuro de la discusión está dado por el control de lo automático”, afirmó. Según explicó, el problema aparece cuando sistemas automatizados toman decisiones capaces de afectar gravemente la vida de las personas sin mecanismos reales de revisión humana. “Cuando esa innovación digital tiene la capacidad de influir de manera tan nefasta sobre la vida de los seres humanos, ahí es donde se juegan derechos fundamentales”, expresó.
El magistrado comparó la situación con otros sistemas automatizados utilizados actualmente, como mecanismos de reconocimiento facial o distintos modelos de inteligencia artificial aplicados en seguridad y control. A su entender, el riesgo surge cuando la automatización reemplaza completamente el razonamiento humano. “No es que falló el factor humano; ni siquiera le dieron intervención al factor humano”, remarcó.
También cuestionó la posición dominante de las grandes compañías tecnológicas y su capacidad para sostener decisiones incluso frente a resoluciones judiciales o administrativas de los Estados nacionales. “En Defensa del Consumidor nosotros les dijimos que había una sentencia penal que demostraba que el material era legal y ellos seguían insistiendo con que no”, señaló. En ese contexto, recordó que incluso la funcionaria interviniente advirtió durante el expediente que la empresa “estaba yendo por encima de las decisiones del Estado argentino”.
Sostuvo que decidió avanzar judicialmente no sólo por una cuestión personal sino también por el valor institucional que puede tener el precedente. “Me siento en la responsabilidad cívica de generar un precedente”, afirmó. Según explicó, muchas personas atraviesan situaciones similares pero no cuentan con recursos económicos, técnicos o emocionales para sostener litigios complejos contra corporaciones internacionales. “Muchas veces al ciudadano promedio no le da la posibilidad de ejercer estos derechos”, concluyó.
FUENTE: edfm
