Jueces y máquinas

Hoy voy a hablar de Justicia, de lo injusta que a veces es, y de cómo un robot podría hacer el trabajo de un juez, fallando (en sus dos acepciones) más o menos lo mismo.

Siempre que intento tocar uno de estos temas mi buen amigo Isaac , me dice que lo que escribo es demagógico y, generalmente, que no es exacto. Suele tener razón (bueno, vale: no suele; siempre la tiene…) y además me explica el porqué, desde un punto de vista jurídico, de cosas que a mí, desde la ignorancia de estos temas, me resultan incomprensibles; como, por ejemplo, que los delitos prescriban (aquí me venció, pero no me convenció, pero eso es tema para otro post), y para hacerlo utiliza argumentos jurídicos que sostiene con argumentos lógicos (su lógica apabulla) y generalmente me acabo rindiendo, porque las leyes suelen tener su razón de ser y los que las aplican pueden tener sus sesgos cognitivos, pero tontos no suelen ser.

Pero lo malo de vivir en tiempos de especialización absoluta es que la gente solo conoce su tema, y muchas veces no pone el más mínimo interés en tratar de entender no ya los puntos de vista, sino siquiera los temas de otros, y esto es especialmente duro cuando los que muestran ignorancia son los que hacen las leyes (desgraciadamente estos, los políticos, no suelen tener ni siquiera tema) o los que las aplican (los jueces al menos saben de leyes). Si a eso le unimos los sesgos cognitivos que nos llevan -a todos: a ti y a mí también- a escuchar solo los argumentos que nos interesan y hacer oídos sordos a los que refutan lo que creemos que es cierto, nos encontramos sentencias como esta en la que el Tribunal Supremo establece que “el bitcoin no es dinero”, y en la que se ve claramente que el Tribunal a lo mejor sabe lo que es el dinero, pero no tiene ni idea de lo que es el bitcoin (solo contiene obviedades de Wikipedia y algún error técnico de bulto, está claro que no saben de lo que están hablando); o, en otro orden de cosas, las primeras resoluciones de los jueces respecto al caso de la manada, en la que la única conclusión evidente era que alguno de los jueces había visto mucho porno y pasado poco miedo en su vida; o esta otra noticia, de absoluta actualidad en España, sobre una sentencia en la que se condena a ir a la cárcel a un chaval que intervino para socorrer a una señora a la que estaban apaleando, con la mala suerte de que en el forcejeo el agresor murió: otros jueces alejados de la realidad que no saben lo que es el miedo, lo difícil que le resulta al suelo ser “proporcional” cuando un tiparraco con la Ley de la Gravedad (¡esa sí que es una Ley!) en contra se golpea la cabeza con él al caer, o lo que puede tardar la policía en socorrer a alguien a quien patean en la calle unos energúmenos….

Es precisamente esta última la que me ha impulsado a escribir este post, porque una sentencia que arruina la vida de alguien por salir en ayuda de otra persona no da un ejemplo demasiado bueno (a mi entender): nos están diciendo que pasemos, que miremos a otro lado, que no tratemos de socorrer al débil porque eso trae líos; que nos encerremos en casa y subamos el volumen de Sálvame para no escuchar los gritos de la vecina maltratada o de la chica a la que intentan violar, no sea que nos peguen, acuchillen, o peor aún, que nos metan en la cárcel si da la casualidad de que somos más fuertes o tenemos en ese momento mejor suerte que el individuo que patea en la cabeza a la señora.

Esto es claramente demagogia, lo sé, pero también es algo con lo que vivimos. Sé perfectamente que ser juez no es fácil, que los límites son tenues y las leyes a veces injustas o simplemente difusas; pero también sé que conlleva un poder que tiene asociado un grado de responsabilidad para el que no te prepara una oposición, por dura que sea, y muy a menudo vemos sentencias que erizan el vello. Por eso cuando un niño me dice que de mayor quiere ser juez (o policía) me asusta tanto como cuando me dice que quiere ser forense (conocí a una que quería serlo a los seis años; ahora es una brillante abogada, por cierto) … soy de los que piensa que algo puede ir mal si a los 6 años tienes muy claro que quieres trabajar con cadáveres o hacer Justicia.

Voy al grano, que se me acaba el espacio y al final no enuncio mi tesis: como en tantas otras áreas, la Inteligencia Artificial amenaza con quitarle a su trabajo a los jueces, y vistos casos como los antes expuestos a lo mejor tampoco pasa nada.

Tras una frase como esta, que incita a la polémica (puedo imaginar a alguno de nuestros habituales comentaristas afilando el cuchillo y casi siento el cálido aliento de uno de ellos en mi nuca: tranquilo, como siempre, salvo que insultes a alguien o te empeñes en colocarnos cientos de enlaces a artículos que nada tienen que ver con el tema tratado para mostrarnos cuánto sabes, aprobaremos tu comentario, por pedante y aburrido que sea. Sí: te hablo a ti, desde el cariño…) hay que dar datos:

En algunos países de nuestro entorno (como Reino Unido o Estonia) se están introduciendo herramientas de Inteligencia Artificial para tratar de limpiar de los juzgados casos y sentencias repetitivos y mecánicos o de poca importancia. Esto de “Inteligencia Artificial” hay que matizarlo, porque en alguno de estos proyectos no se trata más que de conjuntos de reglas y eso no es IA (mi próximo post tratará de explicar las diferencias entre sistemas de reglas, por complicados que sean, Machine Learning y Deep Learning), pero el caso es que se trata de máquinas que dictan resoluciones en temas que tradicionalmente ha sido objeto del trabajo de jueces humanos.

Ya en 2016 un algoritmo predijo el 80% de las sentencias del Tribunal Europeo de los Derechos Humanos, y desde entonces, este campo ha avanzado una barbaridad.

Esto no es una moda, hasta el punto de que la propia Comisión Europea ya se plantea los límites y el camino a seguir en este documento, de interesantísima lectura. Si tienes alguna idea de lo que es el Deep Learning te recomiendo específicamente el Principio Cinco: “Bajo Control”, para que veas hasta qué punto estamos lejos de que dejen que una máquina tome decisiones en juicios como el del Procés o el de la manada. Hoy por hoy la red neuronal acierta, pero no se sabe por qué: no puede justificar su decisión y esto no es aceptable jurídicamente; pero, aunque no se deje que una máquina tome sola las decisiones, a lo mejor se puede empezar a escuchar su opinión.

A día de hoy, Magnus Carlsen, el vigente campeón del mundo de ajedrez, está jugando como un Dios. Sus partidas son maravillosas, permanece imbatido desde hace meses y está reinventando el juego: él se lo achaca a que está aprendiendo de AlphaZero, la máquina desarrollada por DeepMind para jugar al ajedrez. Quizá algún día nuestros jueces puedan aprender de otra.

4 comentarios

4 Respuestas a “Jueces y máquinas”

  1. O'farrill dice:

    La tarea de juzgar se ha convertido por desgracia en la aplicación de simples baremos de tipificación, según unas leyes o normas manifiestamente mejorables en muchos casos. Por ello suele ser una tarea rutinaria que permite que se programen varias «vistas» para resolver en una sola mañana, sin tener en cuenta las necesidades de llegar hasta el fondo de cada caso. Es una tarea equivalente a la aplicación de sanciones administrativas desde cualquier dependencia pública donde, incluso, se suele hablar de «producción» de sentencias. A eso lo llamamos «estado de Derecho» aunque seamos conscientes de que el Derecho no basta y que la Justicia es el objetivo último del Derecho. Pero en eso estamos y no me extrañaría que se eliminara la parte humana (tan importante) en la figura del juez para sustituirla (como las multas administrativas) por procedimientos salidos de las máquinas y de esa «modernidad» con la que tanto nos equivocamos. Un saludo.

  2. Loli dice:

    Creo que, este comentario, casi lo que más me anima a escribirlo es la necesidad de un ejercicio de terapia.

    Hace unos dos años tuve la desgracia de tener que acudir a los tribunales de la Comunidad para reclamar una situación reconocida en un puesto laboral de la propia Autonomía.

    A partir de ahí comencé a darme cuenta de lo que puede suponer “querer ser un avanzado sistema garantista”, “no poder”, y disfrazar esa impotencia bajo leyes y normativas absolutamente sujetas a la ambigüedad, a la interpretación (a veces imposible) de esa ambigüedad, para quedar, finalmente, todo….y al decir “todo” es literal, incluso la vida de una persona puede verse destrozada por ello…,del estado de ánimo, de la cantidad de casos de ese día, o de la patología crónica que “su señoría” padezca, aunque no esté “dado de baja”.

    Creo que es una pérdida de tiempo describir aquí el estado de los juzgados, al menos en Madrid, aunque es una situación endémica de sobrecarga y dejación de infraestructuras, que, tengo la impresión, no conoce de Autonomías.

    https://elpais.com/ccaa/2019/07/22/madrid/1563801716722407.html.

    Al comprobar “in situ” y en “las propias carnes” como repercute en el ciudadano normal ese “tercer pilar” imprescindible de una democracia, como es el de la Justicia y su supuesta “independencia”, uno no puede más que sorprenderse e inquietarse….mucho.

    He de reseñar que el ejercicio realizado por los abogados al diseñar y elaborar un documento (de alegaciones o de lo que fuere pertinente), me parece de un importante alarde de manejo del lenguaje, de redacción e incluso de pensamiento, algo relacionado, creo, en cierto modo, con las herramientas utilizadas en la filosofía…., es una parte del trabajo de la abogacía que me impresiona…lo he de reconocer.

    El problema es que ese vislumbre de brillantez lingüística y laboriosidad, queda abrumado y atrapado en frías fórmulas de sentencias y frases acotadas que se repiten demasiadas veces, y, en mi experiencia, de parte e interesada, cuando esa parcela del trabajo es la de los jueces, esas posibilidades de hacer bien las cosas, de utilizar de forma precisa y exquisita el lenguaje, de hacer una exposición clara y brillante….y un veredicto acorde…,se queda en un mero “corta y pega”….tal cual.

    Quizás, tal y como está estructura actualmente la Justicia y su desglose en infinidad de tipos de juzgados y dependiendo cada uno de ellos de las normativas “especiales” reguladas en cada Comunidad Autónoma, no sea posible más que lo que actualmente tenemos: una cascada de normativas susceptibles en cada uno de sus enunciados de interpretación y hasta de opinión.

    Así las cosas, de verdad, confío mucho más en una máquina bien dotada de una base de datos y un programa bien construido, para ”fabricar” veredictos.

    Al menos, los que salieran de ella, serían algo más que un “corta y pega”, y no estaría bañado de humor de su señoría en ese momento.

    Quizás todo esto podría dar pie a una reflexión.

    En el campo donde me he movido, el de la sanidad, cada vez más se actúa desde la perspectiva de “equipos multidisciplinares”.

    Las especializaciones suponen carencias, y para ello es necesario ampliar el campo de competencias y de personas competentes en otros territorios.

    ¿Por qué no se puede empezar a plantear ese concepto en la Justicia?.

    Hace poco leí que, ante la avalancha de críticas suscitadas por sucesos mediáticos como el de la “manada”, o el del chico que intentó proteger a una mujer del que le pateaba la cabeza, con mala suerte para el agresor, algunos jueces han empezado a descargarse, y entiendo que con razón, de que ellos juzgan hechos, pero que no tienen que saber de todo o ser expertos al algo más que jurisprudencia.

    Pero lo “juzgan todo”.

    Todo lo que concierne al comportamiento de la persona, sus consecuencias, el contexto en el que se desarrollan sus actos….todo…y tienen la responsabilidad de dar un “veredicto”, dictar algo que se acerque a la “verdad”.

    Quizás debiéramos replantearnos, todos, sociedad civil incluída, si nuestro comportamiento social debe estar absolutamente regulado, y si eso no deja de ser una dejación de nuestra responsabilidad.

    ¿Cómo hacer un nuevo replanteamiento de la justicia y su administración?.

    Eso no va a resolver, entiendo, nada de lo que ahora está desvelándose como una crisis en el campo de la Justicia, que de algún modo, me da la impresión, va más allá de solamente la falta de medios.

    Pero daría lugar a otro debate, quizás, porque hasta ahora, y la verdad es que soy ignorante en ello e igual me equivoco, lo único que conozco, y que creo que en general la gente también, que actúe fuera de los marcos de profesionales para juzgar algún caso, son los “tribunales populares”.

    Y éstos últimos, no parece que se hayan ganado mucho prestigio en sus sentencias.

    1. O'farrill dice:

      De hecho, los juzgados ya se han convertido en muchos casos en fábricas productoras de sentencias y los jueces en sus ejecutivos delegados. Desde que surgieron en el mundo mediático las sentencias paralelas y los propios jueces se avienen a participar en ese mundo como «estrellas», ya no se puede confiar en que la Justicia sea ese tercer pilar de la democracia (lo mismo que fallan los otros dos). Es el cuarto pilar (el mediático) el que califica, descalifica, juzga y sentencia según le conviene a la línea editorial. Un recuerdo para «Ciudadano Kane».
      Hace unos días surgían leves noticias sobre otras «manadas» cuya identidad no se revelaba, contrastando con la «atención mediática» a la manada de siempre. Otra noticia sobre el aparente suicidio de un testigo de cargo en un juicio con carga política, ha sido prácticamente silenciada por los medios de comunicación en contraste con la dedicación de recursos que dedican a otras…..
      El mundo de la Justicia necesita reformas en profundidad empezando por el propio ordenamiento actual, no parches telemáticos u ofimáticos. Algo parecido al mundo de la Sanidad que Loli conoce. Pero no son las máquinas quienes van a reformarlo más allá de lo puramente administrativo, sino el buen juicio, el sentido común, la sensatez y el conocimiento.
      Un saludo.

  3. Loli dice:

    Perdón, quería decir «jurado popular».

    No, no me traicionaba el subconsciente, es que no daba con la palabra.

    Aún así, creo que me lo «haré mirar».

    Un saludo.

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Este sitio web utiliza Cookies propias para recopilar información con la finalidad de mejorar nuestros servicios. Si continua navegando, supone la aceptación de la instalación de las mismas. El usuario tiene la posibilidad de configurar su navegador pudiendo, si así lo desea, impedir que sean instaladas en su disco duro, aunque deberá tener en cuenta que dicha acción podrá ocasionar dificultades de navegación de la página web. política de cookies

ACEPTAR
Aviso de cookies