Las herramientas de inteligencia artificial (IA) comienzan a ser utilizadas en varios países del mundo para automatizar procesos relacionados con la impartición de justicia, desde sistemas predictivos de reincidencia para el otorgamiento de fianzas en los Estados Unidos,[1] hasta la recomendación de sentencias en asuntos civiles en Estonia.[2]
La Unión Europea emitió un documento con principios para el uso en los sistemas judiciales de herramientas de aprendizaje de máquina (ML por sus siglas en inglés)[3] y un juez estadounidense rechazó los honorarios propuestos por un despacho de abogados en una demanda, al considerar que eran excesivos por no utilizar herramientas de ML para facilitar su labor.[4]
Corresponde a los abogados, junto con jueces, gobiernos, legisladores y sociedad civil, analizar las implicaciones del uso de estas herramientas para el proceso judicial, para los derechos de los ciudadanos y para la idea de la justicia y de la autoridad. En este contexto, una noción general del funcionamiento y alcance de las herramientas de IA y ML es fundamental para fijar una postura en temas como:
- Pertinencia de la automatización de decisiones judiciales.
- Requisitos y procedimientos para desplegar aplicaciones.
- Mecanismos para asegurar el debido proceso.
- Implicaciones filosóficas de la automatización de la justicia.
La formulación de recomendaciones por un agente inteligente en temas judiciales cae en el ámbito de los problemas de clasificación del ML, rama de la IA cuyos espectaculares avances en esta década están detrás de la fiebre actual del uso de estas herramientas en todo tipo de actividades.
Conceptos Básicos
El campo de la IA se dedica al desarrollo de agentes inteligentes, definidos en Artificial Intelligence: A Modern Approach como aquellos que se comportan de manera racional, es decir, en cualquier situación eligen la acción que maximiza su desempeño conforme al criterio de evaluación con el que fueron diseñados.[5] De manera coloquial, la IA busca hacer que una máquina se comporte de formas que serían llamadas inteligentes si un ser humano se comportara así.
El ML es la rama de la IA relacionada con el descubrimiento de patrones en grandes volúmenes de datos («aprendizaje»), los cuales son después utilizados para realizar predicciones o tomar decisiones sobre el mismo tema.
Las técnicas de ML se dividen en dos grupos:
- Aprendizaje supervisado. Con base en los atributos de una gran cantidad de ejemplos, así como de una categoría o valor asociado a cada ejemplo, se encuentran parámetros para predecir el valor o categoría a partir de los atributos.
- Aprendizaje no supervisado. Únicamente a partir de los atributos de los ejemplos, sin una categoría o valor asociado, se encuentran patrones para agrupar los ejemplos o para evaluar el grado de similitud entre ellos.
La determinación de parámetros con aprendizaje supervisado se llama regresión si el valor a predecir es un número real, con decimales, como la estimación del precio de una casa a partir de su superficie, número de cuartos y distancia del centro, o la predicción del peso de un niño a partir de su estatura, edad y peso al nacer.
Cuando lo que se busca predecir es un valor entero, o una categoría no numérica, el aprendizaje supervisado se denomina clasificación, como establecer a qué dígito corresponde la imagen de una muestra de escritura, determinar si una fotografía es de una persona, si un cliente renovará su suscripción, si un candidato a fianza reincidirá, o si le asiste la razón a una persona en una demanda.
“La formulación de recomendaciones por un agente inteligente en temas judiciales cae en el ámbito de los problemas de clasificación del ML, rama de la IA cuyos espectaculares avances en esta década están detrás de la fiebre actual del uso de estas herramientas en todo tipo de actividades.”
Las categorías en que puede clasificarse un ejemplo pueden ser varias, como en el caso de los dígitos (del 0 al 9), o sólo dos, como en el resto de los casos mencionados, representadas por 0 y 1 (falso o verdadero) o por un número entre 0 y 1 que indica la probabilidad de que sea verdadero.
Clasificación
Las técnicas de clasificación llevan a cabo de manera abstracta, con fórmulas matemáticas que puedan ser programadas en una computadora, la generalización de un proceso que en situaciones simples puede hacerse visualmente.
Para fines ilustrativos asumamos que los gráficos ficticios a), b) y c), muestran el comportamiento de conjuntos de casos de reincidencia luego de la liberación bajo fianza, donde el valor en el eje horizontal son los arrestos previos, el valor en el eje vertical la edad y el color si hubo reincidencia (azul no, rojo sí en los primeros seis meses, verde sí después de seis meses).
En esta situación, las líneas grises son fronteras para establecer si puede esperarse que una persona liberada bajo fianza reincidirá o no, dependiendo de la zona en que cae el punto definido por su edad y el número de arrestos previos.
Las técnicas de clasificación, entre las que están la regresión logística, máquinas de soporte vectorial, clasificador Bayesiano, árboles de decisión, k-vecinos y redes neuronales artificiales, calculan las fórmulas de las líneas-frontera o los criterios con mayor probabilidad de asignar el valor correcto de la categoría, a partir de los valores numéricos de los atributos del conjunto de ejemplos.
Este enfoque abstracto permite aplicar el mismo método para cualquier número de atributos, cualquier número de categorías y cualquier número o forma de línea-frontera, por lo que pueden llevarse a cabo predicciones en modelos con un alto grado de complejidad.
Aplicaciones en impartición de justicia
En las aplicaciones relacionadas con la impartición de justicia, los atributos utilizados para que un programa de clasificación ejecute su predicción se establecen generalmente a partir de dos fuentes de información:
- Datos de la situación, los involucrados y el contexto. Todos los datos cualitativos se convierten a valores numéricos con el uso de variables binarias (por ejemplo, cada estado civil se convierte en una variable de valor 0 o 1).
- Textos del expediente o de la sentencia. En estos sistemas los atributos, como la frecuencia con que aparecen ciertas palabras o frases, se extraen de los textos usando técnicas de otra rama de la IA, el procesamiento de lenguaje natural.
Existen numerosas herramientas y recursos que facilitan la implementación de un clasificador con ML, no obstante, su diseño requiere analizar algunas consideraciones que, más allá de su pertinencia técnica para incrementar la efectividad del modelo, tienen implicaciones legales y éticas en áreas de alto impacto como la impartición de justicia. Entre ellas están:
- Selección de atributos. La tecnología permite utilizar miles de atributos para un clasificador, si hay que escoger se hace con base en la contribución estadística al modelo. Esto puede llevar a incluir atributos cuya utilización es considerada inapropiada, discriminatoria o ilegal, como decidir una fianza con base en la raza.
- Depuración de sesgos. La categoría asignada históricamente a los ejemplos con los que se construirá el clasificador puede reflejar prejuicios o sesgos en la valoración de los atributos por parte de quien realizó la asignación. Utilizar un conjunto de ejemplos sin detectar y eliminar sesgos llevará a que el clasificador los replique.
- Balanceo de muestra. El conjunto de ejemplos para encontrar los parámetros del clasificador debe incluir cantidades similares de cada categoría. Si se usa un conjunto de ejemplos con 90% de casos en que sí hubo reincidencia, sin importar los atributos el clasificador predecirá siempre reincidencia y tendrá cerca de 90% de aciertos.
- Modelos complejos y algunas técnicas avanzadas, como las redes neuronales artificiales, generan clasificadores en los que no es factible entender por qué se asignó una categoría en particular, situación cuestionable en aplicaciones críticas o en actos de autoridad. Esto ha llevado a un debate sobre si debe privilegiarse la posibilidad de explicar el proceso sobre el nivel de exactitud.
Atender estas consideraciones requiere con frecuencia de esfuerzos o inversiones iguales o superiores a los de los aspectos técnicos de la implementación, por lo que es necesario un entendimiento básico y un seguimiento de las partes interesadas para evitar que puedan ser minimizadas o dejadas de lado ante presiones presupuestales o de tiempo.
“Existen técnicas muy poderosas para implementar clasificadores con un alto grado de complejidad, aunque deben atenderse algunas consideraciones para lograr resultados que no sólo tengan un alto grado de exactitud, sino que resulten aceptables en el ámbito de la actividad que se está automatizando.”
Conclusión
La clasificación con ML es un proceso de aprendizaje supervisado para identificar regiones que dividen el espacio generado por los atributos de un conjunto de ejemplos, en las que todos los puntos ubicados en ellas pertenecen a una misma categoría. Se predice la categoría de nuevos ejemplos ubicándolos en una región, asumiendo que la semejanza de atributos implica que les corresponde la misma categoría.
Existen técnicas muy poderosas para implementar clasificadores con un alto grado de complejidad, aunque deben atenderse algunas consideraciones para lograr resultados que no sólo tengan un alto grado de exactitud, sino que resulten aceptables en el ámbito de la actividad que se está automatizando.
Tener en mente estos elementos es importante para una discusión sobre el alcance e implicaciones del uso de herramientas de clasificación con ML para automatizar procesos relacionados con la impartición de justicia.
[1] “Algorithms in the Criminal Justice System”. Epic.org. Electronic privacy Information Center. Disponible en: https://epic.org/algorithmic-transparency/crim-justice/
[2] Eric Niller. “Can AI be a Fair Judge in court? Estonia Thinks So”. Wired. Disponible en: https://www.wired.com/story/can-ai-be-fair-judge-court-estonia-thinks-so/
[3] “CEPEJ European Ethical Charter on the use of artificial intelligence (AI) in judicial systems and their environment”. Council of Europe. European Comission for the Efficiency of Justice. Disponible en: https://www.coe.int/en/web/cepej/cepej-european-ethical-charter-on-the-use-of-artificial-intelligence-ai-in-judicial-systems-and-their-environment
[4] Robert Ambrogi. “Judge Penalizes Lawyers for not Using Artifitial Inteligence”. Above the Law. Disponible en: https://abovethelaw.com/2019/01/judge-penalizes-lawyers-for-not-using-artificial-intelligence/
[5] S. Russell y P. Norvig. Artificial Intelligence: A Modern Approach. Englewood Cliffs, New Jersey, Pearson Education.
