ACTIVIDAD 1: Tarea 3.
ENSAYO SINTÉTICO-ANALÍTICO: "DATA & CIVIL RIGHTS: CRIMINAL JUSTICE PRIMER"
Introducción
Durante las últimas décadas, la población ha sido testigo de los inmensos avances tecnológicos ocurridos en torno a la inteligencia artificial, el aprendizaje automático y las técnicas utilizadas de los "macrodatos" o Big Data. Esta combinación debería traer consigo un despliegue de mejoras continuas en todos los ámbitos de la vida pero, ¿es así? ¿estamos optimizando su uso?
Si trasladamos todos estos conceptos al campo de la justicia, podemos observar datos que desequilibran nuestros principios más inclusivos. En el caso de EEUU, entre el 60% y el 70% de las personas encarceladas son de color dando paso a la discriminación racial y la desigualdad de las clases sociales. Por ello, resulta interesante plantearse de que manera dichos avances pueden mejorar las condiciones generales del sistema de justicia penal con el principal objetivo de que todos los colectivos se beneficien de forma equitativa. El concepto de equidad es bastante complejo y sus definiciones han ido cambiando a lo largo del tiempo, pero podemos hacer una aproximación para aclarar dicho término. Rawls (1999) expresa que
la idea de equidad es fundamental en el
concepto de justicia y destaca que los miembros de una sociedad discuten y establecen
qué prácticas definirán como justas, lo
cual implica que las mismas dependerán
del pacto subyacente entre los individuos
pertenecientes a una comunidad. Hoy en día, equidad no se atribuye a igualdad, sino que hace referencia en dar más a quien más lo necesita.
Sin duda alguna, el juicio humano sigue siendo un factor crucial en dicho sector, pero la participación del Big Data y el aprendizaje automático aumentará cada día más en las prácticas legales.
Antecedentes: Discriminación en la justicia penal
Cada Estado norteamericano dispone de un código penal propio, además de muchos delitos regulados bajo sus propias leyes. A pesar de "ser diferentes" en este sentido, existen múltiples datos que apuntan a una exacerbada discriminación racial por parte de todos ellos. Las personas que sufren más abusos por parte de la justicia en Estados Unidos son los miembros de minorías étnicas, inmigrantes y personas de clase social muy baja, siendo éstos quienes tienen menos posibilidad de defender sus derechos ante los tribunales. Dejo dos enlaces que confirman la política y la justicia manejada bajo el mando de la disparidad y la desigualdad de los colectivos ya nombrados:
https://www.hrw.org/es/news/2014/07/25/ee-uu-discriminacion-racial-bajo-la-lupa
https://www.hrw.org/es/world-report/2018/country-chapters/313146
A pesar de la puesta en marcha de muchas medidas discriminatorias durante los años 50, con el cambio de jurisprudencia en la Corte Suprema Americana, adoptando medidas antisegregacionistas, podemos constatar que la realidad fue muy distinta. Uno de los detonantes que motivaron la puesta en marcha de dichas medidas en favor de los afroamericanos y de otras minorías raciales, fueron los graves disturbios que se produjeron entre 1965 y 1968, producidos por el incumplimiento por parte del Estado de los programas que pretendían acabar con la segregación en las escuelas y por las condiciones de miseria que vivían la mayoría de esta población. El movimiento tomó tal intensidad que se empezaron a corregir "ciertos desequilibrios" en materia de empleo y otros ámbitos. A pesar del gran esfuerzo y sacrificio con el que se ha ido luchando por conseguir una sociedad más justa, podemos ver que los datos justifican lo contrario, quedando aún mucho camino que recorren.
Big Data, justicia criminal y sesgo humano.
En primer lugar vamos a mostrar mediante un vídeo una aproximación conceptual muy resumida sobre el Big Data:
La realidad que nos ha tocado vivir señala el uso de la tecnología como un elemento clave de la actividad del ser humano y evolución del mismo. Por ello la educación del derecho y la justicia también debe cambiar y adaptarse a nuestro presente para no cometer las imprecisiones del pasado y volver a caer en los mismos sesgos. Un ejemplo claro es que los sistemas de inteligencia artificial han sido criticados por perpetuar el sesgo racial en la justicia penal y por ello, si los abogados dedican demasiado tiempo a dichos algoritmos estaremos destinados a cometer los mismos errores de antaño. Los sistemas tecnológicos pueden tener
valores sociales “incrustados” o embebidos en su diseño y que éstos sean contrarios
a la igualdad, principios constitucionales y derechos humanos (Surden, 2017, 2). La baja calidad de los datos o procedimientos "podrían dar lugar a algoritmos sesgados, correlaciones falsas, errores, una subestimación
de las repercusiones éticas, sociales y legales, el riesgo de utilización de los datos con fines
discriminatorios o fraudulentos y la marginación del papel de los seres humanos en esos
procesos, lo que puede traducirse en procedimientos deficientes de toma de decisiones
con repercusiones negativas en las vidas y oportunidades de los ciudadanos, en particular
los grupos marginalizados, así como generar un impacto negativo en las sociedades y
empresas. La información revelada por
los análisis de los macrodatos no ofrece una visión general objetiva e imparcial de ninguna
materia y que es tan fiable como lo permitan los datos subyacentes” (Parlamento Europeo, 2017).
Por consiguiente, y como he dicho anteriormente, el juicio humano siempre tendrá un peso muy relevante en las decisiones judiciales pero también hay que ser conscientes que la introducción de la inteligencia artificial supondrá un aumento de datos en mucho menos tiempo y por consiguiente la garantía de la mejora de los mismos. Para ello, veo necesario destacar la importancia que tendrá que la formación en tecnología digital de aquellas personas que se quieran dedicar al ámbito jurídico. Deben de ser capaces de escribir o modificar el código pertinente subyacente de las herramientas del análisis legal. Por otra parte, los consumidores y analistas de los resultados utilizarán también dichas herramientas digitales para evaluar resultados críticamente, de forma más eficaz y consumiendo mucho menos tiempo que de la manera tradicional. Estas prácticas deben introducirse poco a poco, y en función de cada sociedad, con proceso previo de preparación que haga del ser humano una persona capaz de afrontar cualquier reto y además explote todas sus ventajas.
Richards y King (2013, 41) afirman importantes cautelas y una necesaria visión
crítica frente a los “grandes evangelistas” del big data, esto es, los que prometen
que los grandes datos pueden mejorar la toma de decisiones por las mejores
predicciones en áreas que van desde la admisión a la universidad, los servicios y
políticas médicas, de seguridad nacional o prevención del delito. Afirman la paradoja
de la transparencia, por la que mientras que con los datos masivos se accede
invasivamente a información privada, los resultados de estos tratamientos están
casi completamente rodeadas de secreto legal e industrial. Subrayan especialmente
la paradoja que implica que un futuro casi milagroso y de transformación social
sea al fin y al cabo un privilegio que queda en manos del gobierno y de grandes
empresas, a costa de los ciudadanos, y todo ello en el contraste de los riesgos de la
identidad individual y colectiva.
Todo ello puede llevarnos a la “dictadura de los datos” (Cukier y Mayer-Schönberger,
2013).
La discriminación y los sesgos que se crean son una de las nuevas brechas digitales más comunes, y por ello es necesario tener cierta preocupación. Frente a ello, es necesario descubrir nuevos caminos que permitan aflorar la igualdad y el derecho a la no discriminación, pues que el hecho de controlar, actuar y corregir en el ámbito de la justicia o en cualquier otro, resultan acciones muy complejas. Crear técnicas preventivas y trabajar sobre la experiencia y la formación profesional, es un buen inicio para acceder y conocer los algoritmos y los grandes datos que se manejan dentro del sector de la jurisdicción.
Por lo tanto, ¿es el Big Data el gran aliado de la justicia? Os dejo un par de enlaces que argumentan cómo encajar, los retos y la utilidad del mismo en dicho sector:
http://legal-innovation.com/big-data-gran-aliado-la-justicia/
http://www.legaltoday.com/blogs/nuevas-tecnologias/blog-ecija-2-0/que-es-el-big-data-y-por-que-debe-interesarme-si-soy-abogado
Conclusiones
Como hemos podido analizar, el uso del Big Data y la inteligencia artificial parecen empezar ser una opción casi obligatoria en el ámbito judicial (y en cualquier otro) en función de la evolución de la misma vida. Son muchas las ventajas de las que disponemos con su aplicación, pero cabe destacar la necesaria precaución en los espacios digitales para evitar recaer en sesgos que nuestra misma historia ha ido construyendo a lo largo de los años. La aplicación de este tipo de inteligencia nos compromete a todos los ciudadanos a trabajar con profesionalidad, integridad y transparencia, bajo pautas de formación continua. Es necesario hacer especial hincapié en la importancia que conlleva transmitir valores como el respeto, la equidad y la igualdad para hacer de nuestra participación, una participación de calidad.
Los algoritmos que vienen establecidos y utilizados en épocas anteriores no son aptos hoy día, puesto que la sociedad avanza y hay que adaptarlos a las condiciones actuales. Por ello, tampoco es compatible la opción basarnos en modelos ya utilizados, que probablemente arrastren sesgos en el desempeño del mismo. Para darle rigurosidad a todo el proceso, es necesario establecer muestras estadísticas adaptadas a colectivo concretos, de lugares concretos y con unos hábitos concretos. Cabe decir que estos sistemas que se construyen desde el Big Data, deben basarse en modelos sin prejuicios humanos para así favorecer la igualdad entre los distintos colectivos sociales.
Para finalizar, añadir que, con tecnología o sin ella, hay que educar desde los valores de la justicia social porque han sido muchos los años que hemos necesitado y "sangre derramada" para evolucionar en la camino de la igualdad. Aún así, queda mucho por hacer, pero la implicación, la unión y la empatía siempre propiciarán buenos comienzos.
Bibliografía
Cotino, L. (2017). Big Data e inteligencia artificial. Una aproximación a su tratamiento jurídico desde los derechos fundamentales. Ilemata, 9 (24), 131-150.
Eynon, R. (2013). The rise of Big Data: what does it mean for education, technology, and media research? Learning, Media and Technology, 38 (3), 237–240.
Formichella, M.M. (2011). Análisis del concepto de equidad educativa a la luz del enfoque de las capacidades de Amartya Sen. Revista Educación, 35 (1), 15-34.
Martín, M.A. (2003). Evolución del principio de igualdad en Estados Unidos. Nacimiento y desarrollo de las medidas de acción afirmativa en derecho estadounidense. Revista Española de Derecho Constitucional, 23 (68), 151-194.
Mayer-Schönberger, Viktor y Cukier, Kenneth (2013 b): “The Dictatorship of Data”, MIT Technology
Review, mayo de 2013, recuperado en: https://www.technologyreview.com/s/514591/the-dictatorship-of-data/
acceso en español en https://www.technologyreview.es/s/3564/la-dictadura-de-los-datos
Puyol Moreno, J. (2014). Una aproximación a Big Data. Revista de Derecho, 14 (4), 471-505.
Rawls, J. (1999). Justicia como equidad. Revista española de control externo, 5 (13), 129-158.
Richards Neil M. y King Jonathan H. (2013). Three Paradoxes of Big Data. Stanford Law
Review Online, 66 (41), 87-93.
Surden, Harry (2017): Values Embedded in Legal Artificial Intelligence. Encontrado en: https://ssrn.com/
abstract=2932333
