LLANO-Inteligencia artificial y filosofía del derecho

Fernando H. Llano Alonso Director Joaquín Garrido Martín Ramón Valdivia Jiménez Coordinadores

INTELIGENCIA

ARTIFICIAL Y

FILOSOFÍA DEL

DERECHO

Autores Rafael de Asís Roig Fernando H. Llano Alonso Nuria Belloso Martín Leonor Moral Soriano Stefano Bini Stefano Pietropaoli Roger Campione Álvaro Sánchez Bravo Thomas Casadei Adolfo J. Sánchez Hidalgo Miguel de Asís Pulido Mª Olga Sánchez Martínez Daniel García San José María Sepúlveda Gómez Joaquín Garrido Martín José Ignacio Solar Cayón Ana Garriga Domínguez Ramón Valdivia Jiménez Mª Isabel González Tapia Diana Carolina Wisner Glusko Laura Gómez Abeja Editorial

JOSE MIGUEL ORTIZ ORTIZ

DIRECTOR EDITORIAL

Consejo Editorial GUILLERMO RODRÍGUEZ INIESTA DIRECTOR GENERAL DE PUBLICACIONES Profesor Titular de Derecho del Trabajo y de la Seguridad Social. Universidad de Murcia. Magistrado (Supl.) del Tribunal Superior de Justicia de Murcia JOSÉ LUJÁN ALCARAZ Catedrático de Derecho del Trabajo y de la Seguridad Social. Universidad de Murcia JOSÉ LUIS MONEREO PÉREZ Catedrático de Derecho del Trabajo y de la Seguridad Social. Universidad de Granada. Presidente de la Asociación Española de Salud y Seguridad Social MARÍA NIEVES MORENO VIDA Catedrática de Derecho del Trabajo y de la Seguridad Social. Universidad de Granada CRISTINA SÁNCHEZ-RODAS NAVARRO Catedrática de Derecho del Trabajo y de la Seguridad Social. Universidad de Sevilla

Consejo Científico JAIME CABEZA PEREIRO Catedrático de Derecho del Trabajo y de la Seguridad Social. Universidad de Vigo FAUSTINO CAVAS MARTÍNEZ Catedrático de Derecho del Trabajo y de la Seguridad Social. Universidad de Murcia MARÍA TERESA DÍAZ AZNARTE Catedrática de Derecho del Trabajo y de la Seguridad Social. Universidad de Granada JUAN JOSÉ FERNÁNDEZ DOMÍNGUEZ Catedrático de Derecho del Trabajo y de la Seguridad Social. Universidad de León JESÚS MARTÍNEZ GIRÓN Catedrático de Derecho del Trabajo y de la Seguridad Social. Universidad de A Coruña CAROLINA MARTÍNEZ MORENO Catedrática de Derecho del Trabajo y de la Seguridad Social. Universidad de Oviedo JESÚS MERCADER UGUINA Catedrático de Derecho del Trabajo y de la Seguridad Social. Universidad Carlos III ANTONIO OJEDA AVILÉS Catedrático de Derecho del Trabajo y de la Seguridad Social. Universidad de Sevilla MARGARITA RAMOS QUINTANA Catedrática de Derecho del Trabajo y de la Seguridad Social. Universidad de La Laguna PILAR RIVAS VALLEJO Catedrática de Derecho del Trabajo y de la Seguridad Social. Universidad de Barcelona SUSANA RODRÍGUEZ ESCANCIANO Catedrática de Derecho del Trabajo y de la Seguridad Social. Universidad de León CARMEN SÁEZ LARA Catedrática de Derecho del Trabajo y de la Seguridad Social. Universidad de Córdoba ANTONIO V. SEMPERE NAVARRO Magistrado del Tribunal Supremo. Catedrático de Derecho del Trabajo y de la Seguridad Social (exc.)

ARÁNTZAZU VICENTE PALACIO Catedrática de Derecho del Trabajo y de la Seguridad Social. Universidad Jaume I

FERNANDO H. LLANO ALONSO

Director

JOAQUÍN GARRIDO MARTÍN

RAMÓN VALDIVIA JIMÉNEZ

Coordinadores

INTELIGENCIA ARTIFICIAL

Y FILOSOFÍA DEL DERECHO

Autores:

RAFAEL DE ASÍS ROIG FERNANDO H. LLANO ALONSO

NURIA BELLOSO MARTÍN LEONOR MORAL SORIANO

STEFANO BINI STEFANO PIETROPAOLI

ROGER CAMPIONE ÁLVARO SÁNCHEZ BRAVO

THOMAS CASADEI ADOLFO J. SÁNCHEZ HIDALGO

MIGUEL DE ASÍS PULIDO Mª OLGA SÁNCHEZ MARTÍNEZ

DANIEL GARCÍA SAN JOSÉ MARÍA SEPÚLVEDA GÓMEZ

JOAQUÍN GARRIDO MARTÍN JOSÉ IGNACIO SOLAR CAYÓN

ANA GARRIGA DOMÍNGUEZ RAMÓN VALDIVIA JIMÉNEZ

Mª ISABEL GONZÁLEZ TAPIA DIANA CAROLINA WISNER GLUSKO LAURA GÓMEZ ABEJA Esta publicación es parte del proyecto de I+D+i PID2019-108155RB-I00, financiado por

MCIN/ AEI /10.13039/501100011033

Edita: Ediciones Laborum, S.L.

Avda. Gutiérrez Mellado, 9 - Planta 3ª, Oficina 21 - 30008 Murcia

Tel.: 968 24 10 97 e-mail: laborum@laborum.es

www.laborum.es

ISBN edición digital: 978-84-19145-25-3

ISBN edición papel: 978-84-19145-21-5

Depósito Legal: MU 679-2022

© Copyright de la edición, Ediciones Laborum, 2022 © Copyright del texto sus respectivos autores, 2022 Ediciones Laborum, S.L. no comparte necesariamente los criterios manifestados por los autores en el trabajo publicado. La información contenida en esta publicación constituye únicamente, y salvo error u omisión involuntarios, la opinión de su autor/a con arreglo a su leal saber y entender, opinión que subordinan tanto a los criterios que la jurisprudencia establezca, como a cualquier otro criterio mejor fundado. Ni el editor, ni los autores, pueden responsabilizarse de las consecuencias, favorables o desfavorables, de actuaciones basadas en las opiniones o informaciones contenidas en esta publicación. Cualquier forma de reproducción, distribución, comunicación pública o transformación de esta obra solo puede ser realizada con la autorización de sus titulares, salvo excepción prevista por la ley. Diríjase a CEDRO (Centro Español de Derechos Reprográficos) si necesita fotocopiar o escanear algún fragmento de esta obra (www.conlicencia.com; 91 702 19 70 o 93 272 04 45). A Antonio Enrique Pérez Luño, maestro de iusfilósofos y pionero de los estudios sobre Ciberderecho e Informática jurídica en España

“El hombre actual no sabe qué ser, le falta imaginación para inventar el argumento de su propia vida”

(JOSÉ ORTEGA Y GASSET,

MEDITACIÓN DE LA TÉCNICA, 1939)

ÍNDICE INTRODUCCIÓN ...................................................................................................................... 17 Fernando H. Llano Alonso

I. INTELIGENCIA ARTIFICIAL, DERECHOS Y LIBERTADES CAPÍTULO I ÉTICA, TECNOLOGÍA Y DERECHOS ................................................................................... 25

Rafael de Asís Roig

1. La protección de la identidad ............................................................................................... 25 1.1. Identidad humana e identidad personal ................................................................. 26 1.2. Tecnologías e identidad ............................................................................................ 29 1.2.1. La diversidad .................................................................................................. 29 1.2.2. La mejora: especial referencia a la mejora moral ....................................... 30 1.3. Identidad y mejora: la mejora moral ....................................................................... 30

2. La suficiencia del enfoque de derechos humanos .............................................................. 35 2.1. ¿Son necesarios nuevos derechos? ........................................................................... 36 2.2. ¿Son necesarias otras herramientas? ........................................................................ 37

3. Unas reflexiones finales ......................................................................................................... 38

4. Bibliografía .............................................................................................................................. 40

CAPÍTULO II LA PROBLEMÁTICA DE LOS SESGOS ALGORÍTMICOS (CON ESPECIAL REFERENCIA A LOS DE GÉNERO). ¿HACIA UN DERECHO A LA PROTECCIÓN CONTRA LOS SESGOS? ........................................................................................................... 45 Nuria Belloso Martín

1. Introducción ............................................................................................................................ 45 2. ¿Por qué lo atribuyen a un “error” de la inteligencia artificial cuando se trata de sesgos (algorítmicos)? ................................................................................................................ 47 2.1. Algunos casos de discriminación algorítmica por parte del sector público ....... 49 2.2. Las fases de formación de un sesgo algorítmico .................................................... 51 2.3. ¿Pueden ser justos los algoritmos? .......................................................................... 53

3. Los sesgos algorítmicos y su incidencia en el género. Algunos casos ............................. 55 3.1. Datos sesgados y machine learning ............................................................................ 57 3.2. Softwares de reconocimiento facial ......................................................................... 59 3.3. Chabots y asistentes de voz ...................................................................................... 60

4. Propuestas para una inteligencia artificial proactiva en la lucha contra los sesgos de género en particular .............................................................................................................. 61 4.1. Una mirada al ámbito internacional ........................................................................ 62 4.2. Cinco áreas de trabajo para promover la igualdad de género a través de la IA .... 64

5. Conclusiones ........................................................................................................................... 67

6. Bibliografía .............................................................................................................................. 69

CAPÍTULO III REFLEXIONES SOBRE JUSTICIA, HUMANIDAD Y DIGITALIZACIÓN ........................ 79

Stefano Bini

1. Introducción ............................................................................................................................ 79

2. El escenario de referencia. La construcción de una nueva fase: justicia digital y recuperación post-pandémica ................................................................................................... 80

3. Modernizar los sistemas judiciales de la Unión Europea .................................................. 82

4. Riesgos artificiales y garantias humanas ............................................................................. 83

5. Conclusiones ........................................................................................................................... 85

6. Bibliografía .............................................................................................................................. 87

CAPÍTULO IV INTELIGENCIA ARTIFICIAL Y DERECHOS FUNDAMENTALES .................................. 91

Laura Gómez Abeja

1. Introducción ............................................................................................................................ 91

2. Precisiones terminológicas .................................................................................................... 92

3. Derechos fundamentales en juego ........................................................................................ 93 3.1. El derecho a la protección de datos personales ...................................................... 93 3.2. El derecho a la no discriminación ............................................................................ 95

4. Reconocimiento de los derechos incididos y medidas adoptadas recientemente para su protección ...................................................................................................................... 97 4.1. El derecho a la protección de datos personales ...................................................... 97 4.1.1. Reconocimiento multinivel del derecho ...................................................... 97 4.1.2. El derecho a la protección de datos en el RGPD ........................................ 99 4.1.3. Visión crítica. El limitado alcance del RGPD para la protección del derecho a la protección de datos .......................................................................... 101

5. El derecho a la no discriminación ....................................................................................... 104 5.1. Reconocimiento multinivel del derecho a la no discriminación ........................ 104 5.2. El derecho a la no discriminación y el RGPD ....................................................... 106 5.3. Apuntes críticos. Limitaciones del RGPD en relación con el derecho a la no discriminación ................................................................................................................. 108

6. Apuntes propositivos (y conclusivos) ................................................................................ 109

7. Bibliografía ............................................................................................................................ 112

CAPÍTULO V LA FRAGILIDAD DE LA VERDAD EN LA SOCIEDAD DIGITAL ................................. 115

Mª Olga Sánchez Martínez

1. Introducción .......................................................................................................................... 115

2. Internet y sus posibilidades para mejorar la democracia ................................................ 115

3. El doble efecto de la red sobre la información: excesos y defectos ................................ 118

4. La verdad comprometida por la tecnología ...................................................................... 120

5. El poder de la verdad y la verdad del poder .................................................................... 125

6. Una nueva cultura de la no verdad: la posverdad ........................................................... 128 6.1. La relatividad de la verdad ..................................................................................... 129 6.2. Prioridad de lo emocional sobre lo racional ......................................................... 131

7. El legado de la posverdad ................................................................................................... 132

8. A modo de conclusión ......................................................................................................... 134

9. Bibliografía ............................................................................................................................ 134

II. FILOSOFÍA Y ÉTICA DE LA INTELIGENCIA ARTIFICIAL

CAPÍTULO VI

LAS TRASFORMACIONES DEL DERECHO EN LA ERA DE LA CIUDADANÍA DIGITAL: NUEVOS ENFOQUES Y VÍAS PARA LA DIDÁCTICA Y LA FORMACIÓN JURÍDICA ........................................................................................................ 143 Thomas Casadei

1. Introducción .......................................................................................................................... 143

2. El impacto de las tecnologías informáticas y de la red en la experiencia jurídica ....... 144

3. Las profesiones jurídicas y las transformaciones actuales: ¿qué tipo de enseñanza? .. 148

4. Brecha digital: directrices de la ue y tareas de las instituciones ..................................... 152

5. Didáctica “sin fronteras” y vías de estudio “híbridas”: la profesión docente y el papel de las instituciones académicas (y de los estudios jurídicos) ................................... 155

6. Bibliografía ............................................................................................................................ 159

CAPÍTULO VII INTELIGENCIA (ARTIFICIAL) Y AUTOMATISMO. ANATOMÍA DE UN CONFLICTO ............................................................................................................................. 169 Joaquín Garrido Martín

1. Ciencias cognitivas e inteligencia artificial ....................................................................... 169

2. Analogías contemporáneas cerebro-máquina .................................................................. 171

3. Inteligencia Natural - Inteligencia Artificial ..................................................................... 173

4. Proyección de automatismo: el inconsciente cognitivo ................................................... 176

5. La “edad del autómata” o los orígenes del automatismo ............................................... 178

6. Nota final ............................................................................................................................... 182

7. Bibliografía ............................................................................................................................ 183

CAPÍTULO VIII

SINGULARIDAD TECNOLÓGICA, METAVERSO E IDENTIDAD PERSONAL:

DEL HOMO FABER AL NOVO HOMO LUDENS ............................................................. 189

Fernando H. Llano Alonso

1. Introducción .......................................................................................................................... 189

2. Un debate ético-jurídico en torno a los neuro-implantes y el uso terapéutico de la inteligencia artificial .................................................................................................................. 193

3. La nueva generación de derechos digitales y el reconocimiento de los neuroderechos........................................................................................................................... 198

4. Cuando la persona se convierte en un avatar: el novo homo ludens en el metauniverso de internet......................................................................................................... 205

5. Conclusión ............................................................................................................................. 210

6. Bibliografía ............................................................................................................................ 211

CAPÍTULO IX EN PRIMERA PERSONA. UN RÉQUIEM POR EL DERECHO DE LA ERA DIGITAL .................................................................................................................................... 217 Stefano Pietropaoli

1. Introitus .................................................................................................................................. 217

2. Sequentia ................................................................................................................................ 218

3. Lacrimosa ............................................................................................................................... 226

4. Bibliografía ............................................................................................................................ 231

CAPÍTULO X INTELIGENCIAS ARTIFICIALES Y LIBERTAD RELIGIOSA: MÁS ALLÁ DE LA DISTOPÍA. UNA PROPUESTA IUSFILOSÓFICA ............................................................... 235 Ramón Darío Valdivia Jiménez

1. Introducción .......................................................................................................................... 235

2. Ontopolítica de la robótica e inteligencias artificiales: ¿cabe pensar en la tiranía? ...... 238

3. El principio de precaución ante el derecho a la libertad religiosa en la era digital ...... 241 3.1. Principio de Precaución ........................................................................................... 242 3.2. Precaución como salvaguarda de la libertad religiosa ........................................ 243 3.3. Principios en falso .................................................................................................... 245 3.4. El tratamiento de los sesgos contra la discriminación religiosa: identificadores

de sesgos .................................................................................................................................. 245

4. Una propuesta: colaboración para eludir la distopía ....................................................... 247

5. Conclusiones ......................................................................................................................... 253

6. Bibliografía ............................................................................................................................ 255

III. ROBÓTICA E INTELIGENCIA ARTIFICIAL JURÍDICA CAPÍTULO XI DESAFÍOS IUSFILOSÓFICOS DE LAS ARMAS AUTÓNOMAS ...................................... 263

Roger Campione

1. Introducción .......................................................................................................................... 263

2. Derecho y guerra .................................................................................................................. 265

3. Brevísimo paréntesis sobre la actualidad .......................................................................... 268

4. El oficio de las armas ............................................................................................................ 269

5. De automático a autónomo ................................................................................................. 272

6. Los sistemas autónomos a debate ....................................................................................... 275

7. Bibliografía ............................................................................................................................ 281

CAPÍTULO XII LA JUSTICIA PREDICTIVA: TRES POSIBLES USOS EN LA PRÁCTICA JURÍDICA ... 285

Miguel de Asís Pulido

1. Dataísmo y algocracia .......................................................................................................... 285

2. La inteligencia artificial jurídica y el proceso .................................................................... 287

3. Sistemas de predicción de sentencias ................................................................................. 291

4. Breves notas sobre el proceso .............................................................................................. 295

5. Usos de la justicia predictiva en el proceso ....................................................................... 297 5.1. Aplicación del Derecho ........................................................................................... 297 5.2. Fiscalización de sentencias ...................................................................................... 303 5.3. Pronóstico para la estrategia procesal ................................................................... 305

6. Conclusión ............................................................................................................................. 306

7. Bibliografía ............................................................................................................................ 308

CAPÍTULO XIII

PROTECCIÓN PENAL DE LOS NEURODERECHOS: EL USO DIRECTO DE LAS

NEUROTECNOLOGÍAS SOBRE EL SER HUMANO ......................................................... 313

Mª Isabel González Tapia

1. Introducción .......................................................................................................................... 313

2. Neurotecnologías, nuevos riesgos y necesidad de la intervención penal ..................... 314 3. ¿Cómo pueden incidir las neurotecnologías en el comportamiento humano?

Apuntes para juristas ............................................................................................................... 316 3.1. Fundamentos (socio-)biológicos del comportamiento humano y neurotecnologías ............................................................................................................. 316 3.2. Efectos secundarios y riesgos descritos en el uso de las neurotecnologías sobre el ser humano ........................................................................................................ 321

4. Protección penal de los neuroderechos: propuesta político-criminal ............................ 323 4.1. Protección de la salud e integridad mental: principio de precaución en el uso de las neurotecnologías ........................................................................................... 325 4.2. Tutela de los datos neurológicos individuales como órgano: privacidad (e indemnidad) mental ....................................................................................................... 327 4.3. Tutela penal de la identidad personal y la autonomía ante las neurotecnologías ............................................................................................................. 329 4.4. Tutela de la igualdad y la no discriminación con respecto a las neurotecnologías ............................................................................................................. 330

5. Conclusión ............................................................................................................................. 332

6. Bibliografía ............................................................................................................................ 334

CAPÍTULO XIV REFLEXIONES EN TORNO A LA PERSONALIDAD ELECTRÓNICA DE LOS ROBOTS ..................................................................................................................................... 337 Adolfo J. Sánchez Hidalgo

1. Introducción .......................................................................................................................... 337

2. La personalidad de los robots desde una perspectiva religiosa ..................................... 340

3. La condición de persona de los robots desde una planteamiento filosóficoantropológico ............................................................................................................................ 343

4. La condición de persona artificial desde una visión neurológica .................................. 346

5. La personalidad jurídica de los robots............................................................................... 348 5.1. Personalidad jurídica y responsabilidad de los robots ....................................... 350

6. Conclusión ............................................................................................................................. 353

7. Bibliografía ............................................................................................................................ 355

CAPÍTULO XV DERECHO DEL TRABAJO, INTELIGENCIA ARTIFICIAL Y ROBÓTICA ..................... 359

María Sepúlveda Gómez

1. La transformación digital. Un nuevo paradigma técnico-económico y social .............. 359

2. Grado de digitalización del tejido empresarial español .................................................. 362

3. Inteligencia artifical, robótica y relaciones de trabajo ...................................................... 369

4. El papel de la negociación colectiva ante la IA y la robótica .......................................... 373

5. Conclusiones ......................................................................................................................... 376

6. Bibliografía ............................................................................................................................ 377

CAPÍTULO XVI INTELIGENCIA ARTIFICIAL Y JUSTICIA DIGITAL ........................................................ 381

José Ignacio Solar Cayón

1. El desarrollo de la inteligencia artificial jurídica y su expansión a la administración de justicia ................................................................................................................................... 381

2. Inteligencia artificial en la automatización de tareas ....................................................... 386 2.1. Inteligencia artificial en tareas auxiliares e instrumentales ................................ 387 2.2. Inteligencia artificial en tareas procesales ............................................................. 394 2.2.1. Sistemas de codificación predictiva para la selección del material relevante en el proceso .......................................................................................... 395 2.2.2. Inteligencia Artificial y Blockchain como medios de prueba y como herramientas para la valoración de los medios de prueba ............................... 398

2.2.3. Sistemas algorítmicos de evaluación de riesgos de reincidencia criminal ................................................................................................................... 403 2.2.4. Sistemas de búsqueda y análisis de la información jurídica .................. 407 2.3. Inteligencia artificial en tareas decisorias .............................................................. 408 2.3.1. Sistemas de negociación automatizada para la resolución de disputas en línea .................................................................................................... 408 2.3.2. Sistemas para la generación automática de (propuestas de) decisiones judiciales............................................................................................... 412

3. Tribunales online e inteligencia artificial ............................................................................ 416

4. Bibliografía ............................................................................................................................ 422

IV. DERECHO INTERNACIONAL, ESTADO DE DERECHO Y

ADMINISTRACIÓN DIGITAL CAPÍTULO XVII SIGNIFICADO Y ALCANCE DE LOS VALORES DE LA CARTA DE NACIONES UNIDAS EN LA REGULACIÓN INTERNACIONAL DE LA INTELIGENCIA ARTIFICIAL (IA) ...................................................................................................................... 431 Daniel García San José

1. Introducción .......................................................................................................................... 431

2. Significado de los valores de la carta de naciones unidas en el derecho internacional .............................................................................................................................. 434

3. Relevancia de los valores recogidos en la recomendación de la UNESCO sobre la ética de la Inteligencia Artificial (IA) ..................................................................................... 436

4. Examen crítico de los valores compartidos con la carta de Naciones Unidas: la justicia social en las consideraciones éticas de la Inteligencia Artificial............................ 439

5. Conclusiones ..........