CNUDMI - A-CN.9-WG.IV-WP.173

Naciones Unidas A/CN.9/WG.IV/WP.173

Asamblea General

Distr. limitada 25 de febrero de 2022

Español Original: inglés

V.22 -01120 (S) 180322 180322 2201120

Comisión de las Naciones Unidas para el Derecho Mercantil Internacional Grupo de Trabajo IV (Comercio Electrónico) 63er período de sesiones Nueva York, 4 a 8 de abril de 2022

Uso de la inteligencia artificial y la automatización en la contratación

Nota de la Secretaría

Índice Página

I. Finalidad de esta nota ................................ ......................... 2

II. Conceptos y alcance ................................ .......................... 2

A. De los “aspectos jurídicos de la IA” a “la IA y la contratación automatizada” .......... 2

B. Definición de los conceptos fundamentales ................................ .... 3

C. La contratación automatizada en la práctica ................................ .... 4

III. Hacia un régimen jurídico de la contratación automatizada............................. 5

A. La labor legislativa anterior sobre las operaciones electrónicas como punto de partida .... 5

B. Elaboración de nuevas disposiciones legislativas ................................ 7A/CN.9/WG.IV/WP.173

V.22-01120 2/14

I. Finalidad de esta nota

1. En su 54º período de sesiones, celebrado en 2021, la Comisión examinó una nota de la secretaría ( A/CN.9/1065 ) en la que se exponía una propuesta de labor legislativa sobre las operaciones electrónicas y el uso de la i nteligencia artificial (IA) y la

de la secretaría ( A/CN.9/1065 ) en la que se exponía una propuesta de labor legislativa sobre las operaciones electrónicas y el uso de la i nteligencia artificial (IA) y la automatización 1. Se expresó amplio apoyo a la idea de remitir al Grupo de Trabajo IV las cuestiones indicadas en la propuesta, y la Comisión encomendó al Grupo de Trabajo que “organizara un debate conceptual específico sob re el uso de la inteligencia artificial y la automatización en la contratación con el fin de precisar el alcance y la índole de la labor que habría de realizarse” 2. Se subrayó que el debate “tenía que ser estructurado y debía nutrirse de los aportes de ju ristas y empresas que utilizaran la automatización en la contratación” 3. En el tema 4 del programa provisional del 63 er período de sesiones del Grupo de Trabajo ( A/CN.9/WG.IV/WP.172 ) se prevé ese de bate.

2. La presente nota tiene por objeto informar y estructurar el debate en el Grupo de Trabajo. En el capítulo II se esboza el concepto de IA y contratación automatizada y se explica cómo la labor de investigación realizada por la secretaría dio origen al tema.

A continuación, en el capítulo III, se describen las características generales del régimen jurídico aplicable a la IA y la contratación automatizada que se presenta en la propuesta. La nota está concebida para que se lea junto con la propuesta pres entada a la Comisión en 2021 ( A/CN.9/1065 ) y también con el proyecto de taxonomía de la IA y la automatización preparado por la secretaría, en el que se deja constancia de su labor de investigación sobre los aspectos jurídicos de la IA ( A/CN.9/1012/Add.1 , y su versión

automatización preparado por la secretaría, en el que se deja constancia de su labor de investigación sobre los aspectos jurídicos de la IA ( A/CN.9/1012/Add.1 , y su versión modificada publicada en A/CN.9/1064/Add.1 ).

3. El contenido de esta nota se basa en la labor preparatoria realizada por la secretaría con posterioridad al 54º período de sesiones de la Comisión. Como parte de esa labor, la secretaría se comunicó con expertos y los consultó sobre las cuestiones siguientes: a) ¿Cómo se utilizan en la práctic a la IA y la contratación automatizada? b) ¿Qué reconocimiento se les otorga en la legislación vigente? c) ¿En qué medida es completo y exacto el análisis de las cuestiones jurídicas indicadas en la propuesta? d) ¿En qué medida las disposiciones pres entadas en la propuesta son adecuadas para resolver esas cuestiones jurídicas?

II. Conceptos y alcance

A. De los “aspectos jurídicos de la IA” a “la IA y la contratación automatizada”

4. La propuesta emana de la labor de investigación realizada por la secretaría en cumplimiento de una decisión sobre las “cuestiones jurídicas relacionadas con la economía digital” adoptada por la Comisión en su 51 er período de sesiones, celebrado en 2018. La Comisión adoptó esa decisión en el contexto de una propuesta del Gobierno de Chequia de que la secretaría siguiera de cerca las novedades relacionadas con los aspectos jurídicos de los contratos inteligentes y la IA, en la que se señalaba que “las leyes vigentes no han reconocido todavía las caracterí sticas específicas de la IA que […] influyen considerablemente en la dinámica de algunas relaciones jurídicas,

aspectos jurídicos de los contratos inteligentes y la IA, en la que se señalaba que “las leyes vigentes no han reconocido todavía las caracterí sticas específicas de la IA que […] influyen considerablemente en la dinámica de algunas relaciones jurídicas, __________________ 1 Documentos Oficiales de la Asamblea General, septuagésimo sexto período de sesiones, suplemento núm. 17 (A/76/17 ), párrs. 234 a 236. 2 Ibid., párr. 25 e). 3 Ibid., párr. 235.A/CN.9/WG.IV/WP.173

3/14 V.22-01120

como los contratos mercantiles, las controversias sobre responsabilidad y las inversiones” 4.

5. Como se explica en la propuesta, la secretaría ana lizó los aspectos jurídicos de la IA haciendo una distinción aproximada entre la “IA en el comercio” (p. ej., el suministro de bienes y servicios con IA incorporada) y la “IA para el comercio”

(p. ej., el uso de sistemas de IA para gestionar las cadenas de suministro, comercializar bienes y servicios y formar y ejecutar contratos). A partir de ese análisis, la secretaría formuló las siguientes observaciones: a) A diferencia de la “IA en el comercio”, que plantea cuestiones de política complejas que van mucho más allá del contexto del comercio, la “IA para el comercio” obliga a estudiar la posibilidad de adaptar las leyes vigentes para reconocer el uso de la IA; b) Los sistemas de IA utilizados en el ámbito del comercio se asemejan a la clase de sistem as automatizados que la CNUDMI ya ha estudiado en el marco de su labor sobre las operaciones electrónicas, y

el uso de la IA; b) Los sistemas de IA utilizados en el ámbito del comercio se asemejan a la clase de sistem as automatizados que la CNUDMI ya ha estudiado en el marco de su labor sobre las operaciones electrónicas, y c) La adaptación de las leyes vigentes a fin de reconocer el uso de la IA se basa en iniciativas anteriores de la CNUDMI que han tenido por objet o armonizar el régimen jurídico de las operaciones electrónicas.

6. Por consiguiente, en la propuesta se sugiere centrar el alcance de la labor futura en el concepto más amplio de “sistemas automatizados”, pero restringirlo al uso de sistemas automatizados en la contratación comercial ( A/CN.9/1065 , párrs. 14 a 16).

De esa manera, la propuesta trata en particular de evitar que la labor futura se superponga a la labor que se lleva a cabo dentro del sistema de las Naciones Unidas y en otros foros internacionales con el fin de elaborar normas armonizadas sobre el uso ético y la gobernanza de la IA.

B. Definición de los conceptos fundamentales

1. “Contratación automatizada” y “sistemas automatizados”

7. En la propuesta se define el concepto de contratación automatizada como el uso de sistemas automatizados para la negociación, la formación y la ejecución de contratos.

En ella se equipara un “sistema automatizado” con el concepto de “sistem a automatizado de mensajes”, que se define en el artículo 4 g) de la Convención de las Naciones Unidas sobre la Utilización de las Comunicaciones Electrónicas en los Contratos Internacionales (CCE), de 2005, como “un programa informático o un medio

automatizado de mensajes”, que se define en el artículo 4 g) de la Convención de las Naciones Unidas sobre la Utilización de las Comunicaciones Electrónicas en los Contratos Internacionales (CCE), de 2005, como “un programa informático o un medio electró nico o algún otro medio automatizado utilizado para iniciar una acción o para responder a operaciones o mensajes de datos, que actúe, total o parcialmente, sin que una persona física haya de intervenir o revisar la actuación cada vez que se inicie una acción o que el sistema genere una respuesta”. Si, en esencia, los sistemas automatizados procesan, con escasa intervención humana, datos entrantes provenientes de diversas fuentes para generar datos salientes como producto del sistema (lo que a su vez puede desencadenar otros procesos automatizados, mecánicos o humanos), la contratación automatizada se refiere al uso de esos datos salientes en la negociación, la formación y la ejecución de un contrato. En particular, esos datos salientes podrían ser, entre otr os, mensajes de datos que constituyan una oferta, la aceptación de una oferta, las condiciones de un contrato o alguna acción realizada para dar cumplimiento a esas condiciones.

2. Los “contratos inteligentes” como una forma de automatizació n

8. En la pro puesta se definen los llamados “contratos inteligentes” como un concepto que se refiere al uso de sistemas automatizados para ejecutar contratos. En su labor de __________________ 4 Los antecedentes de la propuesta y la decisión figuran en una nota de la Secretaría de 2020 acerca de los progresos realizados por la secretaría en su labor de investigación ( A/CN.9/1012 , párrs. 2 y 19).A/CN.9/WG.IV/WP.173

V.22-01120 4/14

acerca de los progresos realizados por la secretaría en su labor de investigación ( A/CN.9/1012 , párrs. 2 y 19).A/CN.9/WG.IV/WP.173

V.22-01120 4/14

investigación, la secretaría ha observado que un “contrato inteligente” es, como máximo, un pro grama informático utilizado para ejecutar un contrato de manera automatizada y, como mínimo, un programa informático utilizado para realizar una tarea de forma automatizada sin que exista conexión alguna con ningún tipo de contrato 5. Los “contratos intel igentes”, aunque se asocian comúnmente a la tecnología de registros distribuidos (DLT), son anteriores a la creación de esa tecnología y pueden desplegarse en otros entornos electrónicos 6. Cuando un “contrato inteligente” se despliega en un sistema DLT, s u ejecución tiene como resultado el ingreso de una nueva “operación” (o introducción de datos) en el registro distribuido, que podría formar parte del suministro de un producto o servicio, o representar algún negocio con un bien digital 7. No todas esas o peraciones se inician en relación con un contrato. La secretaría también ha observado que el término “contrato inteligente” se define de manera diferente en la legislación y en la doctrina jurídica, por lo que su uso puede crear confusión 8. Es por ello qu e en la propuesta se sugiere evitar el término “contrato inteligente”, cualquiera sea la forma en que se despliegue, aunque se reconoce que las situaciones en las que se utilizan programas desplegados en un sistema de DLT, en particular, pueden ser pertine ntes para el examen de las cuestiones indicadas en la propuesta.

3. La “IA” como una forma de automatización

utilizan programas desplegados en un sistema de DLT, en particular, pueden ser pertine ntes para el examen de las cuestiones indicadas en la propuesta.

3. La “IA” como una forma de automatización

9. En consonancia con el sentido que se asigna al término “sistema automatizado de mensajes” en la CCE, en la propuesta se definen los sistemas de IA como un tipo de sistema automatizado, y en la presente nota se utilizan los términos “automatización” y “sistema automatizado” para abarcar el uso de sistemas de IA. En la propuesta se hace referencia a la nota explicativa sobre la CCE, en la que se ind ica que “cabe la posibilidad, al menos en teoría, de que se conciban futuras generaciones de sistemas automatizados de información con capacidad de funcionamiento autónomo, no simplemente automático”, es decir, que “es posible que, gracias a la evolución de la inteligencia artificial, una computadora pueda aprender de la experiencia, modificar las instrucciones que componen sus propios programas e incluso formular nuevas instrucciones” 9. La propuesta no ofrece una definición de sistema de IA, sino que rem ite a iniciativas internacionales y regionales recientes que han tratado de definir las características generales de los sistemas de IA 10, de las que surgen dos rasgos distintivos que les dan la apariencia de una mayor complejidad y capacidad, “inteligencia” y “autonomía”: i) el uso de técnicas de “aprendizaje automático” para mejorar la ejecución de tareas predefinidas y permitir la ejecu ción de tareas no definidas de acuerdo con objetivos predefinidos, y ii) el procesamiento de grandes cantidades de datos provenientes de múltiples fuentes .

El Grupo de Trabajo tal vez desee analizar los conceptos esbozados en esta sección.

de acuerdo con objetivos predefinidos, y ii) el procesamiento de grandes cantidades de datos provenientes de múltiples fuentes .

El Grupo de Trabajo tal vez desee analizar los conceptos esbozados en esta sección.

__________________ 5 A/CN.9/1012/Add.1 , párr. 24. 6 A/CN.9/1012 , párr. 18. La secretaría ha ofrecido anteriormente la siguiente definición provisional de DLT ( ibid., pár r. 14): “La tecnología de registros distribuidos se refiere a las tecnologías y métodos (incluida la cadena de bloques) que respaldan un archivo de datos (es decir, un “registro”) que se conserva en múltiples computadoras conectadas en red (o “nodos”). Esa s tecnologías y métodos incluyen técnicas criptográficas y mecanismos de consenso que están diseñados para asegurar que se conserven los mismos datos en cada nodo (es decir, compartidos, reproducidos y sincronizados) y que los datos conservados en cada nod o permanezcan completos e inalterados (es decir, “inmutables”)”. 7 La secretaría ha observado anteriormente que un bien digital es, en esencia, un documento electrónico en el sentido de lo dispuesto en la Ley Modelo de la CNUDMI sobre Documentos Transmi sibles Electrónicos (LMDTE), de 2017, cuyo valor emana del hecho de estar respaldado por un sistema (de DLT o de otro tipo) que otorgue: a) el control sobre el bien, y b) una garantía de singularidad del bien ( A/CN.9/1012/Add.3 , párrs. 4 a 7). 8 A/CN.9/1012/Add.1 , párr. 24.

de singularidad del bien ( A/CN.9/1012/Add.3 , párrs. 4 a 7). 8 A/CN.9/1012/Add.1 , párr. 24. 9 Convención de las Naciones Unidas sobre la Utilización de las Comunicaciones Electrónicas en los Contratos Internacionales, núm. de venta S.07.V.2, párr. 211. 10 Véanse A/CN.9/1012/Add.1 , párr. 3, y A/CN.9/1064/Add.1 , párr. 4.A/CN.9/WG.IV/WP.173

5/14 V.22-01120

C. La contratación automatizada en la práctica

10. La contratación automatizada no es un fenómeno nuevo. Las cuestiones jurídicas relacionadas con el uso del intercambio electrónico de datos (EDI) en apoyo de la automatización en la contratación se sometieron a co nsideración de la Comisión hace más de 30 años 11, mucho antes de que se elaborara la CCE. El uso de máquinas en la formación de contratos se remonta a épocas aún más lejanas. Sin embargo, el número cada vez mayor de situaciones diferentes en las que se uti liza la automatización en la contratación, entre otras cosas mediante la interacción con “contratos inteligentes” desplegados en sistemas de DLT, así como la creciente complejidad de los sistemas que se están desplegando, han vuelto a colocar a la contrata ción automatizada en el punto de mira, con nuevos llamamientos a que se hagan esfuerzos internacionales para aclarar el régimen jurídico aplicable.

11. La contratación automatizada se utiliza hoy en día en diversos escenarios, entre

de mira, con nuevos llamamientos a que se hagan esfuerzos internacionales para aclarar el régimen jurídico aplicable.

11. La contratación automatizada se utiliza hoy en día en diversos escenarios, entre ellos los siguientes: i) la negociación de alta frecuencia, ii) las operaciones realizadas en plataformas en línea, y iii) las operaciones iniciadas por dispositivos “inteligentes”.

Esos escenarios –que no son exclusivos ni se excluyen mutuamente – pueden implicar la interacción entre un ser humano y un sistema automatizado o la interacción entre sistemas automatizados (que a veces se denomina contratación “M2M”). También implican la automatización en diferentes etapas a lo largo del ciclo de vida del contrato, desde que se establecen las condiciones de una oferta y se toman medidas para aceptarla, hasta que se cumplen las condiciones del contrato y nacen los derechos y obligaciones contractuales.

12. Merece la pena mencionar dos temas recurrentes en el uso de la contratac ión automatizada en la práctica, ya que pueden ser pertinentes para el examen de las cuestiones indicadas en la propuesta: a) La primera es que la contratación automatizada se utiliza normalmente cuando las partes contratantes ya han aceptado los parámet ros de uso de esa contratación

(p. ej., el uso del EDI en el marco de un acuerdo de intercambio, y el uso de una plataforma de negociación de alta frecuencia con arreglo a las condiciones de uso fijadas por el operador de la plataforma); b) La segunda es que los sistemas automatizados suelen ser creados y programados por proveedores externos, no por las propias partes contratantes.

El Grupo de Trabajo tal vez desee examinar casos de contratación automatizada en la práctica y cualquier otro tema recurrent e que pueda ser de interés para el análisis

programados por proveedores externos, no por las propias partes contratantes.

El Grupo de Trabajo tal vez desee examinar casos de contratación automatizada en la práctica y cualquier otro tema recurrent e que pueda ser de interés para el análisis jurídico de la contratación automatizada.

III. Hacia un régimen jurídico de la contratación automatizada

A. La labor legislativa anterior sobre las operaciones electrónicas como punto de partida

13. La contratación automatizada consiste esencialmente en aplicar nuevas técnicas al procesamiento de datos en relación con la negociación, la formación y la ejecución de contratos electrónicos con escasa intervención humana. Los textos vigentes de la CNUDMI que respaldan las operaciones electrónicas –en particular la Ley Modelo de la CNUDMI sobre Comercio Electrónico (LMCE), de 1996, la CCE y la LMDTE – proporcionan, por consiguiente, un punto de partida para la futura labor legislativa sobre el tema 12, mientras que los principios en que se basan esos textos ofrecen orientación sobre el camino que debe seguir la labor futura.

__________________ 11 Véase, p. ej., A/CN.9/350 , párr. 94. 12 A/CN.9/1065 , párrs. 20, 21 y 24.A/CN.9/WG.IV/WP.173

V.22-01120 6/14

El Grupo de Trabajo tal vez desee examinar la aplicación de los textos vigentes de la CNUDMI y los principios en que se basan a la IA y la automatización en la contratación.

1. Disposiciones vigentes que convendría unificar y actualizar

la CNUDMI y los principios en que se basan a la IA y la automatización en la contratación.

1. Disposiciones vigentes que convendría unificar y actualizar

14. Como se explica en la propuesta, un futuro texto legislativo sobre la contratación automatizada podría comenzar por reafirmar las disposiciones de los textos vigentes de la CNUDMI que respaldan la utilización de mensajes de datos 13 –y, hasta cierto punto, la automatización – en la contratación, entre ellas las siguientes: a) una disposición sobre el reconocimiento jurídico de los me nsajes de datos utilizados en la formación de contratos electrónicos (CCE, art. 8, párr. 1; LMCE, art. 5, art. 11, párr. 1, y art. 12); b) una disposición sobre el reconocimiento jurídico de los contratos formados utilizando sistemas automatizados (CCE, art. 12); c) una disposición sobre la admisibilidad como prueba de los mensajes de datos

(LMCE, art. 9); d) una disposición en la que se reconozca que los mensajes de datos y los contratos electrónicos pueden satisfacer los requisitos jurídicos de form a exigidos para los documentos en papel sobre la base de la equivalencia funcional (CEE, art. 9; LMCE, arts. 6, 7 y 9); e) una disposición sobre cuándo y dónde se envía y se recibe un mensaje de datos (CCE, art. 10; LMCE, art. 15).

15. La labor preparatoria posterior realizada por la secretaría reafirma que esas disposiciones siguen siendo pertinentes para la contratación automatizada. Como se señala en la propuesta, esas disposiciones podrían perfeccionarse para que reflejaran las

15. La labor preparatoria posterior realizada por la secretaría reafirma que esas disposiciones siguen siendo pertinentes para la contratación automatizada. Como se señala en la propuesta, esas disposiciones podrían perfeccionarse para que reflejaran las prácticas comerciales conte mporáneas, así como las nuevas experiencias en la incorporación de los textos de la CNUDMI al derecho interno y otras novedades en el régimen jurídico de las operaciones electrónicas.

2. Principios existentes que habría que reafirmar

16. Los principios fund amentales en que se basan los textos vigentes de la CNUDMI son el principio de no discriminación (contra el uso de medios electrónicos) y el principio de neutralidad tecnológica (y el concepto conexo de neutralidad del sistema) 14. a) En el contexto de la contratación automatizada, el principio de no discriminación es contrario al establecimiento de un “régimen dual” que prevea la aplicación de diferentes requisitos legales a un contrato en función de que se negocie, se forme o se ejecute por medios “tradi cionales” (p. ej., en papel y en persona) o utilizando un sistema automatizado. En lugar de ello, como parte de la labor futura se elaborarían disposiciones que eliminaran los obstáculos para aplicar los requisitos legales vigentes a los contratos automat izados. En los textos ya aprobados por la CNUDMI, eso se ha logrado aplicando el enfoque de la “equivalencia funcional”.

Un enfoque de equivalencia funcional podría ser importante a la hora de redactar nuevas __________________ 13 En el artículo 2 de la LMCE se define un “mensaje de datos” como “la información generada,

Un enfoque de equivalencia funcional podría ser importante a la hora de redactar nuevas __________________ 13 En el artículo 2 de la LMCE se define un “mensaje de datos” como “la información generada, enviada, recibida o archivada por medios electrónicos, ópticos o similares”. En el artículo 2 de la LMDTE se señala que el concepto incluye “toda la información lógicamente asociada o vinculada de alguna otra forma a ella”. Según la labor de inv estigación sobre las operaciones de datos realizada por la secretaría, parecería que el concepto de datos entendido como representación de la información coincide con algunas definiciones formuladas en otros foros internacionales, como la Organización Inte rnacional de Normalización (ISO) y el Consejo de la Organización de Cooperación y Desarrollo Económicos (OCDE). 14 Otros principios importantes que están en la base de los textos vigentes de la CNUDMI son el principio de libertad contractual y el principi o de libertad de forma en los contratos internacionales.A/CN.9/WG.IV/WP.173

7/14 V.22-01120

disposiciones legislativas para resolver las cuestiones jurídicas adicionales que se señalan en la propuesta; b) En el contexto de la contratación automatizada, el principio de neutralidad tecnológica es contrario a la elaboración de disposiciones específicas para los modelos de contratación automa tizada que se ven o se prevén en la práctica en un momento determinado. Ese principio es especialmente pertinente en el contexto actual, dado el ritmo de desarrollo de la tecnología que respalda la contratación automatizada.

17. La labor preparatoria posterior realizada por la secretaría indica que existe un fuerte apoyo a que se reafirmen esos principios en la labor futura. Sin embargo, también

ritmo de desarrollo de la tecnología que respalda la contratación automatizada.

17. La labor preparatoria posterior realizada por la secretaría indica que existe un fuerte apoyo a que se reafirmen esos principios en la labor futura. Sin embargo, también deja entrever la posibilidad de que se produzca un conflicto con esos principios si la labor futura se lleva a cabo s obre la base de un tratamiento diferenciado para los sistemas de IA (como se señala en el párr. 20 infra ).

B. Elaboración de nuevas disposiciones legislativas

18. Como ya se señaló (párr. 14 supra ), los textos vigentes de la CNUDMI que respaldan las operaciones electrónicas constituyen los cimientos de la labor futura.

Más allá de esos textos vigentes, en la propuesta se determinan las cuestiones jurídicas que podrían enmarcar la labor futura y se presentan disposiciones que podrían servir de punto de partida para regular esas cuestiones. En esta sección se expone la propuesta en mayor detalle y, a tal efecto, se indican las cuestiones prioritarias que podrían enmarcar la labor futura y se profundi za en las disposiciones que podrían servir de punto de partida para regular esas cuestiones. En resumen, esas disposiciones son las siguientes: Disposiciones propuestas Referencia en esta sección Reconocimiento jurídico de los contratos que se hayan ejecutado (y no solamente formado) utilizando sistemas automatizados Párrafo 25 Atribución y aspectos relacionados con el estado mental Párrafo 32 Revelación, en el período precontractual, de información sobre el uso de sistemas automatizados Párrafo 35 Acceso a los datos sobre las condiciones del contrato Párrafo 36

Atribución y aspectos relacionados con el estado mental Párrafo 32 Revelación, en el período precontractual, de información sobre el uso de sistemas automatizados Párrafo 35 Acceso a los datos sobre las condiciones del contrato Párrafo 36 Responsabilidad por errores de procesamiento de datos Párrafo 38 Medidas legales, exigibilidad del cumplimiento del contrato y rescisión del contrato Párrafo 39 Reconocimiento jurídico de los contratos que estén (parcialmente) en forma de código informático Párrafo 40 Inclusión de información dinámica como parte de las condiciones de un contrato Párrafo 40 Determinación de los componentes de un sistema automatizado Párrafo 40

El Grupo de Trabajo tal vez desee estructurar sus deliberaciones en torno a las cuestiones contempladas en esas disposiciones. En esta sección se determinan algunas cuestiones adicionales que no se indicaron en la propuesta, sobre las cuales no se ha formulado ninguna disposición.

19. En consonancia con el criterio adoptado en los textos vigentes de la CNUDMI, la labor futura se centraría no tanto en si se aplica el derecho vigente, sino en cómo se aplica. La labor pr eparatoria posterior confirma que algunas de las cuestiones indicadas en la propuesta, especialmente las relacionadas con el reconocimiento jurídico de los contratos formados utilizando sistemas automatizados, pueden ya estar reguladas en diversas jurisdic ciones mediante la aplicación de principios jurídicos en vigor.

No obstante, incluso en esas jurisdicciones, el uso de sistemas automatizados planteaA/CN.9/WG.IV/WP.173

V.22-01120 8/14

No obstante, incluso en esas jurisdicciones, el uso de sistemas automatizados planteaA/CN.9/WG.IV/WP.173

V.22-01120 8/14

dificultades para aplicar los requisitos legales vigentes y adaptar los principios jurídicos en vigor, qu e podrían atenuarse si se proporcionara orientación legislativa. Además, si se aclarara la forma de aplicar la legislación vigente a la contratación automatizada se podría evitar que en determinadas jurisdicciones se promulgaran leyes específicas para alg unos sectores o tecnologías, que podrían poner trabas al comercio transfronterizo.

20. Si bien en la propuesta se definen los sistemas de IA como un tipo de sistema automatizado (como se explica en el párr. 9 supra ), en ella se admite que los aspectos distintivos de los sistemas de IA podrían justificar un tratamiento diferenciado mediante la modificación o adición de disposiciones ( A/CN.9/1065 , párrs. 45 a 47). La labor preparatoria posterior confirma la existencia de opiniones divergentes sobre esa cuestión, al menos en lo que respecta a los sistemas de IA que han sido programados para funcionar utilizando técnicas de aprendizaje automático y, por ende, no de una manera “determinista”. a) Según un punto de vista, aunque los sistemas de IA pueden ser más complejos y capaces, no deben recibir un tratamiento diferente al de otros sistemas automatizados a efectos del derecho de los contratos. Ambos son programas informáticos que están bajo el control de operadores humanos. Se menciona el uso que se hace actualmente de los sistemas de IA p ara respaldar la actividad comercial diaria y al “efecto IA”, según el cual los sistemas complejos (p. ej., sistemas programados para

informáticos que están bajo el control de operadores humanos. Se menciona el uso que se hace actualmente de los sistemas de IA p ara respaldar la actividad comercial diaria y al “efecto IA”, según el cual los sistemas complejos (p. ej., sistemas programados para realizar una variedad de tareas no definidas de acuerdo con objetivos predefinidos 15) dejan de considerarse “inteligentes” desde el momento en que se despliegan; b) De acuerdo con otra opinión, los sistemas de IA que utilizan técnicas de aprendizaje automático difieren de los sistemas automatizados en aspectos importantes desde el punto de vista jurídico. Según ese punto de vista, hay que tener en cuenta la complejidad y la capacidad de los sistemas de IA para determinar la forma en que se aplican los requisitos legales; c) De acuerdo con una tercera opinión, los sistemas de IA que utilizan técnicas de aprendizaje automáti co representan un cambio fundamental en la contratación. Según esa opinión, puede ser necesario contar con un régimen jurídico totalmente nuevo para la contratación con IA, distinto del que rige tanto la contratación “tradicional” como la automatizada