CNUDMI - A-CN.9-WG.IV-WP.182

Naciones Unidas A/CN.9/WG.IV/WP.182

Asamblea General

Distr. limitada 14 de agosto de 2023

Español Original: inglés

V.23 -15733 (S) 080923 080923 2315733

Comisión de las Naciones Unidas para el Derecho Mercantil Internacional Grupo de Trabajo IV (Comercio Electrónico) 66º período de sesiones Viena, 16 a 20 de octubre de 2023

Proyecto de disposiciones sobre la contratación automatizada

Nota de la Secretaría

Índice Página

I. Finalidad de esta nota ................................ ........................ 2

II. Principios revisados ................................ ......................... 2

A. Antecedentes ................................ .......................... 2

B. Texto y observaciones ................................ ................... 3

III. El camino hacia unas disposiciones consolidadas en materia de operaciones electrónicas ................................ ................................ 13

Anexos

I. Cuadro de concordancia entre los textos de la CNUDMI en materia de comercio electrónico ................................ ................................ . 16

II. Disposición modelo ................................ ......................... 19A/CN.9/WG.IV/WP.182

V.23-15733 2/19

I. Finalidad de esta nota

1. En esta nota se presenta una nueva versión revisada del proyecto de principios sobre la contratación automatizada (capítulo II), que incorpora las deliberaciones mantenidas y las decisiones adoptadas por el Grupo de Trabajo en su 65º período sesiones ( A/CN.9/1132 , párrs. 52 a 85). En ella también se reflexi ona acerca de la

mantenidas y las decisiones adoptadas por el Grupo de Trabajo en su 65º período sesiones ( A/CN.9/1132 , párrs. 52 a 85). En ella también se reflexi ona acerca de la relación entre los principios y el mandato en dos etapas conferido al Grupo de Trabajo para que modifique y elabore disposiciones sobre la contratación automatizada y se propone el modo en que el Grupo de Trabajo puede proceder para llevar a término la segunda etapa de su mandato (capítulo III).

II. Principios revisados

A. Antecedentes

2. El mandato del Grupo de Trabajo se refiere a la modificación y elaboración de disposiciones sobre la contratación automatizada. Específicamente, l a Comisión solicitó al Grupo de Trabajo lo siguiente: “a) en una primera etapa, que recopilara disposiciones de los textos de la CNUDMI que fueran aplicables a la contratación automatizada y las modificara, según procediera, y b) en una segunda etapa, que señalara y elaborara nuevas disposiciones posibles sobre una gama más amplia de cuestiones, como las indicadas por el Grupo de Trabajo en su 63 er período de sesiones ”1.

3. Las deliberaciones mantenidas en el seno del Grupo de Trabajo se han cen trado fundamentalmente en las disposiciones de la Ley Modelo de la CNUDMI sobre Comercio Electrónico de 1996 (LMCE) y la Convención de las Naciones Unidas sobre la Utilización de las Comunicaciones Electrónicas en los Contratos Internacionales de 2005 (CCE ). También se ha hecho alusión a los demás textos de la CNUDMI en materia de comercio electrónico, a saber, la Ley Modelo de la CNUDMI sobre las

la Utilización de las Comunicaciones Electrónicas en los Contratos Internacionales de 2005 (CCE ). También se ha hecho alusión a los demás textos de la CNUDMI en materia de comercio electrónico, a saber, la Ley Modelo de la CNUDMI sobre las Firmas Electrónicas de 2001 (LMFE), la Ley Modelo de la CNUDMI sobre Documentos Transmisibles Electrónicos de 2 017 (LMDTE) y la Ley Modelo de la CNUDMI sobre la Utilización y el Reconocimiento Transfronterizo de la Gestión de la Identidad y los Servicios de Confianza de 2022 (LMIC).

4. La idea de formular “principios ” sobre la contratación automatizada es fruto de las deliberaciones mantenidas por el Grupo de Trabajo en su 64º período de sesiones. En ese período de sesiones, se propuso “que se extrajeran principios de las disposiciones vigentes [de los textos de la CNUDMI] y, además, se formularan nuevos principios sobre las cuestiones jurídicas que no se habían examinado aún ”, partiendo de la premisa de que “esos principios podrían servir de base para elaborar disposiciones legislativas ”

(A/CN.9/1125 , párr. 16). A modo de “hipótesis de trabajo ”, se sugirió que esa labor en relación con el tema tuviera como resultado un texto legislativo y se indicó que ese objetivo era compatible con la entrega de productos intermedios en forma de orienta ciones jurídicas, como una reafirmación de la aplicabilidad de las disposiciones de la CNUDMI vigentes ( ibid., párr. 60).

5. Al término del 64º período de sesiones, el Grupo de Trabajo había formulado un proyecto de principios sobre el reconocimiento juríd ico de los contratos formados o

de la CNUDMI vigentes ( ibid., párr. 60).

5. Al término del 64º período de sesiones, el Grupo de Trabajo había formulado un proyecto de principios sobre el reconocimiento juríd ico de los contratos formados o ejecutados mediante un sistema automatizado, el cumplimiento de las leyes aplicables por parte de los sistemas automatizados y la atribución del producto de un sistema automatizado (véase A/CN.9/1125 , párrs. 62 a 90). En su 65º período de sesiones, el Grupo de Trabajo examinó una versión revisada de los principios (la “primera versión revisada ”) preparada por la secretaría de la CNUDMI (véase la s ección III del documento A/CN.9/WG.IV/WP.179 ) y convino en que la secretaría debía preparar otra __________________ 1 Documentos Oficiales de la Asamblea General, septuagésimo séptimo período de sesiones, suplemento núm. 17 (A/77/17 ), párr. 159.A/CN.9/WG.IV/WP.182

3/19 V.23-15733

versión revisada de los principios para que la examinara en su 66º per íodo de sesiones (véase A/CN.9/1132 , párr. 92). En la siguiente sección del presente capítulo figura una nueva versión revisada de los principios. Acto seguido, se propone al Grupo de Trabajo avanzar en la elaboración de disposiciones sobre la base de esos principios (capítulo III).

B. Texto y observaciones

Principio 1. Uso de sistemas automatizados en la contratación

a) Los sistemas automatizados utilizados en la contratación son sistemas deterministas o no deterministas capaces de realizar actos, sin necesidad de que

B. Texto y observaciones

Principio 1. Uso de sistemas automatizados en la contratación

a) Los sistemas automatizados utilizados en la contratación son sistemas deterministas o no deterministas capaces de realizar actos, sin necesidad de que intervenga o revise la actuación una persona física, con el fin de formar o ejecutar contratos. Los sistemas automatiz ados se utilizan a lo largo de todo el ciclo de vida del contrato, en particular en la formación y la ejecución de los contratos. b) Los sistemas automatizados pueden utilizarse para formar contratos mediante el procesamiento de mensajes de datos que cons tituyan comunicaciones vinculadas a la formación de un contrato, tales como una oferta o la aceptación de una oferta. Se pueden utilizar sistemas automatizados para ejecutar contratos mediante el procesamiento de mensajes de datos que constituyan un acto r elacionado con la ejecución del contrato. c) Las condiciones del contrato que se forma o ejecuta mediante la utilización de sistemas automatizados pueden figurar en mensajes de datos, entre ellos un código informático y mensajes de datos que estén asociad os lógicamente, se hayan generado de manera simultánea o no.

Notas sobre el texto revisado

6. En su 65º período de sesiones, el Grupo de Trabajo convino en suprimir el principio 1 de la primera versión revisada e incorporar la definición de “sistema automatizado ” que figuraba en ella al principio 2 ( A/CN .9/1132 , párr. 59). Así pues, el principio 1 de la presente versión revisada reproduce el principio 2 de la primera versión revisada con la definición de “sistema automatizado ” insertada al inicio del apartado a).

Se han insertado las palabras “necesidad de ” antes de las palabras “que intervenga ” para

principio 1 de la presente versión revisada reproduce el principio 2 de la primera versión revisada con la definición de “sistema automatizado ” insertada al inicio del apartado a). Se han insertado las palabras “necesidad de ” antes de las palabras “que intervenga ” para que no se diera a entender que un sistema automatizado deja de estar comprendido en la definición meramente porque el sistema esté sometido a supervisión humana (ibid., párrs. 58 b) y 60). En aras de la coherencia con textos de la CNUDMI vigentes, se modificó ligeramente la redacción del apartado c) a fin de indicar que las condiciones del contrato “pueden figurar ” en mensajes de datos.

Observaciones adicionales

7. La primera oración del apartado a) define el concepto de “sistema automatizado ”.

La referencia a “sistemas deterministas o no deterministas ” está concebida para aclarar que el término “sistema automatizado ” abarca los sistemas de inteligencia artificial (I A) y, en concreto, los sistemas de IA “débil ” que se reconocen en la teoría y se despliegan en la práctica ( A/CN.9/1132 , párr. 55). Sin embargo, también comprende los sistemas más “sencillos ” en cuya descripción normalmente no figuraría la exhibición de “inteligencia ”. La redacción está concebida para abarcar los sistemas que funcionan de manera determinista o no determinista, así como los sistemas que realizan operaciones tanto deterministas como no deterministas ( A/CN.9/1132 , párr. 60). En el Grupo de Trabajo se ha usado el calificativo “determinista ” para describir un sistema que genera siempre el mismo producto a partir de los mismos datos entrantes ( A/CN.9/1093 ,

Trabajo se ha usado el calificativo “determinista ” para describir un sistema que genera siempre el mismo producto a partir de los mismos datos entrantes ( A/CN.9/1093 , párr. 55). Ese sistema también se ha descrito como “sistema basado en reglas ” (ibid .). En cambio, se ha descrito un sistema “no determinista ” como sistema que funciona de una manera “estocástica ” (ibid .).A/CN.9/WG.IV/WP.182

V.23-15733 4/19

8. A diferencia de lo que sucede en la CCE, en la definición enunciada en el apartado a) no se define el sistema automatizado como “programa informático ” reconociendo que los sistemas automatizados tienen componentes de hardware y de software (A/CN.9/1132 , párr. 58 a)).

9. El término “procesamiento ” utilizado en el apartado b) hace referencia al hecho de que el sistema genera o envía mensajes de datos (es decir, productos) y recibe mensajes de datos (es decir, datos entrantes).

10. En los apartados a) y b) se utilizan los términos “acto ” y “actuación ”. En el 65º período de sesiones, se sugirió sustituir esos términos por otro que reflejara el uso de sistemas automatizados en procesos de adopción de decisiones en los que quizás no se realizara ningún acto físico. Esos términos proceden de la CCE (arts. 4 g) y 12 ), en la cual se utilizan para aludir a un proceso llevado a cabo por el sistema automatizado sin hacer referencia a un acto físico u otro equivalente físico en la contratación presencial o en formato papel.

11. El principio 1 hace referencia explícita a l a “formación ” y “ejecución ” como

sin hacer referencia a un acto físico u otro equivalente físico en la contratación presencial o en formato papel.

11. El principio 1 hace referencia explícita a l a “formación ” y “ejecución ” como etapas del ciclo de vida del contrato. En consonancia con el criterio seguido en la CCE, el concepto de “formación ” abarca las negociaciones precontractuales y la celebración del contrato, mientras que el concepto de “ejecu ción ” comprende el incumplimiento y las vías de recurso previstas en el contrato ( A/CN.9/1132 , párr. 61).

Principio 2. Reconocimiento jurídico

a) No se negará validez ni fuerza ejecutoria a un contrato por la sola razón de que se haya utilizado un sistema automatizado en su formación. b) No se negará validez ni fuerza ejecutoria a un acto relacionado con la formación de un contrato por la sola razón de que haya sido reali zado por un sistema automatizado. c) No se negará validez ni fuerza ejecutoria a un acto relacionado con la ejecución de un contrato por la sola razón de que haya sido realizado por un sistema automatizado. d) No se negará efectos jurídicos, validez o fu erza ejecutoria a la información a que se haga referencia en un mensaje de datos que contenga las condiciones de un contrato por la sola razón de que el mensaje de datos que contenga la información sea generado por un sistema automatizado tras la formación del contrato.

Notas sobre el texto revisado

12. El principio 2 reproduce los apartados a) y b) del principio 3 de la primera versión revisada. Divide el apartado b) del principio 3 de la primera versión revisada en dos apartados (es decir, los apartados b) y c) de la presente versión revisada) de modo

12. El principio 2 reproduce los apartados a) y b) del principio 3 de la primera versión revisada. Divide el apartado b) del principio 3 de la primera versión revisada en dos apartados (es decir, los apartados b) y c) de la presente versión revisada) de modo que se tratan la formación y la ejecución por separado ( A/CN.9/1132 , párr. 65 a)).

13. Se mantuvo el apartado a) par a que el principio reconozca la validez y fuerza ejecutoria no solo de los “actos ” relacionados con un contrato, sino del propio contrato.

Esto refleja el criterio seguido en la LMCE y la CCE, que otorgan reconocimiento jurídico no solo a la “información ” (en el contexto de las actividades comerciales) y las “comunicaciones ” (relacionadas con la formación y ejecución de un contrato), respectivamente, sino también a los “contratos ”.

14. El apartado d) es nuevo. Suplementa el apartado c) del principio 1 y som ete al examen del Grupo de Trabajo una nueva norma sobre el reconocimiento jurídico de la información dinámica utilizada en la contratación automatizada, que retoma las deliberaciones mantenidas por el Grupo de Trabajo en su 64º período de sesiones

(A/CN.9/1125 , párr. 22). La información dinámica hace referencia a la información procedente de una fuente de datos externa que cambia periódica o continuamente (p. ej., información sobre el precio de mercado o sobre la ubicación de un objeto). En el contexto de la contratación automatizada, la información dinámica resultaA/CN.9/WG.IV/WP.182

5/19 V.23-15733

particularmente relevante por cuanto puede desencadenar un acto automatizado llevado

En el contexto de la contratación automatizada, la información dinámica resultaA/CN.9/WG.IV/WP.182

5/19 V.23-15733

particularmente relevante por cuanto puede desencadenar un acto automatizado llevado a cabo en ejecución de un co ntrato. El concepto y la terminología de la nueva norma se basa en el artículo 5 bis de la LMCE (que trata de la incorporación de información a un mensaje de datos por remisión), el artículo 13 de la CCE (que hace referencia a las comunicaciones electrónic as (es decir, mensajes de datos) “que contengan ” las condiciones de un contrato) y el artículo 6 de la LMDTE (que contempla la inclusión de información adicional en un documento electrónico) 2 . El apartado d) no excluye la aplicación de otra ley que pueda negar efectos jurídicos, validez o fuerza ejecutoria a las condiciones del contrato que comprendan información dinámica por otro motivo (p. ej., los requisitos legales relativos a la incorporación y la certeza de las condiciones del contrato).

Observaci ones adicionales

15. Leído junto con la definición de “sistema automatizado ” enunciada en el apartado a) del principio 1, el principio 2 tiene como efecto impedir que se niegue validez o fuerza ejecutoria a un contrato o un acto llevado a cabo en la forma ción o ejecución de un contrato por la sola razón de que ningún ser humano haya revisado o intervenido en la celebración del contrato o en el acto de que se trate. No excluye la aplicación de otra ley que pueda exigir la revisión o intervención de un ser h umano para determinados contratos o determinados actos. El principio 2 se haría extensivo al otorgamiento de reconocimiento jurídico a un contrato que se formara sin que las partes

aplicación de otra ley que pueda exigir la revisión o intervención de un ser h umano para determinados contratos o determinados actos. El principio 2 se haría extensivo al otorgamiento de reconocimiento jurídico a un contrato que se formara sin que las partes tuvieran conocimiento o fueran conscientes realmente en el momento de la fo rmación del contrato, pero no negaría la determinación según la cual, en un caso determinado, la falta de conocimiento o conciencia evidenciaba la falta de intención de obligarse.

16. Los términos “acto ” y “actuación ” se han analizado anteriormente (párr. 10). En el contexto del principio 2, son especialmente relevantes los actos que constituyan una “comunicación ” en el sentido de la CCE (es decir, “toda exposición, declaración, reclamación, aviso o solicitud, incluida una oferta y la aceptación de una ofer ta”) o el resultado de otros procesos de adopción de decisiones para los que podría utilizarse un sistema automatizado en un entorno contractual 3 . Por consiguiente, el principio 2 otorgaría reconocimiento jurídico a la desestimación de una demanda present ada en relación con la ejecución de un contrato de seguro generado y enviado por un sistema automatizado, pero no excluiría la aplicación de otra ley que negara la validez de esa desestimación por otros motivos.

17. En el 65º período de sesiones del Grupo de Trabajo, se sugirió que el principio hiciera referencia no solo a “actos ” sino también a “decisiones ”

(A/CN.9/1132 , párr. 65 b)). El Grupo de Trabajo tal vez desee examinar si el término “acto ” es lo suficientemente amplio como para abarcar el resultado de procesos de adopción de decisiones en un entorno contractual, lo cual también podría incluir la

“acto ” es lo suficientemente amplio como para abarcar el resultado de procesos de adopción de decisiones en un entorno contractual, lo cual también podría incluir la “aceptación ” de una oferta en la formación de un contrato o la “desestimación ” de una demanda o la “designación ” de un lugar, una fecha, un objeto o un importe en relación con la ejecución de un contrato. En contra de lo que se manifestó en deliberaciones anteriores del Grupo de Trabajo (véanse A/CN.9/1125 , párrs. 28, 69, 77 y 86, y A/CN.9/1093 , párr. 56), al hacer referencia a las “decisiones ” se podría dar a entender que los sistemas automatizados tienen voluntad propia capaz de “adoptar ” decisiones (por contraposición al hecho de generar el resultado de un proceso de adopción de decisiones desplegado por quien adopta la decisión) y se podría dificultar la distinción entre los resultados generados por un sistema automatizado (denominados en ocasiones “decisiones generadas por IA ”) y los resultados generados por un ser humano con la asistencia de un sistema automatizado (denominados en ocasiones “decisiones asistidas por IA ”). __________________ 2 En la nota explicativa de la LMDTE se afirma que esa información adicional podría consistir en información dinámica, es decir, “información que pudiera cambiar periódica o continuamente según una fuente externa ”: Ley Modelo de la CNUDMI sobre Documentos Tr ansmisibles Electrónicos (publicación de las Naciones Unidas (2017)), párr. 58. 3 A/CN.9/WG.IV/WP.179 , párr. 41.A/CN.9/WG.IV/WP.182

V.23-15733 6/19

Principio 3. Neutralidad tecnológica

3 A/CN.9/WG.IV/WP.179 , párr. 41.A/CN.9/WG.IV/WP.182

V.23-15733 6/19

Principio 3. Neutralidad tecnológica

Nada de lo dispuesto en estos principios obligará a utilizar ningún método en particular en los sistemas automatizados.

Notas sobre el texto revisado

18. El principio 3 reproduce el apartado c) del principio 3 de la primera versión revisada, que se reformuló sobre la base del artículo 9, párrafo 1, de la CCE

(A/CN.9/1132 , párr. 65 d)).

Observaciones adicionales

19. El principio 3 reitera el principio de la neutralidad tecnológica por cuanto es aplicable a los sistemas automatizado s utilizados en la contratación.

20. El principio refuerza la definición de “sistema automatizado ” que se enuncia en términos neutros desde el punto de vista de la tecnología. No excluye la aplicación de otra ley que obligue a utilizar (o a no utilizar) un método en particular. El término “método ” se utiliza ampliamente en los textos vigentes de la CNUDMI y abarca las diversas tecnologías y técnicas aplicadas por los sistemas automatizados 4.

Principio 4. Atribución

a) Todo mensaje de datos que sea generado o enviado por un sistema automatizado se atribuirá a la persona en cuyo nombre funcione el sistema automatizado. b) No obstante lo dispuesto en el apartado a), entre las partes contratantes, todo mensaje de datos que sea generado o enviado por un sistema automatizado se atribuirá de conformidad con el procedimiento que hayan acordado las partes con ese fin. c) Si un sistema automatizado funciona en nombre de múltiples partes, el

mensaje de datos que sea generado o enviado por un sistema automatizado se atribuirá de conformidad con el procedimiento que hayan acordado las partes con ese fin. c) Si un sistema automatizado funciona en nombre de múltiples partes, el mensaje de datos que sea generado o enviado por el sistema automatiz ado se atribuirá de conformidad con las normas operacionales del sistema. d) Este principio no se refiere a las consecuencias jurídicas que emanen de un mensaje de datos atribuido a una persona con arreglo a este principio.

Notas sobre el texto revisado

21. El principio 4 reproduce el principio 4 de la primera versión revisada. Se modificó para reflejar las propuestas formuladas en el seno del Grupo de Trabajo en su 65º período de sesiones ( A/CN.9/1132 , párr. 70).

22. Se modificó el apartado a) para eliminar la afirmación de política según la cual los sistemas automatizados son herramientas sin voluntad propia ni pe rsonalidad jurídica.

El apartado b) reproduce el apartado c) de la primera versión revisada. El apartado c) reformula el apartado b) de la primera versión revisada y contempla la situación específica en que ambas partes utilizan el sistema de un tercero pa ra formar y ejecutar contratos. Los apartados b) y c) no se excluyen mutuamente; el apartado b) está formulado de tal manera que sea aplicable a las situaciones en que se utilice el sistema de un tercero, en cuyo caso las normas operacionales del sistema p ueden representar los procedimientos convenidos por las partes. El término “normas operacionales ” y el vínculo con los acuerdos contractuales se basan en la labor llevada a cabo por el Grupo de Trabajo al preparar la LMIC.

__________________

procedimientos convenidos por las partes. El término “normas operacionales ” y el vínculo con los acuerdos contractuales se basan en la labor llevada a cabo por el Grupo de Trabajo al preparar la LMIC.

__________________ 4 Véanse, por ejemplo, la Ley Modelo de la CNUDMI so bre Firmas Electrónicas con la Guía para su incorporación al derecho interno (2001) (publicación de las Naciones Unidas, núm. de venta: S.02.V.8), párr. 107, y la Ley Modelo de la CNUDMI sobre Documentos Transmisibles Electrónicos (publicación de las Naciones Unidas (2017)), párr. 122.A/CN.9/WG.IV/WP.182

7/19 V.23-15733

Observaciones adicionales 5

23. El principio 4 refleja el criterio, seguido en los textos de la CNUDMI vigentes y en la Recomendación sobre la Ética de la Inteligencia Artificial de la UNESCO de 2021

(recomendación de la UNESCO), según el cual los sistemas automatizados son herramient as sin voluntad propia ni personalidad jurídica, por lo que el producto de un sistema automatizado es atribuible a una persona y no al propio sistema. En la nota explicativa sobre la CCE, a la que se hizo referencia en el seno del Grupo de Trabajo en su 65 º período de sesiones ( A/CN.9/1132 , párr. 69), se profundiza con respecto a los sistemas automatizados mencionados en el artículo 12 de la CCE: El artículo 12 de la [CCE] es u na disposición habilitante y no debe entenderse erróneamente que transforma en sujeto de derechos y deberes un sistema automatizado de mensajes o una computadora. Debe interpretarse que las

El artículo 12 de la [CCE] es u na disposición habilitante y no debe entenderse erróneamente que transforma en sujeto de derechos y deberes un sistema automatizado de mensajes o una computadora. Debe interpretarse que las comunicaciones electrónicas que son generadas automáticamente por un sistema de mensajes o una computadora sin intervención humana “proceden ” de la entidad jurídica en nombre de la cual funciona el sistema de mensajes o la computadora. Las cuestiones relativas al sujeto de la acción que podrían plantearse en ese contexto han de ser zanjadas con arreglo a normas al margen de la Convención.

24. El concepto de “atribución ” se refiere a la vinculación del producto de un sistema automatizado a una persona de modo que se pueda afirmar que el producto es un acto de la persona ( A/CN.9/1125 , párr. 44). La atribución presupone no solo la identificación de la persona, sino también del sistema, lo que en la práctica puede hacerse identificando algún objet o digital desplegado dentro del sistema para iniciar el acto relacionado con la formación o la ejecución del contrato, como un denominado “contrato inteligente ”, un script persistente o un bot. La atribución no se refiere a la responsabilidad (es decir, identificar a la persona que asume las consecuencias jurídicas que emanen de ese producto) ( ibid .) o la autenticación (es decir, verificar que un mensaje de datos procesado por un sistema automatizado ha sido generado o enviado por una determinada persona o cosa conectada al sistema). Tampoco tiene que ver con el hecho de que una persona que haga funcionar un sistema automatizado en nombre de otra persona esté actuando o no como agente de esa otra persona a los efectos de la ley relativa al mandato

persona o cosa conectada al sistema). Tampoco tiene que ver con el hecho de que una persona que haga funcionar un sistema automatizado en nombre de otra persona esté actuando o no como agente de esa otra persona a los efectos de la ley relativa al mandato o contrato de agencia. El principio 4 no se refiere al derecho sustantivo ( A/CN.9/1132 , párr. 69).

25. Por tanto, el principio 4 tiene un alcance tan limitado que podría considerarse qu e reproduce una obviedad. Sin embargo, reafirma un elemento importante al establecer un marco jurídico para la utilización de la IA y la automatización en la contratación (véase A/CN.9/1132 , párr. 69). Como se señala en la recomendación de la UNESCO:

[A]l elaborar los marcos reguladores, los Estados Miembros deberían tener en cuenta, en particular, que la responsabilidad y la rendición de cuentas deben recaer siempre en última instancia en personas físicas o jurídicas y que no se debe otorgar personalidad jurídica a los propios sistemas de IA. Para lograrlo, esos marcos reguladores deberían ajustarse al principio de la supervisión humana y establecer un enfoque global cen trado en los actores de la IA y los procesos tecnológicos que intervienen en las diferentes etapas del ciclo de vida de los sistemas de IA 6.

26. Vincular el producto de un sistema automatizado a una persona física o jurídica no es un concepto novedoso, co mo tampoco es exclusivo del entorno contractual. En el contexto de la propiedad intelectual, por ejemplo, es necesario vincular los productos generados por un sistema de IA a personas físicas o jurídicas a fin de establecer la condición de autora o invento ra de una persona física o jurídica (si bien en ocasiones se

contexto de la propiedad intelectual, por ejemplo, es necesario vincular los productos generados por un sistema de IA a personas físicas o jurídicas a fin de establecer la condición de autora o invento ra de una persona física o jurídica (si bien en ocasiones se confunde ese análisis con cuestiones relativas a la creatividad, la ingeniosidad y otras consideraciones de políticas específicas del contexto de la propiedad intelectual). __________________ 5 Véanse observaciones anteriores sobre el apartado b) en A/CN.9/WG.IV/WP.179 , párr. 47. Véanse observaciones anteriores sobre el apartado d) en A/CN.9/WG.IV/WP.179 , párr. 48. 6 UNESCO, Actas de la Conferenci a General, 41ª reunión, vol. 1 (París, 2022), anexo VII, párr. 68.A/CN.9/WG.IV/WP.182

V.23-15733 8/19

27. En las situaciones en las que una parte como tal hace funcionar el sistema para formar y ejecutar contratos, el producto del sistema se atribuye a dicha parte (es decir, puede afirmarse que la parte hace funcionar el sistema en nombre propio). En las situaciones en que una parte utiliza un sistema operado por un tercero proveedor de servicios, entran en juego las palabras “en nombre de ”. Esas palabras se utilizan con frecuencia en la LMCE y la CCE. Al igual que en esos textos, el principio 4 no ahonda en los factores pertine ntes para determinar si una persona que hace funcionar un sistema automatizado lo hace “en nombre de ” otra persona. El control sobre los parámetros de funcionamiento del sistema en relación con su utilización en la formación y ejecución de contratos es pro bablemente un factor pertinente, así como también lo es el beneficio

automatizado lo hace “en nombre de ” otra persona. El control sobre los parámetros de funcionamiento del sistema en relación con su utilización en la formación y ejecución de contratos es pro bablemente un factor pertinente, así como también lo es el beneficio derivado de esa utilización ( A/CN.9/1125 , párrs. 42 a 46). Sin embargo, en el seno del Grupo de Trabajo se ha advertido del riesgo de basar la atribución en el “control ” como factor decisivo puesto que el término es susceptible de diferentes interpretaciones. Como se ha señalado anteriormente (párr. 24), el principio 4 no obliga a estudiar si la persona que hac e funcionar el sistema actúa como agente de otra persona.

Principio 5. Intención, conocimiento y concienci