Disrupción tecnológica, transformación y sociedad . Группа авторов
III. CONCLUSIÓN: DE LA PRIVACIDAD ALAGOBERNANZA ÉTICA DE LA INTELIGENCIA ARTIFICIAL
A. LA ÉTICA DIGITAL
Con apoyo en la abundante doctrina en la materia, considero que los principales retos éticos de los sistemas de IA derivan, en esencia, de situaciones relacionadas con los problemas de transparencia, responsabilidad, control y explicabilidad algorítmica. En efecto, la doctrina ha considerado que dichos problemas podrían eventualmente comprometer ciertos principios éticos que gobiernan los sistemas de IA y vulnerar los derechos humanos, los valores democráticos y el Estado de derecho (Keats Citron y Pasquale, 2014; Keats Citron, 2007; Kroll et al., 2017).
Entonces, es menester repensar el diseño de mecanismos en los que el titular otorga su consentimiento para que sus datos sean procesados automáticamente por sistemas de IA, para lo cual es preciso priorizar el respeto por la privacidad y la confianza de los usuarios (Leenes, Van Brakel y De Hert, 2017). Una alternativa es implementar la privacidad por diseño, de acuerdo con la cual, no basta con determinar medidas técnicas y organizacionales para proteger la privacidad, sino que un sistema coherente en tecnología debe protegerla eliminando o reduciendo el uso de datos personales e, incluso, evitando un procesamiento innecesario o no deseado de los mismos (Communication from the Commission to the European Parliament and the Council on Promoting Data Protection by Privacy Enhancing Technologies [PET], 2007).
Con todo, la ética digital no se debe confundir con la obligación legal que imponen los ordenamientos jurídicos a los responsables y encargados del tratamiento automatizado de datos personales de obtener el consentimiento de su titular para tal efecto, ni con la obligación legal impuesta por ciertos ordenamientos jurídicos respecto de las otras bases distintas al consentimiento para el tratamiento de datos personales.
Resulta muy interesante que los gobiernos y las organizaciones privadas hayan revivido el debate entre la ética y el derecho a efectos de crear estándares de conducta para el desarrollo, diseño y operación de sistemas de IA complejos que operan en la incertidumbre y más allá de cualquier cálculo jurídico.
Sin embargo, uno de los principales problemas prácticos que enfrenta la ética digital se deriva de la confusión respecto de su naturaleza no vinculante lo cual, a mi juicio, puede generar problemas en la práctica. ¿Por qué cumplimos una norma ética? ¿Qué ocurre cuando la incumplimos? ¿Cuál es la naturaleza de las consecuencias derivadas del incumplimiento de una norma ética?
No se trata de una discusión nueva, pues desde tiempos inmemoriales la doctrina y la jurisprudencia se han ocupado de diferenciar el derecho de la moral. Ahora bien, este es un debate complejo e interminable que no pretendo revivir en este escrito por cuanto excedería su propósito (Castaño, 2017). En síntesis, el debate se centra en diferenciar el derecho de la moral con fundamento en diversos criterios como, por ejemplo, la manera de crear la norma ética o jurídica, su fuerza vinculante, las consecuencias derivadas de su inobservancia y el grado de institucionalización de los mecanismos de coerción para garantizar su obligatorio cumplimiento. Aunado a lo anterior, considero que otra forma de entender este debate consiste en analizar la manera en que los operadores jurídicos deciden casos difíciles respecto de los cuales las normas jurídicas son ambiguas, vagas o simplemente inexistentes. Mientras que para un sector de la doctrina los operadores jurídicos deciden los casos difíciles con base en normas jurídicas, para otro sector los operadores deciden con base en su moral personal (Shapiro, 2011; Hart, 2012; Dworkin, 1986).
Creo que los planteamientos de Lon Fuller (1942) son de gran relevancia para despejar las dudas respecto de la naturaleza de la ética digital y su diferencia con las disposiciones jurídicas de naturaleza legislativa, administrativa o judicial. En su célebre artículo “Consideration and Form” Fuller explica que en materia de contratos las formas legales cumplen tres funciones esenciales: probatoria, cautelar y canalizadora (evidentiary, cautionary, and channeling). A pesar de sus diferencias teóricas, las tres funciones se confunden en la práctica. Quiero ahora enfocarme especialmente en las funciones cautelar y canalizadora.
De una parte, Fuller señala que la función cautelar de las formas legales es una salvaguarda que sirve para prevenir y disuadir acciones involuntarias. Cuando la función cautelar de las formas jurídicas es extrapolada al derecho público y a la regulación jurídica, sirve para prevenir que el legislador expida una ley sin el debido cumplimiento de los requisitos contenidos en una Constitución Política. Lo mismo se podría decir respecto del ejercicio de las potestades reglamentarias o regulatorias por una autoridad administrativa, en el sentido de que la función cautelar podría disuadir a una autoridad administrativa de expedir un acto administrativo general o particular sin el lleno de los requisitos formales contenidos en las leyes que regulan los procedimientos administrativos.
De otra parte, Fuller explica que la función canalizadora de las formas jurídicas tiene un propósito que va más allá de un simple sello o de la protocolización del acto jurídico, en el sentido de que constituye un signo positivo de un negocio jurídico amparado por el ordenamiento jurídico y, por tanto, ejecutable bajo sus normas jurídicas, en la medida en que ofrece una canal como forma para encauzar una “manifestación de la voluntad legalmente vinculante”. Para ilustrar esta función, el autor explica que cuando una persona desea celebrar un contrato primero debe tener claros los fines socioeconómicos del negocio y la necesidad que pretende satisfacer, para luego, con o sin la ayuda de un abogado, definir el tipo de transacción legal que realizará.
El cumplimiento de los requisitos sustanciales, formales y procedimentales contenidos en un ordenamiento jurídico tiene por virtud sancionar actos unilaterales o bilaterales con la fuerza del derecho, lo cual, a la postre, diferencia una simple promesa de un contrato, un proyecto de ley de una ley de la república o un proyecto de acto administrativo de su versión final. Por ejemplo, las filosofías del derecho defendidas por H. L. A. Hart y Ronald Dworkin, aunque antagonistas en cuanto a sus cimientos y compromisos teóricos, coinciden en que el “cambio” de un deber moral a una norma jurídica ocurre cuando el acto jurídico se realiza de acuerdo con una regla secundaria, o con los cimientos del derecho que establecen los requisitos para que un acto jurídico pueda ser válidamente una fuente de obligaciones jurídicas (Shapiro, 2011; Hart, 2012; Dworkin, 1986).
En ese contexto, considero que la ética digital, como un subcampo de la ética aplicada, carece de toda fuerza jurídica vinculante y su acatamiento es voluntario por los sujetos que deciden imponerse autónomamente ciertos parámetros de conducta que van más allá del derecho jurídico-positivo. Desde un punto de vista de creación normativa, no cabe duda de que las normas éticas son diseñadas, expedidas e implementadas de manera voluntaria y espontánea por los sujetos que han decidido reglar su comportamiento bajo un estándar de conducta que va más allá de las normas jurídico-positivos que gobiernan los sistemas de IA. Como he sostenido en otros escenarios, lo que denomino “lenguaje de la legalidad” tiene el poder de transformar un deber moral en una obligación legal de acuerdo con los requerimientos formales, procedimentales y sustanciales previstos en un ordenamiento jurídico específico (Castaño, 2017).
De esa manera, cuando un gobierno decide, en ejercicio de su jurisdicción y competencia, expedir o adoptar un “estándar, protocolo o marco ético”, de acuerdo con los requisitos sustanciales y procedimentales establecidos en una Constitución, se trata simplemente de una norma jurídica disfrazada con la etiqueta de “ética digital”. Otra cosa muy distinta es el lugar que ocupará dicha disposición dentro del espectro normativo soft law-hard law, pero será en todo caso una norma jurídica con todas las consecuencias que ello implica.
En lo tocante al criterio de fuerza vinculante, vale la pena dejar en claro que la inobservancia de una norma