En la entrevista con el autor, buscamos profundizar en este boom tecnológico, que si bien lleva décadas de desarrollo, se ha instalado con todo su peso en el último tiempo, amenazando con cambiar nuestras formas de vivir o de relacionarnos con el mundo presente -y futuro-, claro.
El Ciudadano: ¿Qué te inspiró a escribir tu ebook “Justicia en la era de la Inteligencia Artificial: una guía para abogados y legisladores”? ¿Por qué se puede afirmar que es un tema crucial en la actualidad para ellos?
Leonardo Poses Stekelberg: – Antes que nada me gustaría aclarar que no soy experto en Inteligencia Artificial; simplemente, desde la visión del Derecho me interesó volcar estructuradamente toda la información que había recolectado, en una especie de guía con un marcado perfil jurídico o legal.
Entonces, para responder en concreto, desde hace varios meses (te diría que cerca de un año) vengo dedicando tiempo a investigar las posibles conexiones entre el Derecho y las Nuevas Tecnologías. Coincidentemente, a fines de 2022 se produce la explosión de la Inteligencia Artificial; digo explosión como un importante desarrollo (a niveles de estar hablando de una Cuarta Revolución Industrial) pero con la particularidad de encontrarse al alcance de la mano de casi cualquier usuario. Sin ir más lejos, podemos interactuar gratuitamente con desarrollos tecnológicos que entienden y emplean el lenguaje natural (como “Chat GPT” de la empresa Open AI, o el chatbot de Microsoft Bing, que trabaja e interactúa con los humanos, con una increíble base de datos y de manera on line).
Esta realidad me motivó a bucear en las incumbencias de las Nuevas Tecnologías en el hábitat jurídico; si bien es algo reciente, podría decirte que desde hace más de diez años, abogados y operadores jurídicos alrededor del mundo están intentando emplear -o efectivamente utilizando- las Nuevas Tecnologías en provecho de la profesión.
Entiendo que es un tema crucial porque atraviesa a todos los estamentos del Derecho; por darte algunos ejemplos, en estos momentos nos encontramos con avances tecnológicos que son proyectados para reemplazar, en algún momento, a enormes cantidades de trabajadores humanos, y que utilizan Inteligencia Artificial para tomar decisiones laborales de manera autónoma. Esto inmediatamente prende las alarmas de los laboralistas; por otra parte, se empiezan a idear estudios jurídicos con formatos y organizaciones totalmente diferentes al esquema tradicional. Estos emprendimientos, conocidos como “LegalTech”, toman muy poco del esquema clásico del bufete de abogados, abocándose directamente a las tecnologías para ofrecer servicios jurídicos novedosos.
Y con respecto a los legisladores, creo que se encuentran en una posición de acción y de compromiso, porque si bien entiendo que nuestro país tiene otras urgencias, es sumamente necesario empezar a regular el uso de las NT, y sobre todo de la Inteligencia Artificial.
EC: En tu libro, abordas la relación entre la Inteligencia Artificial y el Sistema Judicial. ¿Cómo crees que la IA está transformando la práctica legal en Argentina?
LPS: – No sé si actualmente podemos afirmar que la IA esté trocando la práctica legal, porque estamos hablando de desarrollos muy nuevos, que cambian continuamente, y muchas veces son desconocidos o poco entendibles. Sí te puedo afirmar que ya existen estudios jurídicos o abogados que emplean Inteligencia Artificial para aplicarla a la práctica profesional; LegalTech que buscan ofrecer servicios legales “renovados” o distintos a los servicios jurídicos tradicionales.
También se pudo ver, por ejemplo, en nuestra provincia, que el Poder Judicial tuvo que “apurar” la implementación del sistema de gestión virtual de expedientes (SISFE) cuando la pandemia obligó al cierre de los Tribunales.
Si bien ese sistema ya existía pre pandemia, la necesidad de trabajar de manera remota obligó a emplear una única manera de gestionar casos y expedientes, que era a través de una computadora.
De esta forma se puede demostrar que el aprovechamiento de tecnologías no sólo es beneficioso, si no que -en muchas ocasiones- es fundamental.
Una de las cuestiones que intento abordar en el ebook es lo estratégico que resulta (y resultará) que el abogado o el operador jurídico se prepare y sepa cómo desenvolverse con estas tecnociencias, que pueden ser muy provechosas, pero que al mismo tiempo exigen ciertos reparos.
EC: Hablemos sobre la equidad y la IA en la Justicia. ¿Qué desafíos éticos y legales presenta la implementación de tecnologías avanzadas en los tribunales?
LPS: – Los desafíos son muchos, abundantes. Diría que la equidad y la ética son pilares esenciales que deben protegerse y contemplarse al momento de pensar en el desarrollo y en la implementación de Inteligencia Artificial.
El primer paso es reconocerlas, darles el espacio jurídico que ya tienen en lo social, en lo comercial, en la vida diaria. Legalmente es imperioso, a mi entender, comenzar a regularlas y a limitarlas, ya que pueden resultar muy peligrosas para una sociedad determinada, si no son empleadas con una base ética.
Pero eso no significa que debamos escapar al avance de las NT; contrariamente, ellas nos avanzan y no hay muchas maneras de no encontrarse rodeados (y si no, reparemos un segundo en nuestra absoluta dependencia a los smartphones o a las notebooks). Lo fundamental es conocerlas, saber cuáles son sus fortalezas y cuáles sus debilidades; entender, por ejemplo, el entramado que les permite tener un cierto grado de autonomía. Creo que a nosotros, como abogados, nos toca dar un paso más, comprometernos con toda la movida tecnológica que se está viniendo; nos corresponde ampliar nuestros conocimientos buscando ir más allá de leyes o códigos. En el libro planteo lo apremiante que resulta que las Facultades de Derecho comiencen a incorporar en sus contenidos académicos materias que puedan ir preparando a los letrados del futuro, en todo lo tecnológico -como el big data, blockchain, machine learning, chatbots, redes neuronales, deep learning, cyberdelincuencia, la implementación de sistemas de Inteligencia Artificial, por ejemplo, en el reconocimiento facial de ciudadanos, etc.-. Todas estas son herramientas que ya se están empleando y, por nuestra función social, no podemos darnos el lujo de quedar afuera o rezagados.
EC: ¿Cuáles son los aspectos más destacados de tu libro que los abogados y legisladores deben considerar para mantenerse actualizados en este campo en constante evolución?
LPS: – Opino que lo más importante ahora, es hablar del tema. Que cada uno desde su lugar se interese, buscando dar las conversaciones o discusiones que sean necesarias. Todos quienes queramos (y podamos, por supuesto) redactar textos, artículos, libros, llevar adelante investigaciones, entregar nuestros puntos de vista; todo ello irá conformando una cosmovisión (multidisciplinaria) más completa, de lo que está sucediendo.
Si no nos interesamos, como profesionales, como usuarios, como ciudadanos, es posible que de un momento a otro, y más temprano que tarde, vayamos quedándonos al margen de esta cambiante realidad.
No es mi intención hacer futurología, ni tampoco me interesa ser alarmista presentando un futuro de “terror” o controlado completamente por máquinas. Yo no creo que eso suceda; sí estimo que estos desarrollos tecnológicos tan veloces exigen que nos introduzcamos en ese universo. Entiendo que pueda generar algo de resquemor, de desconfianza o incluso desinterés, pero no sé si nos quedan muchas opciones.
En el libro intento poner sobre el tapete todo lo que ha ido ocurriendo en estos últimos tiempos (meses y años), que fue mucho y muy variado. Es por ello que muchos expertos comparan a estos sistemas o maquinarias con las Revoluciones Industriales o tecnológicas que marcaron hitos en la historia de la ciencia y la técnica humanas.
Además, si hablamos de marcos regulatorios, te diría que en Argentina no existen normas que regulen de forma comprensiva y específica los posibles problemas generados por la Inteligencia Artificial (como sí ya ha empezado a suceder en la Unión Europea). Entonces los trabajos de investigación tienen el valor fundamental de poner sobre el tapete estas temáticas que aunque parezcan lejanas en el tiempo, ya atraviesan claramente nuestra cotidianeidad.
EC: La automatización y la IA pueden idearse buscando mejorar la eficiencia en el sistema legal, pero ¿cómo garantizar que no se menoscabe el acceso a la Justicia para todos los ciudadanos?
LPS: – Bueno, creo que siempre volvemos al mismo punto de partida. Todas las Nuevas Tecnologías tienen un potencial inimaginable para transformar la forma en la que trabajamos, estudiamos, escribimos, nos contactamos, etc. Pero esos avances y desarrollos -casi de ciencia ficción- presentan su contracara con problemáticas (algunas muy graves) que van de la mano de sus diseños, sus implementaciones y de sus modificaciones.
En este momento es muy difícil conocer quién o quiénes están detrás de cada uno de los proyectos tecnológicos que surgen prácticamente día a día; tampoco tenemos el suficiente conocimiento como para entender cómo funcionan, cuáles son los datos que se emplean para alimentar a las Inteligencias Artificiales, etc. Esto nos lleva a lo urgente, que es pensar en normas que reglamenten su creación y aprovechamiento; que hagan referencia a las distintas responsabilidades que puedan surgir por el mal empleo o el incorrecto desarrollo de estas tecnociencias.
Por otra parte, la tecnología en el mundo jurídico debería pensarse fundamentalmente como una llave, que facilite el acceso a cualquier usuario de Justicia. Debe servir para transparentar los procesos, para simplificarlos, buscando acortar los tiempos de respuesta. Puede funcionar para optimizar la organización tribunalicia… Presenta miles de posibles destinos…
Sostengo entonces que la automatización y la Inteligencia Artificial tienen el potencial de mejorar la eficiencia en el sistema legal, pero también plantean desafíos importantes en términos de acceso a la Justicia. Opino que debería prestarse vital atención a los siguientes tópicos: Transparencia, sobre todo en los algoritmos utilizados para alimentar a los sistemas; equidad, en el entendimiento de que los desarrollos no deben incorporar sesgos ni discriminaciones de ningún tipo; acceso a la tecnología, para garantizar que todos los ciudadanos tengan los mismos alcances, independientemente de su nivel de ingresos; educación y alfabetización digital, ya que creo que es crucial que los ciudadanos estén -estemos- educados sobre cómo funcionan las IA y cómo puede afectar sus interacciones con el sistema legal; y por supuesto, desplegar la regulación pertinente.
EC: ¿Qué medidas proponés para la regulación de la IA en el ámbito legal? ¿Cómo pueden los legisladores abordar adecuadamente esta cuestión?
LPS: – Es un tema complejo que requiere un enfoque multifacético. Primeramente, es fundamental establecer normas claras sobre cómo se puede utilizar la IA en el ámbito legal (y en el ámbito ciudadano también). Esto incluye la definición de lo que constituye un uso aceptable de la IA, así como las posibles sanciones por incumplimientos. Por otra parte, una cuestión importante se relaciona con la transparencia y la explicabilidad: los algoritmos de IA que sean utilizados para mejorar el sistema legal deben ser transparentes y explicables. Esto significa que las personas de a pie deben poder entender cómo se toman las decisiones basadas en IA.
Otro tema que remarco mucho en el e-book es la protección de datos y de la privacidad. Es crucial garantizar la protección de los datos personales y la privacidad de los individuos cuando se utilice la IA en cualquier circunstancia. Esto podría implicar la implementación de técnicas de anonimización y la obligación de obtener el consentimiento informado antes de recopilar y utilizar datos personales (situación que ya está pasando; podemos analizar el polémico caso de “Worldcoin” y su criptomoneda biométrica).
Asimismo, debe haber una clara asignación de responsabilidades cuando se aprovecha la Inteligencia Artificial. Esto podría implicar la responsabilidad del programador, del fabricante, del propietario, del usuario, etc.
Por último, aunque resulta muy importante, se debe reglamentar y ejercer revisiones periódicas; dada la rápida evolución de la tecnología de IA, es importante que las regulaciones sean revisadas y actualizadas periódicamente para reflejar los cambios en la tecnología y en la sociedad.
EC: La IA a menudo se asocia con la toma de decisiones algorítmicas. ¿Cómo se puede garantizar la transparencia y la rendición de cuentas en estos procesos judiciales automatizados?
LPS: – Garantizar la transparencia y la rendición de cuentas en los procesos judiciales automatizados es un desafío importante y que no puede soslayarse…
Existen algunas estrategias que podrían tenerse en consideración al momento de proyectar el uso de Nuevas Tecnologías dentro del Sistema Judicial. Pienso que lo primero, lo decisivo, es que si en algún momento estamos frente a algoritmos que se utilizan para la toma de decisiones judiciales, deben ser explicables, lo que significa que deben ser diseñados de tal manera que se pueda entender cómo llegan a una decisión particular.
También creo que la transparencia se puede proteger con auditorías independientes y con la participación del público en general: involucrar al público en el proceso de toma de decisiones y en el aprovechamiento de NT, puede ayudar a garantizar que los algoritmos sean lo más justo y representativos posible. Esto podría implicar, por ejemplo, llevar adelante consultas públicas sobre cómo se deben utilizar los algoritmos en el sistema judicial.
Para los abogados independientes que deseen o deban utilizar Nuevas Tecnologías o Inteligencia Artificial (buscando mejorar su rendimiento o el ejercicio de la profesión), se podrían diagramar algunas orientaciones, teniendo en cuenta que esta realidad cambia continua y rápidamente:
Por ejemplo, invertir en formación y educación continua: la tecnología y la IA están evolucionando rápidamente, por lo que es importante, creo, mantenerse al día con las últimas tendencias y desarrollos. Esto podría implicar la participación en cursos de formación, seminarios web, conferencias y otros eventos educativos.
Otro aspecto fundamental: comprender las herramientas ya disponibles. Hay muchas herramientas de IA disponibles que pueden ayudar a los abogados a ser más eficientes y efectivos. Estas herramientas pueden ayudar con todo, desde la investigación legal hasta la gestión de casos y la redacción de documentos, por dar algunos ejemplos.
Ahora bien, sí o sí opino que siempre se debe considerar la ética. Esto significa que es importante tener en cuenta las implicaciones éticas de utilizar la IA en la práctica legal, debiendo considerarse cuestiones como la privacidad de los datos, la transparencia y la equidad.
Otro elemento que considero elemental: colaborar -los abogados y juristas- con expertos en tecnología; ello no significa que necesitemos convertirnos en expertos en tecnologías para aprovechar los beneficios de la IA. En su lugar, sí podemos colaborar con expertos científicos o desarrolladores que puedan ayudarnos a entender y utilizar eficazmente estas herramientas.
Indispensable: ser adaptable. La tecnología está cambiando la forma en que se practica el Derecho, por lo que es importante ser adaptable y estar dispuesto a cambiar la forma en que trabajamos.
Todo esto nos obliga a una actitud básica de nuestra profesión, como es la de ser custodios de los datos sensibles del cliente. Al utilizar herramientas de IA y Nuevas Tecnologías, es crucial garantizar que los datos del cliente estén seguros y protegidos.
Y finalmente, estar preparados para explicar; si se utiliza IA para tomar decisiones, es importante estar preparados para explicar -a los clientes, colegas y tribunales- cómo se tomó una determinada decisión.
EC: En tu libro mencionas la necesidad de una formación legal actualizada. ¿Qué recomendaciones tenés para los abogados que desean mantenerse al día en este contexto de IA y Derecho?
LPS: – Creo que la formación legal actualizada es fundamental para los abogados que quieren adaptarse al cambio tecnológico y aprovechar las oportunidades que puede llegar a ofrecer la Inteligencia Artificial.
Algunas recomendaciones que puedo darte, desde mi humilde posición: Buscar cursos, diplomados o posgrados que te brinden conocimientos y habilidades sobre las herramientas y técnicas de IA, su funcionamiento, sus límites, sus desafíos y su impacto en las diferentes ramas del Derecho; intentar mantenerse informado sobre las últimas novedades, tendencias y casos prácticos de IA y Derecho, tanto a nivel nacional como internacional. Se pueden seguir blogs, podcasts, revistas o redes sociales de expertos, académicos o instituciones que se dediquen a este tema (y en la actualidad hay muchísima oferta); experimentar con las aplicaciones de IA que ya existen en el mercado y que pueden facilitar el trabajo de un abogado. Podés probar plataformas que te ayuden a buscar jurisprudencia, redactar documentos, analizar contratos, resolver consultas o automatizar procesos.
Sinceramente, hay mucho. Mucho y de distintas calidades; por eso sólo queda animarse a probar, a experimentar, a conocer. Justamente en el libro trato brevemente la cuestión del “ego del abogado”, como algo que viene desde hace siglos y significa que en muchas ocasiones nos reconocemos como conocedores de un saber y de un lenguaje muy específicos, y que en su generalidad ha cambiado poco (por algo seguimos empleando latinazgos en nuestros escritos). Y resulta que esta época nos obliga a salirnos de nuestra esfera de control porque aparecen herramientas o dispositivos que pueden simplificarnos el trabajo, o pueden competir con nosotros, llegando al límite de “robarnos” clientes.
EC: Hay muchos términos (la mayoría en idioma inglés), que se refieren, directa o indirectamente a todas las Nuevas Tecnologías. ¿Cómo hace cualquier persona con poco o nulo conocimiento tecnológico -y sea o no abogado- para “entender” el contenido de tu libro?
LPS: – No, primeramente te aclaro que el libro no presenta grandes complejidades, ni utiliza términos científicos (porque ni siquiera yo soy un experto). Lógicamente, deben usarse palabras y conceptos relacionados con la materia, porque no habría otra forma de referirse a todo lo que viene sucediendo.
Por ello me pareció adecuado agregar un glosario con terminología tecnológica, que permita seguir y entender el desarrollo y el contenido de ciertos pasajes del ebook.
EC: Finalmente, ¿qué visión tenés para el futuro de la Justicia en la era de la Inteligencia Artificial en Argentina? ¿Cuáles son los pasos importantes que nosotros debemos tomar como sociedad y específicamente ustedes como profesionales del Derecho?
LPS: – La Inteligencia Artificial es una realidad que tiene un gran potencial para transformar la Justicia en Argentina y en el mundo. Sin embargo, también implica desafíos y riesgos que entiendo deben ser abordados con responsabilidad y ética.
Creo que el futuro de la Justicia en la era de la IA debe ser un porvenir donde se aprovechen las ventajas de esta tecnología para mejorar la eficiencia, la transparencia, la accesibilidad y la calidad del servicio judicial, pero sin perder de vista los principios y valores que rigen al Estado de Derecho, como el respeto a los DDHH, la independencia judicial, el debido proceso, la igualdad ante la ley y la rendición de cuentas, entre otros.
Para lograr este futuro, creo que hay algunos pasos importantes que debemos tomar como sociedad y como profesionales. Algunos de ellos pueden ser: Promover una cultura de innovación y adaptación al cambio en el ámbito judicial, que incentive el uso de la IA como una herramienta para facilitar el trabajo de los operadores judiciales, pero no para reemplazarlos o suplantar su criterio.
Establecer un marco regulatorio adecuado para la IA en el ámbito judicial, que garantice su uso transparente, comprensible, confiable y responsable, así como su supervisión y control por parte de las autoridades competentes.
Fomentar la participación y el diálogo entre los distintos actores involucrados en el desarrollo y aplicación de la IA en el entorno judicial, como los poderes públicos, las universidades, las empresas, las organizaciones de la sociedad civil y los ciudadanos.
Impulsar la formación y capacitación continua de los profesionales del Derecho en materia de IA, para que puedan comprender sus fundamentos, sus alcances, sus limitaciones y sus implicancias éticas y jurídicas.
Generar espacios de investigación y difusión sobre las experiencias exitosas y las buenas prácticas de uso de las Inteligencias en el hábitat jurídico, tanto a nivel nacional como internacional. Y la lista puede seguir ampliándose…
Estos son algunos de los pasos que creo que debemos tomar para avanzar hacia un futuro prometedor e interesante, donde la IA sea un integrante estratégico de la Justicia en nuestro país.
El ebook “Justicia en la era de la Inteligencia Artificial: una guía para abogados y legisladores” se encuentra en el sitio web de la Editorial Juris (https://editorialjuris.com/), en la sección “Biblioteca Digital”.
Para conocer sobre estos temas, Leonardo Poses Stekelberg gestiona un blog personal, en donde se tratan cuestiones actuales que conectan al Derecho con las Nuevas Tecnologías. Allí pueden encontrarse otros artículos del autor, como de otros autores nacionales e internacionales (https://lposesabogado.blogspot.com/).
