La irrupción de la Inteligencia Artificial (IA) en la vida cotidiana llegó a los Tribunales del sur santafesino, pero no de la mejor manera. En un fallo inédito, el juez en lo Civil y Comercial de Villa Constitución, David Lisandrello, dictó una resolución que enciende las alarmas sobre el uso «acrítico» de herramientas como ChatGPT o Gemini en el ejercicio de la abogacía.
El magistrado detectó que un abogado presentó un incidente judicial basándose en normas y plazos que directamente no existen en el Código Procesal de Santa Fe. Lo que podría haber pasado como un simple error técnico fue identificado por el juez como un producto de la tecnología mal utilizada, según publicó el periodista Alberto Furfari en el sitio Versión Rosario.
El «estilo gramatical» que delató al bot
Lo más llamativo del fallo es la capacidad de observación del magistrado para identificar la autoría no humana del texto. Según la sentencia, la afirmación era «tan segura y a la vez tan equivocada» que, por la «cadencia del estilo gramatical y la construcción típica de las frases», se advertía con alto grado de verosimilitud que era obra de una IA.
«Se verifica que no se trata de una simple deficiencia argumental, sino de la introducción en el proceso de una premisa normativa inexistente», afirmó Lisandrello, señalando que esto obliga al tribunal y a las partes a perder tiempo en resoluciones «totalmente innecesarias».
«Alucinaciones» peligrosas
El juez fue tajante al explicar que estos modelos de IA «no nativos para cuestiones jurídicas» suelen tener «comprobadas alucinaciones»: situaciones donde la máquina, ante la falta de una respuesta real, inventa una que suena lógica pero carece de sustento legal.
«Si plantear un incidente es cosa seria, plantearlo apoyándose en un modelo de IA… es mucho más serio. Debe acentuarse el propio juicio, no relajarse», sentenció el magistrado, recordando que la tecnología puede ser auxiliar, pero jamás exime al profesional de su deber de verificar la ley.
Alerta al Colegio de Abogados
La resolución no quedó puertas adentro del juzgado. Lisandrello ordenó comunicar la decisión a la Delegación del Colegio de Abogados de Villa Constitución y, por su intermedio, al Directorio del Colegio de Abogados de Rosario.
El objetivo es que el Tribunal de Ética y los distintos institutos tomen razón de esta «nueva arista de complicación»: el riesgo de que la justicia se vea empantanada por escritos generados automáticamente sin control humano suficiente.
