Advertencia en Rosario: abogado presentó jurisprudencia falsa generada por IA

La Sala II de la Cámara de Apelación en lo Civil y Comercial de Rosario advirtió a un abogado por presentar un escrito con citas jurisprudenciales inexistentes generadas por inteligencia artificial, sin verificar su autenticidad. El hecho se produjo en el marco de un expediente por daños y perjuicios derivados de un accidente de tránsito, donde se discutía el incumplimiento de un convenio con una aseguradora.

El juez Oscar Puccinelli detectó que las referencias jurisprudenciales aportadas por el abogado de la parte actora no podían ser corroboradas. Tras requerir explicaciones, el letrado admitió haber usado una herramienta de IA generativa y haber incluido las citas sin chequearlas. El magistrado señaló que esta conducta, aunque de buena fe, compromete la responsabilidad profesional del abogado, ya que no puede delegarse el deber de verificación en herramientas tecnológicas.

El fallo destacó que los sistemas de IA generativa son experimentales y pueden producir «alucinaciones», es decir, datos falsos presentados como reales. Además, se remarcó que la probidad profesional exige veracidad y rigurosidad en las presentaciones judiciales.

Si bien no se impuso sanción directa, el tribunal decidió notificar al Colegio de Abogados de Rosario para que tome medidas preventivas y concientice a sus matriculados sobre los riesgos de utilizar inteligencia artificial sin controles adecuados en el ejercicio profesional.