El abogado presentó media docena de precedentes falsos generados por el sistema de Chat GPT para apoyarse en un caso y el resultado no fue el esperado.

Ni ChatGPT, ni ningún sistema similar basado en inteligencia artificial es infalible. Los científicos e investigadores ya han advertido sobre las deficiencias de esta tecnología, que parece tener respuesta a todo.

OpenAI, es la desarrolladora de la máquina parlante pero también avisa al usuario de que esta puede cometer errores, es decir que la propia IA informa de posibles errores en el momento que brinda respuestas.

Es por ello, que se debe ser muy cuidadoso y responsable cuando se recurra a esta herramienta para generar contenido. El reparo debería ser mayor si una profesión depende de esto y no se trata de un pasatiempo.

Steven A. Schwartz, es abogado de Nueva York y no dudó en utilizar esta herramienta para buscar precedentes que den sustento a un caso en el que el letrado se enfrentaba a la aerolínea estadounidense Avianca.

El caso contra Avianca

Según informó el diario ‘The New York Times’, la demanda contra la empresa aérea fue presentada en 2019 por el pasajero Roberto Mata, el cual afirmaba que durante un vuelo a Nueva York había sufrido una lesión en una pierna debido al impacto de un carrito metálico.
Avianca solicitó al juez encargado del caso la desestimación.

El abogado Schwartz, quien tiene una experiencia de tres décadas en su profesión, contratacó con un escrito de 10 páginas que citaba más de media docena de decisiones judiciales relevantes.

El problema se presentó cuando el magistrado y la defensa de la aerolínea no pudieron constatar la información vertida en el escrito. Lo cierto es que la máquina, y no es la primera vez que ocurre, había inventado todo.

Ante el tribunal de Manhattan y mediante una declaración jurada el abogado se defendió ante el juez encargado del caso aduciendo que no tenía intención de engañar al tribunal. En la misma línea, Schwartz afirmó que nunca había usado ChatGPT, “por lo tanto, no estaba al tanto de la posibilidad de que su contenido pudiera ser falso”, afirmó.

El juez que ahora lleva el caso del abogado, señaló que se encontraba ante una situación “sin precedentes” y destacó que el informe presentado por el abogado estaba plagado de “decisiones judiciales falsas, con citas falsas y referencias falsas”. Ahora Schwartz puede sufrir una sanción que será debatida en audiencia el próximo 8 de junio.

}Fuente: ABC