{"id":30738,"date":"2025-09-23T11:38:38","date_gmt":"2025-09-23T18:38:38","guid":{"rendered":"https:\/\/peninsula360press.com\/?p=30738"},"modified":"2025-09-23T11:38:38","modified_gmt":"2025-09-23T18:38:38","slug":"invenciones-de-un-abogado-con-chatgpt","status":"publish","type":"post","link":"https:\/\/peninsula360press.com\/en\/invenciones-de-un-abogado-con-chatgpt\/","title":{"rendered":"California impone multa hist\u00f3rica por las invenciones de un abogado con ChatGPT"},"content":{"rendered":"
\"Un
Un abogado de California debe pagar una multa de 10 mil d\u00f3lares por presentar una apelaci\u00f3n ante un tribunal estatal llena de citas generadas por ChatGPT.<\/figcaption><\/figure>\n

Por Khari Johnson. CalMatters<\/a>. Peninsula 360 Press.<\/strong><\/p>\n

Un abogado de California debe pagar una multa de 10 mil d\u00f3lares por presentar una apelaci\u00f3n ante un tribunal estatal llena de citas falsas generadas por la herramienta de inteligencia artificial ChatGPT.<\/span><\/p>\n

La multa parece ser la mayor impuesta por un tribunal de California por invenciones de inteligencia artificial y se acompa\u00f1a de una opini\u00f3n contundente que declara que 21 de las 23 citas de casos citados en el escrito inicial del abogado son falsas. Tambi\u00e9n se\u00f1ala que numerosos tribunales federales y de otros estados han confrontado a abogados por citar autoridad legal falsa.<\/span><\/p>\n

“Por lo tanto, publicamos esta opini\u00f3n como advertencia”, continu\u00f3. “En resumen, ning\u00fan escrito, alegato, moci\u00f3n ni ning\u00fan otro documento presentado ante un tribunal debe contener citas, ya sean proporcionadas por IA generativa o por cualquier otra fuente, que el abogado responsable de presentar el alegato no haya le\u00eddo y verificado personalmente”.<\/span><\/p>\n

El dictamen, emitido hace 10 d\u00edas en el Tribunal de Apelaciones del Segundo Distrito de California, es un claro ejemplo de por qu\u00e9 las autoridades judiciales del estado se apresuran a regular el uso de la IA en el poder judicial.\u00a0<\/span><\/p>\n

El Consejo Judicial del estado emiti\u00f3 hace dos semanas directrices que exigen a los jueces y al personal judicial prohibir la IA generativa o adoptar una pol\u00edtica de uso de la misma antes del 15 de diciembre. Mientras tanto, el Colegio de Abogados de California est\u00e1 considerando la posibilidad de reforzar su c\u00f3digo de conducta para incluir diversas formas de IA, tras una solicitud presentada por la Corte Suprema de California el mes pasado.<\/span><\/p>\n

El abogado del \u00e1rea de Los \u00c1ngeles multado la semana pasada, Amir Mostafavi, declar\u00f3 ante el tribunal que no ley\u00f3 el texto generado por el modelo de IA antes de presentar la apelaci\u00f3n en julio de 2023, meses despu\u00e9s de que OpenAI promocionara ChatGPT como capaz de aprobar el examen de abogac\u00eda.\u00a0<\/span><\/p>\n

Un panel de tres jueces lo mult\u00f3 por presentar una apelaci\u00f3n fr\u00edvola, violar las normas judiciales, citar casos falsos y malgastar el tiempo del tribunal y el dinero de los contribuyentes, seg\u00fan el dictamen.<\/span><\/p>\n

Mostafavi declar\u00f3 a CalMatters que redact\u00f3 la apelaci\u00f3n y luego us\u00f3 ChatGPT para intentar mejorarla. A\u00f1adi\u00f3 que no sab\u00eda que a\u00f1adir\u00eda citas de casos o que inventar\u00eda informaci\u00f3n.<\/span><\/p>\n

Considera poco realista esperar que los abogados dejen de usar la IA. Esta se ha convertido en una herramienta importante justo cuando las bases de datos en l\u00ednea reemplazaron en gran medida a las bibliotecas jur\u00eddicas y, hasta que los sistemas de IA dejen de generar informaci\u00f3n falsa, recomienda a los abogados que la usan que act\u00faen con cautela.<\/span><\/p>\n

“Mientras tanto, tendremos v\u00edctimas, da\u00f1os y estragos”, dijo. “Espero que este ejemplo ayude a otros a no caer en el mismo l\u00edo. Yo estoy pagando el precio”.<\/span><\/p>\n

La multa impuesta a Mostafavi es la sanci\u00f3n m\u00e1s costosa impuesta a un abogado por un tribunal estatal de California y una de las multas m\u00e1s altas jam\u00e1s impuestas por el uso de IA por parte de abogados, seg\u00fan Damien Charlotin, quien imparte un curso sobre IA y derecho en una escuela de negocios de Par\u00eds.\u00a0<\/span><\/p>\n

Charlotin rastrea casos de abogados que citan casos falsos, principalmente en Australia, Canad\u00e1, Estados Unidos y el Reino Unido.<\/span><\/p>\n

En un caso ampliamente publicitado en mayo, un juez de distrito de EE. UU. en California orden\u00f3 a dos bufetes de abogados pagar 31 mil 100 d\u00f3lares en honorarios a los abogados defensores y al tribunal por los costos asociados con el uso de “investigaci\u00f3n falsa generada por IA”.\u00a0<\/span><\/p>\n

En ese fallo, el juez describi\u00f3 haberse sentido enga\u00f1ado, dijo que casi citaron material falso en una orden judicial y afirm\u00f3: “Se necesita una fuerte disuasi\u00f3n para asegurar que los abogados no caigan en este atajo f\u00e1cil”.<\/span><\/p>\n

Charlotin cree que los tribunales y el p\u00fablico deber\u00edan esperar un aumento exponencial de estos casos en el futuro. Cuando empez\u00f3 a rastrear los expedientes judiciales relacionados con IA y casos falsos a principios de este a\u00f1o, se encontraba con unos pocos casos al mes. Ahora ve unos pocos casos al d\u00eda. Los modelos de lenguaje de gran tama\u00f1o presentan con seguridad falsedades como hechos, sobre todo cuando no hay pruebas que las respalden.<\/span><\/p>\n

“Cuanto m\u00e1s dif\u00edcil sea tu argumento legal, m\u00e1s tender\u00e1 el modelo a alucinar, porque intentar\u00e1 complacerte”, dijo. “Ah\u00ed es donde entra en juego el sesgo de confirmaci\u00f3n”.<\/span><\/p>\n

Un an\u00e1lisis realizado en mayo de 2024 por RegLab de la Universidad de Stanford revel\u00f3 que, si bien tres de cada cuatro abogados planean utilizar IA generativa en su pr\u00e1ctica, algunas formas de IA generan alucinaciones en una de cada tres consultas. Detectar material falso citado en documentos legales podr\u00eda complicarse a medida que los modelos aumentan de tama\u00f1o.<\/span><\/p>\n

Otro rastreador de casos en los que los abogados citan una autoridad legal inexistente debido al uso de IA identifica 52 casos similares en California y m\u00e1s de 600 en todo el pa\u00eds. Se espera que esta cifra aumente pr\u00f3ximamente, ya que la innovaci\u00f3n en IA est\u00e1 superando la formaci\u00f3n de los abogados, afirm\u00f3 Nicholas Sanctis, estudiante de derecho de la Facultad de Derecho de la Universidad Capital de Ohio.<\/span><\/p>\n

Jenny Wondracek, quien dirige el proyecto de seguimiento, dijo que espera que esta tendencia empeore porque todav\u00eda se encuentra regularmente con abogados que no saben que la IA inventa cosas o creen que las herramientas de tecnolog\u00eda legal pueden eliminar todo el material falso o enga\u00f1oso generado por los modelos de lenguaje.<\/span><\/p>\n

“Creo que ver\u00edamos una reducci\u00f3n si (los abogados) simplemente entendieran los conceptos b\u00e1sicos de la tecnolog\u00eda”, dijo.<\/span><\/p>\n

Al igual que Charlotin, sospecha que hay m\u00e1s casos inventados generados por IA en los expedientes judiciales estatales que en los federales, pero la falta de m\u00e9todos de presentaci\u00f3n estandarizados dificulta su verificaci\u00f3n. Afirm\u00f3 que encuentra casos falsos con mayor frecuencia entre abogados sobrecargados o personas que optan por representarse a s\u00ed mismos en los tribunales de familia.<\/span><\/p>\n

Sospecha que la cantidad de argumentos presentados por abogados que utilizan IA y citan casos falsos seguir\u00e1 aumentando, pero a\u00f1adi\u00f3 que no solo los abogados se dedican a esta pr\u00e1ctica. En las \u00faltimas semanas, ha documentado tres casos de jueces que citan autoridad legal falsa en sus decisiones.<\/span><\/p>\n

Mientras California considera c\u00f3mo tratar la IA generativa y las citaciones de casos falsos, Wondracek dijo que pueden considerar enfoques adoptados por otros estados, como suspensiones temporales, exigir a los abogados que sean descubiertos que tomen cursos para entender mejor c\u00f3mo usar la IA de forma \u00e9tica, o exigirles que ense\u00f1en a los estudiantes de derecho c\u00f3mo pueden evitar cometer el mismo error.<\/span><\/p>\n

Mark McKenna, codirector del Instituto de Tecnolog\u00eda, Derecho y Pol\u00edtica de la UCLA, elogi\u00f3 multas como la impuesta a Mostafavi por castigar a los abogados por “abdicar de su responsabilidad como parte que representa a alguien”. Cree que el problema “empeorar\u00e1 antes de mejorar”, debido a la prisa de las facultades de derecho y los bufetes privados por adoptar la IA sin considerar la forma adecuada de utilizarla.<\/span><\/p>\n

Andrew Selbst, profesor de la Facultad de Derecho de la UCLA, coincide, se\u00f1alando que los auxiliares que trabajan para jueces son reci\u00e9n graduados de la facultad de derecho, y que los estudiantes reciben un bombardeo constante de mensajes que les obligan a usar IA o se quedan atr\u00e1s. Los educadores y otros profesionales reportan sentir presiones similares.<\/span><\/p>\n

“Esto nos lo est\u00e1n imponiendo a todos”, dijo. “Se est\u00e1 imponiendo en empresas, escuelas y muchos otros lugares, y a\u00fan no hemos afrontado las consecuencias”.<\/span><\/p>\n

You may be interested in:<\/strong> California afirma que no hay IA de alto riesgo en su gobierno, pese a amplia evidencia de lo contrario<\/a><\/em><\/p>","protected":false},"excerpt":{"rendered":"

Por Khari Johnson. CalMatters. Pen\u00ednsula 360 Press. Un abogado de California debe pagar una multa de 10 mil d\u00f3lares por presentar una apelaci\u00f3n ante un tribunal estatal llena de citas falsas generadas por la herramienta de inteligencia artificial ChatGPT. La multa parece ser la mayor impuesta por un tribunal de California por invenciones de inteligencia […]<\/p>","protected":false},"author":4,"featured_media":30739,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[4],"tags":[],"class_list":{"0":"post-30738","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-technology"},"_links":{"self":[{"href":"https:\/\/peninsula360press.com\/en\/wp-json\/wp\/v2\/posts\/30738","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/peninsula360press.com\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/peninsula360press.com\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/peninsula360press.com\/en\/wp-json\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/peninsula360press.com\/en\/wp-json\/wp\/v2\/comments?post=30738"}],"version-history":[{"count":2,"href":"https:\/\/peninsula360press.com\/en\/wp-json\/wp\/v2\/posts\/30738\/revisions"}],"predecessor-version":[{"id":30741,"href":"https:\/\/peninsula360press.com\/en\/wp-json\/wp\/v2\/posts\/30738\/revisions\/30741"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/peninsula360press.com\/en\/wp-json\/wp\/v2\/media\/30739"}],"wp:attachment":[{"href":"https:\/\/peninsula360press.com\/en\/wp-json\/wp\/v2\/media?parent=30738"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/peninsula360press.com\/en\/wp-json\/wp\/v2\/categories?post=30738"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/peninsula360press.com\/en\/wp-json\/wp\/v2\/tags?post=30738"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}