Deloitte Australia admitió haber usado un sistema de IA generativa en un informe oficial que contenía citas falsas y referencias inventadas, y acordó devolver parte de los US$290.000 pagados por el gobierno.
Deloitte Australia acordó devolver parte de los 440.000 dólares australianos (US$290.000) que recibió del gobierno por un informe plagado de errores aparentemente generados por inteligencia artificial, incluidas citas falsas de un tribunal federal y referencias a investigaciones académicas inexistentes.
El documento de 237 páginas, elaborado para el Departamento de Empleo y Relaciones Laborales, fue publicado inicialmente en julio en el sitio web de la entidad. Una versión corregida apareció el viernes pasado, después de que Chris Rudge, investigador de derecho de salud y bienestar de la Universidad de Sídney, advirtiera a los medios que el reporte estaba “lleno de referencias inventadas”.
El departamento confirmó el martes que Deloitte había revisado el documento y “verificado que algunas notas al pie y referencias eran incorrectas”. En consecuencia, la firma “acordó reembolsar el último pago bajo su contrato”, añadió la autoridad. El monto exacto será revelado tras completarse la devolución.
La versión actualizada del informe incluye una advertencia sobre el uso del sistema de lenguaje generativo Azure OpenAI en su elaboración, además de eliminar las citas falsas atribuidas a un juez federal y las referencias a trabajos inexistentes. Deloitte señaló que la nueva versión, fechada el 26 de septiembre, reemplaza a la publicada en julio, y afirmó que las correcciones “no afectan el contenido sustantivo, los hallazgos ni las recomendaciones del informe”.
El caso salió a la luz pública a fines de agosto, cuando el Australian Financial Review informó sobre los errores, citando a Rudge como el investigador que detectó las aparentes inexactitudes generadas por IA. Según explicó a la agencia AP, descubrió el problema al encontrar una cita que atribuía a una profesora de la Universidad de Sídney la autoría de un libro inexistente. “Supe instantáneamente que o bien era una alucinación de IA o el secreto mejor guardado del mundo, porque jamás había oído hablar de ese libro”, dijo Rudge.
Siga las historias sobre inteligencia artificial en nuestra sección especializada
Las grandes consultoras, incluidas Deloitte, PwC, EY y KPMG, han destinado cientos de millones de dólares a desarrollar modelos de IA propios. En septiembre, Deloitte anunció un plan de inversión de US$3.000 millones en inteligencia artificial generativa hasta el año fiscal 2030.
El lunes, la firma tecnológica Anthropic reveló una alianza con Deloitte para ofrecer su modelo Claude a más de 470.000 profesionales de la consultora.
En junio, el regulador contable británico Financial Reporting Council advirtió que las firmas del Big Four no estaban supervisando adecuadamente el impacto de la IA y la automatización en la calidad de sus auditorías.
Aunque Deloitte devolverá el último pago correspondiente al contrato, la senadora Barbara Pocock, portavoz del Partido Verde Australiano para el sector público, sostuvo que la compañía debería reembolsar el monto total de US$290.000. “Deloitte usó mal la IA, de forma muy inapropiada: citó erróneamente a un juez y empleó referencias inexistentes”, declaró a la cadena pública ABC. “Son cosas por las que un estudiante universitario de primer año estaría en serios problemas”.
Un portavoz de Deloitte Australia indicó a la agencia AP que “el asunto ha sido resuelto directamente con el cliente”.