La aplicación tecnológica creó automáticamente una historia sobre académicos legales que habían acosado sexualmente a alguien vinculando a un profesor de derecho Jonathan Turley, quien nunca ha sido denunciado al respecto.

Según prensa internacional, el profesor de derecho Jonathan Turley recibió un correo electrónico preocupante. Como parte de un estudio de investigación, un colega abogado en California le pidió al chatbot de IA ChatGPT que generara una lista de académicos legales que habían acosado sexualmente a alguien. El nombre de Turley estaba en la lista.

“El chatbot, creado por OpenAI, dijo que Turley había hecho comentarios sexualmente sugestivos e intentó tocar a un estudiante durante un viaje escolar a Alaska, citando un artículo de marzo de 2018 en The Washington Post como la fuente de la información. El problema: no existía tal artículo. Nunca había habido un viaje de estudios a Alaska. Y Turley dijo que nunca lo habían acusado de acosar a un estudiante”.

Como comentarista habitual en los medios, Turley a veces pedía correcciones en las noticias. Pero esta vez, no había ningún periodista o editor a quien llamar, y no había forma de corregir el registro.

“Fue bastante escalofriante”, dijo en una entrevista con The Post. “Una acusación de este tipo es increíblemente dañina”.

La experiencia de Turley es un estudio de caso sobre las trampas de la última ola de bots de lenguaje, que han captado la atención general con su capacidad para escribir código de computadora, elaborar poemas y mantener conversaciones inquietantemente humanas. Pero esta creatividad también puede ser motor de afirmaciones erróneas; los modelos pueden tergiversar hechos clave con gran floritura, incluso fabricando fuentes primarias para respaldar sus afirmaciones.

A medida que el software de inteligencia artificial en gran medida no regulado, como ChatGPT, Bing de Microsoft y Bard de Google, comienza a incorporarse en la web, su propensión a generar falsedades potencialmente dañinas genera preocupaciones sobre la difusión de información errónea y preguntas novedosas sobre quién es responsable cuando los chatbots engañan.