La demanda presentada por Arve Hjalmar Holmen contra OpenAI, tras las acusaciones falsas de ChatGPT, pone de relieve las problemáticas sobre la precisión y fiabilidad de la información proporcionada por los modelos de lenguaje de inteligencia artificial.

El chatbot acusó a Holmen de haber asesinado a sus dos hijos y de intentar matar a un tercero. Además, indicó que había sido condenado a 21 años de prisión en Noruega. La información arrojada por el chat fue a consecuencia de una "alucinación" del sistema, que mezclo información verdadera de la vida de Holmen con información falsa.

Holmen presentó una demanda contra OpenAI por difamación y difusión de información falsa. El abogado del demandante hace referencia al Reglamento General de Protección de Datos, donde se establece que los datos personales deben ser precisos, y que los usuarios tienen derecho a modificarlos. Se exige una multa a OpenAI y la eliminación de la información difamatoria sobre Holmen.

El incidente ocurrió cuando ChatGPT aún no tenía acceso a información en tiempo real y se basaba en bases de datos con información limitada. Los modelos de IA generativa, en ocasiones, pueden generar respuestas incorrectas o "alucinar" información falsa.