Proyecto Lily de OpenAI: Contratistas Revisan Conversaciones de Usuarios de ChatGPT para Mejorar

OpenAI ha lanzado una iniciativa interna conocida como Proyecto Lily, contratando a cientos de contratistas para revisar conversaciones reales de usuarios con ChatGPT. Esta iniciativa tiene como objetivo mejorar las respuestas del chatbot, especialmente abordando sus tendencias hacia la adulación excesiva y un comportamiento demasiado humano.

Según un informe de 404 Media, los contratistas son reclutados a través de plataformas como Crossing Hurdles y Mercor, ganando más de $50 por hora por su trabajo. Los mensajes de los usuarios son procesados a través de un modelo de Filtro de Privacidad antes de ser revisados, con la intención de eliminar información personal identificable. Sin embargo, documentos internos indican que este filtro no es infalible, lo que permite que detalles sensibles puedan escapar.

OpenAI ofrece a los usuarios la opción de optar por no participar en el uso de sus conversaciones para el entrenamiento del modelo, pero esto solo se aplica a interacciones futuras. Las conversaciones que ocurrieron antes de optar por no participar siguen siendo accesibles para revisión, lo que plantea preocupaciones significativas sobre la privacidad para los usuarios que pueden no ser conscientes de que personas reales están evaluando sus chats.

La magnitud de esta iniciativa es notable, ya que ChatGPT cuenta con más de 900 millones de usuarios que utilizan la plataforma para diversas consultas sensibles, desde asesoramiento médico hasta apoyo emocional. La supervisión previa por parte de reguladores, incluyendo una prohibición temporal en Italia por problemas de privacidad, destaca los desafíos continuos que enfrenta OpenAI en relación con las prácticas de manejo de datos.

A medida que avanza el Proyecto Lily, las implicaciones para la privacidad y la confianza del usuario siguen siendo críticas, lo que lleva a los usuarios a revisar sus configuraciones y entender cómo puede ser utilizado su datos.