Derivate
OpenAI's Projekt Lily: Auftragnehmer überprüfen ChatGPT-Nutzerunterhaltungen zur Verbesserung
OpenAI hat eine interne Initiative namens Projekt Lily gestartet und hunderte von Auftragnehmern eingestellt, um echte Nutzerunterhaltungen mit ChatGPT zu überprüfen. Ziel dieser Initiative ist es, die Antworten des Chatbots zu verbessern, insbesondere indem seine Neigung zu übermäßiger Schmeichelei und zu menschlichem Verhalten adressiert wird.
Einem Bericht von 404 Media zufolge werden die Auftragnehmer über Plattformen wie Crossing Hurdles und Mercor rekrutiert und verdienen über 50 Dollar pro Stunde für ihre Arbeit. Nutzeranfragen werden vor der Überprüfung durch ein Datenschutzfiltermodell verarbeitet, das darauf abzielt, personenbezogene Daten zu entfernen. Interne Dokumente deuten jedoch darauf hin, dass dieser Filter nicht narrensicher ist, sodass sensible Informationen möglicherweise durchrutschen können.
OpenAI bietet den Nutzern die Möglichkeit, sich von der Verwendung ihrer Gespräche für das Training des Modells abzumelden, jedoch gilt dies nur für zukünftige Interaktionen. Gespräche, die vor der Abmeldung stattfanden, bleiben zur Überprüfung zugänglich, was erhebliche Datenschutzbedenken für Nutzer aufwirft, die sich möglicherweise nicht bewusst sind, dass echte Personen ihre Chats bewerten.
Der Umfang dieser Initiative ist bemerkenswert, da ChatGPT über 900 Millionen Nutzer hat, die die Plattform für verschiedene sensible Anfragen nutzen, von medizinischen Ratschlägen bis hin zu emotionaler Unterstützung. Frühere Prüfungen durch Regulierungsbehörden, einschließlich eines vorübergehenden Verbots in Italien aufgrund von Datenschutzproblemen, verdeutlichen die anhaltenden Herausforderungen, mit denen OpenAI in Bezug auf Datenpraktiken konfrontiert ist.
Während sich Projekt Lily entfaltet, bleiben die Auswirkungen auf den Datenschutz und das Vertrauen der Nutzer entscheidend, was die Nutzer dazu anregt, ihre Einstellungen zu überprüfen und zu verstehen, wie ihre Daten möglicherweise verwendet werden.
FAQ
Was ist Projekt Lily?
Projekt Lily ist eine interne Initiative von OpenAI, die die Einstellung von Auftragnehmern umfasst, um echte Benutzerkonversationen mit ChatGPT zu überprüfen, um die Antworten des Chatbots zu verbessern.
Wie werden Auftragnehmer für Projekt Lily ausgewählt?
Auftragnehmer werden über Plattformen wie Crossing Hurdles und Mercor rekrutiert und verdienen über 50 $ pro Stunde für ihre Arbeit bei der Überprüfung von Benutzerkonversationen.
Welche Maßnahmen gibt es, um die Privatsphäre der Benutzer während dieses Überprüfungsprozesses zu schützen?
Benutzeranfragen werden durch ein Privacy Filter-Modell verarbeitet, das darauf abzielt, persönlich identifizierbare Informationen zu entfernen, bevor sie von Auftragnehmern überprüft werden. Dieser Filter ist jedoch nicht narrensicher.
Können Benutzer ablehnen, dass ihre Gespräche überprüft werden?
Ja, OpenAI bietet Benutzern die Möglichkeit, abzulehnen, dass ihre Gespräche für das Training des Modells verwendet werden, jedoch gilt dies nur für zukünftige Interaktionen. Frühere Gespräche bleiben zur Überprüfung zugänglich.
Welche Auswirkungen hat Projekt Lily auf das Vertrauen der Benutzer?
Die Initiative wirft erhebliche Datenschutzbedenken und Auswirkungen auf das Vertrauen der Benutzer auf, insbesondere angesichts der sensiblen Natur der Anfragen, die von Benutzern gestellt werden, und des Potenzials, dass sensible Informationen offengelegt werden.