Gerichtliche Verfügung: OpenAI darf Nutzer-Konversationen mit ChatGPT nicht mehr löschen

OpenAI darf die Konversationen aus der Nutzung von APIs und ChatGPT aufgrund einer gerichtlichen Verfügung in den USA vorläufig nicht mehr löschen.

In der Folge muss OpenAI unfreiwillig Milliarden von Konversationen mit ChatGPT und über die API vorläufig aufbewahren.

OpenAI kann damit viele gesetzliche und vertragliche Pflichten nicht mehr einhalten.

Hintergrund ist ein Rechtsstreit zwischen der New York Times und OpenAI an einem Gericht in New York.

Die New York Times hatte Ende 2023 gegen OpenAI wegen der Verwendung von Zeitungsartikeln für das Training von KI-Modellen geklagt.

13. Mai 2025: Gericht verfügt Aufbewahrung aller «Output Log Data»

Im Rechtsstreit steht der Vorwurf im Raum, OpenAI habe «Output Logs» bzw. «User Conversations» gelöscht, welche die New York Times für das Verfahren für wichtig hält:

«[In] the immediate months after The Times filed its initial Complaint in December 2023, OpenAI had been destroying █████ of all user conversation data for its ChatGPT Free, Plus, and Pro products.»

Und:

«Furthermore, OpenAI has refused to provide […] the volume of output log data OpenAI has destroyed (or retained) for its other products at issue in the litigation, including the API and ChatGPT Enterprise products.»

In der Folge verfügte die zuständige Richterin Ona T. Wang am 13. Mai 2025, dass OpenAI alle «Output Log Data» aufbewahren muss, die eigentlich gelöscht würden – und das ausdrücklich unabhängig von Gesetzen und Regulierungen für den Datenschutz:

«OpenAI is NOW DIRECTED to preserve and segregate all output log data that would otherwise be deleted on a going forward basis until further order of the Court (in essence, the output log data that OpenAI has been destroying), whether such data might be deleted at a user’s request or because of ‹numerous privacy laws and regulations› that might require OpenAI to do so.»

14. Mai 2025: Argumente von OpenAI gegen die Pflicht zur Aufbewahrung

Wie weitreichend die gerichtliche Verfügung ist, zeigt ein Schreiben vom 14. Mai 2025 von OpenAI an Richterin Wang:

• OpenAI geht davon aus, rechtliche, vertragliche und weitere Pflichten gegenüber hunderten Millionen von Nutzern in aller Welt zu verletzen («The Order requires OpenAI to disregard legal, contractual, regulatory, and ethical commitments to hundreds of millions of people, businesses, educational institutions, and governments around the world […].»)
• OpenAI erklärte, man habe in der Folge bereits zig Milliarden an Nutzer-Konversationen aufbewahrt anstatt sie wie vorgesehen zu löschen («OpenAI has retained tens of billions of user conversations.»)
• OpenAI erklärte weiter, man habe Nutzer-Konversationen aus dem einzigen Grund gelöscht, «langjährige Datenschutzpraktiken» einzuhalten («OpenAI has not deleted user conversation data for any reason other than to comply with its longstanding data practices […].»)

Im Schreiben betonte OpenAI, die gerichtliche Verfügung einhalten zu wollen, was allerdings aufgrund der komplexen Infrastruktur anspruchsvoll sei:

«OpenAI is taking the steps it can to comply with the Order. To be clear, compliance is not a switch-flip: OpenAI’s data infrastructure is complex and retaining data that is otherwise slated for deletion requires significant engineering work, infrastructure changes, and compute resources. OpenAI has already commenced that work in light of the Order’s requirements, though certain aspects of the company’s services pose unique technical and infrastructural challenges. […]»

Gleichzeitig beantragte OpenAI die Aufhebung der gerichtlichen Verfügung.

OpenAI begründete den Antrag unter anderem mit den Interessen der Nutzer, bezeichnete aber auch Behauptungen der New York Times als falsch:

«OpenAI […] requests that the Order be reconsidered because it is contrary to law, relies on News Plaintiffs› factual misstatements, and severely prejudices OpenAI and its users.»

Und:

«OpenAI now has to disregard its users’ privacy interests based on Plaintiffs’ unsupported speculation about what might exist, even though they have not even begun to analyze what does exist. Plaintiffs are well aware that wholesale preservation will not materially advance their claims because OpenAI is retaining tens of billions of conversations—i.e., far more than any expert could review, and an amount Plaintiffs recognize must be analyzed through sampling. Plaintiffs have not presented any reason to believe that the data covered by the Order will provide some unique value that they cannot derive from the data OpenAI already retains. Under these circumstances, requiring OpenAI to disregard the privacy interests of its users is wholly disproportionate to the needs of the case and unwarranted.»

OpenAI betonte, dass man Nutzer-Konversationen aus einem einfachen Grund nicht aufbewahre:

«[Millions] of individuals, businesses, and other organizations use OpenAI’s services in a way that implicates uniquely private information—including sensitive personal information, proprietary business data, and internal government documents.»

OpenAI betonte ferner den Schaden durch die gerichtliche Verfügung für das eigene Unternehmen und die vielen Nutzer:

«The Order prohibits OpenAI from honoring this commitment by (e.g.) forbidding OpenAI from complying with a user’s attempt to delete a conversation about a family member’s health condition or immigration status. That will harm not only OpenAI, but also the hundreds of millions of users who rely on its services. That counsels in favor of reconsideration, particularly when the Order requires preservation of data that will not actually advance this litigation.»

16. Mai 2025: Gericht lehnt Antrag von OpenAI ab

Der Antrag von OpenAI wurde von Richterin Wang am 16. Mai 2025 abgelehnt:

«The Court is in receipt of OpenAI’s motion for reconsideration […] order directing Defendant OpenAI to preserve and segregate all output log data that would otherwise be deleted on a going forward basis until further order of the Court […]. OpenAI’s motion is DENIED without prejudice to renewal.»

Und:

«The parties should come to the May 27 Spoliation Conference prepared to discuss (1) the underlying assumptions identified above related to the total pool of output log data and the pool of deleted output log data with respect to effects on sampling and (2) the proportionality of preserving and segregating output log data for purposes of this litigation on a going forward basis. The Court appreciates that OpenAI has already begun to take necessary steps to comply with the May 13 Preservation Order to preserve and segregate output log data for purposes of this litigation, notwithstanding the technological difficulties it may entail, and the contractual obligations it may have with its users. The parties are strongly encouraged to continue to meet and confer on this issue, particularly with respect to the technological challenges of preservation and segregation. The parties are also strongly encouraged to include in their briefing proposals to resolve this issue, including potential limitations on going forward preservation or a means to determine whether the retained output logs marked for deletion differ in any material way from the retained logs.»

Fazit: Neues relevantes Risiko bei der Nutzung von Dritt-Diensten

Für sämtliche Nutzer von OpenAI-Diensten in aller Welt, unter anderem für alle Nutzer von ChatGPT, bedeutet die gerichtliche Verfügung, dass ihre Nutzer-Konversationen vorläufig nicht mehr gelöscht werden.

Die Aufbewahrung und Löschung der eigenen Daten bei Dritten, deren Dienste genutzt werden, ist ein zentraler Punkt bei der Gewährleistung der Datenschutz-Compliance.

Behörden, Organisationen und Unternehmen, die OpenAI-Dienste nutzen, stehen vor dem Problem, eigene rechtliche und vertragliche Pflichten allenfalls nicht mehr einhalten zu können.

Das Risiko, dass ein Anbieter wie OpenAI aufgrund einer behördlichen oder gerichtlichen Verfügung bestimmte Daten aller Nutzer aufbewahren muss bzw. nicht mehr löschen darf, war bislang allerdings kein gängiger Bestandteil von Risikobeurteilungen. Das wird sich jetzt ändern müssen, nicht nur mit Blick in die USA.