Mathematiker wirft OpenAI vor, ihn über Training mit privaten Chats belogen zu haben
Andreas Thom, Gruppentheoretiker an der TU Dresden, hat öffentlich hinterfragt, ob seine privaten ChatGPT-Sitzungen in das OpenAI-Ergebnis eingeflossen sind, das zur ersten bekannten nicht-sofischen Gruppe führte – eines von zehn Problemen, die OpenAI zufolge am 1. August von Astra gelöst wurden.
In einem ausführlichen dreiteiligen Beitrag auf Mathstodon schrieb Thom, dass er kurz nach der Ankündigung eine E-Mail an die OpenAI-Forscher Mark Sellke und Sebastien Bubeck geschickt habe. Thom und ein Dresdner Kollege hatten monatelang daran gearbeitet, das Expander-Matching-Problem und Erweiterungen seiner Arbeit mit Gabor Kun mithilfe von ChatGPT zu bearbeiten. Dabei wollten sie wissen, ob diese Gespräche in die Trainingsdaten eingeflossen waren und ob das System während der Arbeit am Beweis darauf zugreifen konnte.
Sellkes Antwort lautete laut Thom lediglich, dass dies nicht geschehen sei. Thom argumentiert jedoch, die Aussage habe sich nur auf den direkten Zugriff bezogen. Er bezeichnet die Antwort deshalb inzwischen als ungerechtfertigt weit gefasst und im Nachhinein als unehrlich.
Die Diskussion kam diese Woche im Zusammenhang mit OpenAIs Ankündigung zu Navier-Stokes erneut auf. Das Unternehmen erklärte, dass weder seine Forscher noch andere Mitarbeiter die Arbeit des Duos vor der Veröffentlichung gesehen hätten und dass kein Zugriff auf spezifische Nutzerdaten erfolgt sei. Gleichzeitig räumte OpenAI ein, dass sich nicht ausschließen lasse, dass anonymisierte Daten aus der Nutzung seiner Produkte zur Verbesserung der Modelle beigetragen haben könnten.
Zwei weitere Punkte stützen Thoms Argumentation. Er deaktivierte die Option zur Modellverbesserung am 29. Juni. Diese Einstellung lässt sich von Nutzern zwar ändern, gibt jedoch keinen Aufschluss darüber, was mit bereits geführten Chats geschah. Zudem bevorzugten die meisten Forscher Quanten-Spielmethoden gegenüber dem Ansatz, den Thom gemeinsam mit Kun verfolgte. Daher zeigte er sich überrascht, dass Astra denselben Ansatz wählte.
Zum Zeitpunkt der Veröffentlichung hat Thom noch keine Beweise vorgelegt. Stattdessen fordert er OpenAI auf, die Grundlage für seine Zurückweisung offenzulegen.
OpenAI hat sich bislang nicht öffentlich zu seinen Beiträgen geäußert.
Quelle(n)
@andreasthom auf mathstodon via @ValerioCapraro auf X
Titelbild von Levart_Photographer auf Unsplash
Als bevorzugte Quelle auf Google hinzufügen
