„Error saving draft“

Ausgangslage ist in meinem Fall ein Custom GPT mit einem API Call via Action und 8 Dokumenten mit einer Gesamtgröße von knapp über 31MB. Da ich vermutet habe, dass ich nicht der einzige bin mit diesem Problem, habe ich mich auf die Suche gemacht nach einer Lösung.

Im Forum zum Thema „Error saving draft when building a new GPT“ wird beschrieben, dass die Anzahl der Dokumente, die als „Knowlegde“ verwendet werden Ursache dafür sein können. Das kann ich nicht bestätigen. In diesem Artikel wird von 10 Dokumenten gesprochen. In meinem Fall waren es nur 8 Dokumente, aber jede dieser Dateien war zwischen 3 und 6 MB groß. Nach Entfernen einiger Dateien ging das Speichern. Die Grenze scheint zwischen 12-17 MB gesamt zu liegen. Wenn man Chat-GPT selbst fragt, wo die Limitationen sind, bekommt man folgende Antwort:

Interessant ist in diesem Zusammenhang, dass wenn man Dateien mit mehr als 512MB hochladen will, bekommt man eine Fehlermeldung vor dem Upload. Wenn man kleinere Dateien hochlädt bekommt man zwar keine Fehlermeldung, aber der Upload schlägt fehl. Die größte Datei, die ich hochladen konnte war eine 25MB PDF-Datei, bei JSON schlägt hingegen sogar noch bei 10MB fehlt. Es scheint zu sein, dass das feste Limits zu geben scheint. In diesem Forum steht beispielsweise: „There is also 2M token limit per file. 512MB ‚hard limit‘ for files and 20MB for image. (assuming same restrictions as Data Analysis)“

Die Verwendung einer Action hat keinen Einfluss auf das Speichern des Drafts. An dieser Stelle sei noch angemerkt, dass beim der Verwendung einer API bzw. Action eine „privacy policy“ nowendigt ist. Ich habe das nun so implementiert, dass die „privacy policy“ Bestandteil des API Aufrufes ist.

Jetzt aber zurück zum ursprünglichen Problem. Wie kann man nun auch größere Datenmengen als Knowlege für ein Custom API verwenden?

Fazit

Es scheint einerseits ein Limit von 10 Files und anderseits von einer Gesamtgröße von ungefähr 12MB zu sein. Meine Tests haben aber auch ergeben, dass es abhängig zu sein scheint, welcher Typ von Dateien hochgeladen werden. Das 12MB Limit gilt für JSON, pdfs scheinen mehr möglich sein.