Wie jede andere Software auch, haben auch Large Language Models kleine oder größere Fehler im Programmcode. Diese sogenannten Bugs finden sich beinahe in jedem komplexeren Code, und meist sind es die Nutzenden, die im täglichen Betrieb auf sie stoßen. Die Produkte von OpenAI, nämlich ChatGPT und GPT-4, sind da keine Ausnahme. Das Unternehmen ruft nun aber zur aktiven Jagd auf Bugs auf und bietet dafür hohe Prämien.

Kopfgeldjagd auf Fehler

Am Dienstag stellte OpenAI das "Bug Bounty Program", also eine Art Kopfgeldjagd auf Fehler, vor. Im Rahmen dessen sollen Nutzende Schwachstellen, Bugs oder Sicherheitslücken melden, auf die sie in den Systemen der KI-Firma stoßen. Dafür winken Geldprämien: 200 Dollar gibt es für "geringfügige" Entdeckungen. Wer eine "außergewöhnliche Entdeckung" macht, dem winken bis zu 20.000 Dollar Belohnung.

Gefundene Fehler kann man über Bugcrowd, eine quelloffene Plattform für Cybersicherheit, einreichen. Laut OpenAIs Seite auf Bugcrowd werden neue Einsendungen innerhalb von zwei Stunden angenommen oder abgelehnt. 14 Schwachstellen wurden bislang prämiert. Im Schnitt gab es jeweils 1.300 Dollar (rund 1.200 Euro) als Belohnung für die Entdeckung.

Schummeln gilt nicht

Auf der Bugcrowd-Seite wird auch eine Reihe von Problemen genannt, die nicht belohnt werden, darunter "das Modell dazu bringen, schlechte Dinge zu sagen" und "das Modell dazu bringen, bösartigen Code für Sie zu schreiben". Wer einen Fehler in ChatGPT gefunden hat, kann ihn hier melden.