Die Weiterentwicklung des großen Sprachmodells von OpenAI wird mit großer Spannung erwartet.

Foto: Reuters/Ruvic

Das Wettrüsten um die beste KI scheint schon in die nächste Runde zu gehen: Für das große Sprachmodell GPT-3.5, das hinter dem Chatbot ChatGPT steht, wird in Kürze offenbar eine Weiterentwicklung angekündigt. Im Rahmen eines Events in Deutschland erwähnte Microsoft, dass das große Sprachmodell GPT-4 bereits nächste Woche vorgestellt werden soll. "Wir werden nächste Woche GPT-4 vorstellen, da haben wir multimodale Modelle, die noch ganz andere Möglichkeiten bieten werden – zum Beispiel Videos", wird Andreas Braun, CTO von Microsoft Germany, von "Heise" zitiert.

Über die Besonderheit, dass das System multimodal sein wird, wurde im Vorfeld bereits spekuliert, aber an dieser Stelle wurde es bestätigt. Multimodalität bedeutet in diesem Fall, dass die KI-Systeme mit unterschiedlichen Datentypen trainiert werden können, also nicht nur mit Texten, sondern auch mit Audio-, Bild- und Videodateien. Multimodale Systeme gelten als nächster Evolutionsschritt in der Entwicklung künstlicher Intelligenz.

Spekulationen um Fortschritte

Offiziell gibt es darüber hinaus bislang noch keine Informationen, welche Neuerungen die Entwickler für das nächste große Sprachmodell parat halten werden. OpenAI-Boss Sam Altman selbst hat die Spekulationen, dass es auf 100 Billionen Parameter trainiert ist, als "völligen Bullshit" abgetan, aber einige Quellen behaupten, dass es bis zu hundertmal größer als GPT-3.5 sein könnte, was es ungefähr in die Nähe von 17 Billionen Parametern bringen würde.

Es ist durchaus auch vorstellbar, dass die neue Version von GPT nicht viel größer als die bisherige sein könnte. Der Grund dafür ist, dass man sich eher darum bemüht, die Fähigkeit zur Nutzung vorhandener Daten zu verbessern, als das System einfach "nur" mit noch mehr Daten zu speisen. Eine Verbesserung der Effizienz des Algorithmus würde die Betriebskosten von GPT-4 und vermutlich auch von ChatGPT senken. Dies könnte jedenfalls ein wichtiger Faktor sein, wenn KI-Tools so weit verbreitet werden sollen wie die beliebtesten Suchmaschinen. (red, 9.3.2023)