Moderne Chatbots wie ChatGPT haben in den letzten Monaten eindrucksvoll bewiesen, wie weit diese Technologie bereits ist und welch mannigfaltige Ergebnisse sie für die diversen Aufgabenstellungen liefern können. In Sachen Faktenprüfung, Aktualität und Arithmetik stoßen diese KI-Tools allerdings noch an ihre Grenzen.

Am Donnerstag enthüllten Forscher des Tech-Konzerns Meta das Programm Toolformer. Diese ebenfalls auf Sprache fokussierte künstliche Intelligenz kann sich selbst beibringen, externe Tools zu nutzen, also Suchmaschinen, Taschenrechner oder Kalender, um so fehlendes Wissen auszugleichen.

Schnittstellen-Magie

Die einfache technische Lösung, um diese Kommunikation zwischen dem Chatbot und anderen Werkzeugen zu ermöglichen, sind APIs (Application Programming Interfaces), das heißt Schnittstellen, die jetzt schon von Anwendungen genutzt werden, um miteinander kommunizieren und Daten austauschen zu können.

Das Training des Chatbots, um mit den neuen Schnittstellen arbeiten zu können, waren kurze, von Menschenhand geschriebene Anleitungen. Danach durfte sich die KI "selbstüberwacht" Beispiele durchprobieren, also ohne Beisein von Forscherinnen und Forschern. So lernte Toolformer, Aufgabenstellungen zu beantworten und bei Nichtwissen auf die externen Werkzeuge zuzugreifen. So wurde ein Taschenrechner oder ein Kalender einfach in den Prozess der Beantwortung eingebunden. Toolformer entschied damit selbstständig, in welchem Kontext und wie andere Tools zu nutzen sind.

Toolformer basiert auf einer feingetunten Version von GPT-J, welche auf rund 6,7 Millionen Parameter zugreifen kann. Dieses Modell schafft es mit dieser neuen Arbeitsweise aktuell, Konkurrenten wie GPT-3, die auf weit mehr Parameter zugreifen können, weit hinter sich zu lassen.

Grenzen durchbrechen

Forscherinnen und Forscher arbeiten laufend daran, die Grenzen von Sprachbots zu überwinden. Zuletzt war etwa der Bing Chat im Gespräch, der selbstständig eine Web-Suche initiieren kann, wenn er selbst nicht mehr weiterweiß. Bei anderen Chatbots wurden mittlerweile Werkzeuge wie Taschenrechner oder Suchmaschinen implementiert, um deren Leistung zu erhöhen. Diese Implementierung sei laut Meta allerdings sehr von großen Mengen menschlicher Anmerkungen abhängig, beziehungsweise seien diese Tools dennoch in ihren Möglichkeiten beschränkt.

Toolformer habe den Vorteil, dass er lernen kann, eine Reihe von Tools auf eine allgemeine Weise zu verwenden, die keine spezielle Schulung für bestimmte Aufgaben erfordere. Damit würden diese Chatbots weitaus vielseitiger und zuverlässiger werden, meinen die Forscherinnen und Forscher des US-Konzerns. (red, 17.2.2023)