Maschinen, die Menschen dazu anleiten, das Richtige zu tun, sind keine so gute Idee, sagt der Informatiker und Philosoph Erich Prem im Gastkommentar.
DER STANDARD hat über Pläne in Bologna berichtet, umweltfreundliches Verhalten mit Punkten zu belohnen, die dann für Öffis verwendet werden können (siehe "Was bringen Öko-Token?"). Und auch in Wien überlegt die Stadt, Radfahrerinnen und Radfahrer mit Kulturtickets zu belohnen. Solche Punktesysteme für gesellschaftlich gewünschtes Verhalten sind die neueste Variante einer über 50 Jahre alten Idee. Hinter diesen Systemen steckt weniger ein chinesisches Sozialkreditsystem als ein seit den 70er-Jahren existierender kybernetischer Traum von der automatischen staatlichen Steuerung.
Schon die frühen Kybernetiker der 60er-Jahre glaubten an das Potenzial der algorithmischen Kontrolle für das Management aller möglichen Systeme. Stafford Beer wandte kybernetische Steuerungsmechanismen konsequent auf Unternehmen an und galt für Norbert Wiener als Vater der Managementkybernetik. In den 70er-Jahren wollte er das Prinzip auf staatliche Steuerung ausdehnen. Im Artikel über die Freiheitsmaschine ("The Liberty Machine") beschrieb er ein kybernetisches System für schnellere und bessere staatliche Entscheidungen, das durch regen Informationsfluss sogar Tyrannei verhindern sollte. Dieser Traum überzeugte Salvador Allende, der Mitte der 70er-Jahre Beer und dessen Kollegen Fernando Flores beauftragte, ein kybernetisches System für die staatliche Koordination der der Wirtschaft in Chile zu entwickeln. Es überrascht nicht, dass das System schon bald als Überwachungsinfrastruktur kritisiert wurde, die der autoritären Führung Chiles mehr Kontrolle über die Bürgerinnen und Bürgerverleihen würde.
Smarte Politik
Heute wird der kybernetische Traum für die Besserung der Gesellschaft meist als App zur Handlungsanleitung für Individuen geträumt. Maschinen sollen Menschen anleiten, das Richtige zu tun. Nicht länger bedürfe es der Regeln oder gar menschlicher Vorbilder, um Moralität im Alltag zu sichern, es genügt das Locken ("nudging") durch Progrämmchen am Smartphone. Dies ist nur eines von vielen Beispielen, wie Politik an smarte Systeme delegiert wird. Es reiht sich ein in die Moderation von Onlinediskursen, die Steuerung von Scootergeschwindigkeiten in Fußgängerzonen oder Systeme künstlicher Intelligenz zur Kommunikationsüberwachung und -steuerung.
So schön all das klingen mag, so schlecht sind oft die Nebenwirkungen. Meist profitieren nämlich die Falschen. Oft werden jene belohnt, die sich ohnehin schon richtig verhalten, zum Beispiel die grünen Radfahrerinnen und Radfahrer im siebenten Bezirk. Während alle, die in Transdanubien wohnen, es schwerer haben werden, auf ihr Auto zu verzichten. Mehr Sorgen sollte uns machen, dass es ein soziales Gefälle gibt. In einigen Städten wurden bereits Handy-Apps zur Schlaglocherkennung beim Autofahren verwendet, und zwar vor allem von Bewohnerinnen und Bewohnern wohlhabender Bezirke. Denn nicht jeder kann und will mitspielen; zum Beispiel ältere Menschen, die kein Smartphone haben. Oder jene, die nicht überwacht werden wollen. Oder schlicht jene, die glauben, Maschinen sollten keine Vorbildfunktionen für Menschen übernehmen. (Erich Prem, 16.7.2022)