Welchen Einfluss hat KI auf unser Bildungssystem? Müssen wir überhaupt noch lernen? Und wenn ja, wie? Wo kann uns die KI helfen, und wo sollten wir uns lieber selbst helfen? Expertinnen und Experten aus unterschiedlichsten Forschungsdisziplinen der Universität Wien geben ihre Einschätzungen zu Ihren Postings rund um Bildung und Lernen im Zeitalter der künstlichen Intelligenz.
Fehlerhafte Daten, lückenhafte Informationsübertragung
Antwort: Meine Erwartung ist, dass Sprachmodelle immer mehr mit Suchmaschinen kombiniert werden, die im Hintergrund laufen und verschiedene Datenquellen auf ihre Relevanz und Zuverlässigkeit bewerten. Das Sprachmodell stellt sozusagen nur die "Sprachschicht" zur Interpretation der Anfrage und Generierung der Antwort bereit. Das Suchen und die Bewertung der eigentlichen Information auf Relevanz und Vertrauenswürdigkeit findet in einem separaten Schritt statt. Das hat Vorteile bezüglich Aktualität der Antworten, und auch die Nachvollziehbarkeit wird erhöht (das System kann angeben, worauf es seine Antwort stützt). Gleichzeitig werden Probleme verstärkt werden, mit denen sich klassische Suchmaschinen schon seit langem beschäftigen: Hacking der Ergebnisse durch Search-Engine-Optimization, Link-Farmen und andere Techniken der Beeinflussung von Ergebnissen. (Benjamin Roth, Professor für Digitale Textwissenschaften)
Freie KI als Bedrohung?
Antwort: Täuschung und Lügen sind in der Tat Teil des menschlichen Verhaltens und der menschlichen Kultur. KI kann, anstatt ein Hindernis dafür zu sein, als Instrument zur Verbreitung von Lügen und Fehlinformationen genutzt werden. Dies ist besonders hilfreich für diejenigen in der Politik, deren Macht auf dieser Grundlage beruht. Aber für die demokratische Politik ist das eine Katastrophe. Die Demokratie braucht eine möglichst saubere Wissensbasis. Die Bürgerinnen und Bürger brauchen Wissen und die Wahrheit, um ihre Pflicht als Wählerin und Wähler und als Mitwirkende in der Politik zu erfüllen. Hannah Arendt hat in "Die Ursprünge des Totalitarismus" dargelegt, dass totalitäre Regime von der Unsicherheit über die Wahrheit leben. Wenn wir durch KI nicht mehr sicher sein können, was wahr ist und was nicht, untergraben wir nicht nur die Demokratie, sondern schaffen auch die Voraussetzungen für Totalitarismus. Natürlich bestand diese Gefahr auch schon vor der KI, aber jetzt ist das Risiko noch größer, da die KI in Verbindung mit den digitalen sozialen Medien sehr weit verbreitet ist. (Mark Coeckelbergh, Professor für Medien- und Technikphilosophie)
Wie sehr können/sollen wir uns auf KI verlassen?
Antwort: KI und die ihr zugrunde liegenden Statistiken und Daten sind hilfreiche Werkzeuge für die Verwaltung vieler Güter und Dienstleistungen. Manche denken dabei an eine Utopie, in der KI diese Dinge allein und besser als der Mensch verwaltet. Aber wir sollten in der Tat vorsichtig mit der Automatisierung und den digitalen Technologien umgehen: Wir delegieren bereits viele Dinge an die Technik und sind extrem abhängig von Computern. Wir sollten sicherstellen, dass wichtige gesellschaftliche Systeme und Infrastrukturen bei Bedarf auch ohne fortschrittliche Technologien funktionieren können, und wir sollten niemals die gesamte Kontrolle an die Technik abgeben; der Mensch wird unbedingt gebraucht.
Die KI kann auch nicht unbedingt alles besser als der Mensch: Menschen können Probleme vielleicht auf eine ethisch verantwortungsvollere oder kreativere Art und Weise lösen, die die jeweilige konkrete Situation berücksichtigt. Wir brauchen also sowohl Menschen als auch Technologie, wobei die Technologie fest unter der Kontrolle des Menschen stehen sollte. Das setzt natürlich voraus, dass die Menschen gut ausgebildet und qualifiziert sind und, dass sie Verantwortung übernehmen. Wir brauchen einen demokratischen Rahmen, in welchem Technologien mit menschlichem Fachwissen und menschlicher Erfahrung gesteuert werden. (Mark Coeckelbergh, Professor für Medien- und Technikphilosophie)
Führt KI zu einem Paradigmenwechsel im Bildungssystem?
Antwort: Kein Weg darf für unsere Demokratie daran vorbeiführen: Künstliche Intelligenz muss unser Bildungssystem kritischer machen! Genau in diese Richtung tendieren aktuell Universitäten und Hochschulen in Österreich. Künftig soll weniger das schriftliche Endprodukt, sondern der Forschungs- und Schreibprozess im Fokus stehen, um – so die Hoffnung – die Produktion von Wissen in den Vordergrund zu rücken. Es wird jedoch nicht reichen, bloß medienbezogene Reflexionen darunter zu verstehen.
Mit KI umgehen zu lernen bedeutet auch, veränderte Bedingungen für Lern- und Lebenswelten in den Blick zu nehmen. Um soziale Gerechtigkeit sicherzustellen, Ungleichheiten, Diskriminierung und Datenverzerrung zu vermeiden, müssen wir neue Formen der Ausgrenzung innerhalb unserer Gesellschaft durch KI wahrnehmen lernen. Für die künftige Demokratie-Entwicklung dürfen wir uns der kritischen Selbst- und Gesellschaftsreflexion nicht entziehen. Denn die Folgen der digitalen Transformation sind tiefgreifender. Sie verändern gerade unsere Existenzweisen als demokratische Subjekte. (Britta Breser, Professorin für Demokratiebildung am Zentrum für Lehrer:innenbildung)
Wie kann KI uns beim Erlernen neuer Sprachen unterstützen?
Antwort: KI-Methoden werden bereits erfolgreich in Applikationen für den Spracherwerb integriert, können jedoch nicht die feinen Nuancen authentischer menschlicher Kommunikation simulieren, zum Beispiel wie verschiedene Aussprachen, Wahl des Vokabulars, kulturelle Nuance, Körpersprache unter vielen anderen Aspekten. Schnell einen Text grob verstehen funktioniert mit maschineller Übersetzung meist schon gut. Jedoch fachlich korrekte Übersetzungen zu erstellen, die auf die Zielgruppe, den Kontext, den konkreten Fachbereich, etc. zugeschnitten sind, ist noch problematisch. Auch in Bezug auf Literatur und bildliche Sprache sind Textverständnis und Kreativität von Menschen noch ausschlaggebend. Insofern können KI-gestützte Anwendungen den Spracherwerb und die Übersetzung unterstützen, jedoch gilt es einen reflektierten und bewussten Umgang, sowie die Fähigkeit deren Grenzen zu erkennen, zu fördern. (Dagmar Gromann, Assoz. Professorin für Computerlinguistik und Sprachtechnologien)
Wie können wir KI-generierte Informationen im Internet kritischer hinterfragen?
Antwort: Das Internet ist Teil unseres Lebens geworden – und damit auch Inhalte und Anwendungen, die mithilfe von KI entstanden sind. Deshalb ist es wichtig zu wissen, wie KI denkt und zu Ergebnissen kommt. KI wird auch das schulische und universitäre Lernen begleiten. Lernende müssen verstehen, wie maschinelles Lernen funktioniert und wie KI-Tools zu Ergebnissen kommen. Es wird weniger darum gehen, was echt oder "Fälschung" ist, sondern kritisch zu reflektieren unter welchen Bedingungen und mit welchen Mitteln ein Bild oder ein Text entstanden sein kann. Es wird auch darum gehen, sich Kompetenzen zum kritischen Umgang mit KI anzueignen und zu verstehen, dass KI wie wir Menschen auch Fehler macht. (Claudia Wilhelm, Assistenzprofessorin für Medien und Intersektionalität)
Wie sollten unsere Lehrpläne in einer Welt mit KI aussehen?
Antwort: Lehrpläne werden immer wieder angepasst und aktualisiert. Eine Ausrichtung auf unterschiedliche Kompetenzen ist mittlerweile Standard, explizites Auswendiglernen findet man in den Lehrplänen nicht als Handlungsanweisung. Lehrpläne stellen – verkürzt gesagt – eine gewisse Wette auf die Zukunft dar, weil man mit den Lehrplänen von heute versucht, festzulegen, welche Kompetenzen morgen wichtig sein werden.
In einem Zeitalter der raschen technologischen Entwicklungen ist dies immer schwieriger, weil es vor allem wichtig ist, eine Balance zwischen rasch wechselnden Anforderungen eines zukünftigen Arbeitsmarktes einerseits und einem zeitenübergreifenden, grundlegenden kulturellen Bildungs- und Wissenskanon andererseits zu finden. Wissenspraktiken werden sich verändern. Was unverändert bleibt, ist allerdings die Tatsache, dass die Verfügbarkeit von Wissen (im Kopf) überhaupt erst der Ausgangspunkt für die Suche bzw. Suchanfragen an die KI sein kann. Flapsig gesagt: Wer nicht weiß, dass es den 2. Weltkrieg gab, kann sich auch keine Informationen darüber aus dem Internet holen.
Schulen und die zugrundeliegenden Lehrpläne treffen damit auch eine Entscheidung darüber, was überhaupt als gemeinsam geteiltes Wissen relevant und wichtig ist, sie ermöglichen Enkulturation und stellen einen Orientierungsrahmen bereit, der dazu dient, neues Wissen einzuordnen und kritisch zu prüfen. Das Internet und Künstliche Intelligenz können dabei eine unersetzliche Quelle für Informationen darstellen, es eröffnen sich aber aufgrund der mit diesen Technologien verbundenen Machtstrukturen (Wer bekommt welche Inhalte wann angezeigt?; ausführlich dazu Stalder, Felix (2016): Kultur der Digitalität. Berlin: Suhrkamp Verlag) demokratiepolitische und epistemische Herausforderungen, die es weiterhin nötig machen, grundsätzlich informiert und damit orientiert zu sein. (Matthias Leichtfried, Postdoc im Lehr- und Forschungsbereich Fachdidaktik Deutsch)
Antwort: Ich stimme dieser Aussage insofern zu, als dass das Formulieren von guten und wichtigen Fragen essenziell für die Wissensarbeit ist. Anders als landläufig vielleicht angenommen, steht dieses Fragenstellen aber nicht unbedingt am Anfang der wissenschaftlichen Auseinandersetzung. Oft braucht es für das Identifizieren der "richtigen" Frage bereits einen breiten Wissensfundus und den Rückgriff darauf, was bereits bekannt ist – also die Auseinandersetzung mit bisherigen Antworten (Anbindung an den wissenschaftlichen Diskurs). Viele bahnbrechende wissenschaftliche Arbeiten entstanden dann gerade deshalb, weil die bisherigen Antworten unbefriedigend waren oder der Bedarf bestand, weiterzudenken.
Ich würde dafür plädieren, diese Haltung auch im Zeitalter von KI weiterhin konsequent einzuüben. Weil dieses Jahr der 300. Geburtstag von Immanuel Kant ansteht, sei an seine berühmten Worte erinnert: "Aufklärung ist der Ausgang des Menschen aus seiner selbstverschuldeten Unmündigkeit." Technologien haben Potentiale, bringen aber auch Gefahren der Entmündigung mit sich und gerade eine Technologie wie generative künstliche Intelligenz mag dazu verführen, den Antworten des Computers (42?) mehr Glauben zu schenken, als das angebracht wäre. Tatsächlich beginnt aber erst nach dem Generieren von Antworten durch eine stochastische Textsynthese der wirkliche Erkenntnisprozess: Es liegt in der Verantwortung der Leser:innen dieses Outputs, wie sie mit den Informationen daraus umgehen und ob sie das machen, was angesichts der Verführungskraft der einfachen Antwort so wichtig wie noch nie zuvor war: In Frage(n) stellen. (Matthias Leichtfried, Postdoc im Lehr- und Forschungsbereich Fachdidaktik Deutsch)
Macht KI menschliches Lernen unwichtig?
Antwort: Eine solide Wissensbasis ist die beste Voraussetzung für späteres Lernen, weil neue Informationen dann leichter in bestehende Wissensnetzwerke integriert werden können. Durch Verknüpfung von Informationen können wir auch neue Ideen und Einsichten gewinnen. Auf absehbare Zeit wird uns künstliche Intelligenz das nicht abnehmen können. Es gibt aber mindestens noch einen weiteren Grund dafür, das Lernen nicht ganz aufzugeben: Es macht Spaß. Schon Babys sind von Natur aus neugierig und lernen am besten über Dinge, die sie interessieren. Auch bei Kindern und Erwachsenen ist das Belohnungssystem im Gehirn hochaktiv, wenn sie neue Informationen sammeln können zu einem Thema, das sie interessiert. Aus diesem Grund mache ich mir auch keine Sorgen, dass die Menschheit das Lernen so schnell aufgeben wird – zum Glück! (Stefanie Höhl, Professorin für Entwicklungspsychologie) (19.3.2024)