Von den Modellen der generativen künstlichen Intelligenz (KI) ist weniger zu fürchten, dass sie FakeNews-Tsunamis erzeugen (was sie tun werden), sondern dass sie die Räume des Denkens und Lernens überflüssig machen. Eine fatale Aussicht, denn ohne Denken, Zweifeln und Kritik entsteht keine Zukunft.
Droht demnächst der große Fakenews-Tsunami? Die Angst vor der anstehenden Verseuchung unserer Medien, unserer gesellschaftlichen Öffentlichkeit und unseren öffentlichen Infrastrukturen mit Desinformation ist nachvollziehbar, jedoch eher unbegründet, aktuelle Studien legen diese Schlussfolgerung nahe. KI-Experten wie Jürgen Geuter fürchten nicht zuallererst die Möglichkeiten ziemlich perfekter Deep Fakes, sondern vielmehr die Gefahr, dass in rechten Szenen wie QAnon durch Tsunamis an ChatGPT-Desinformation für die affinen Communities der Ausweg aus dem Meer an Desinformations-Bullshit immer schwerer wird.
1. Wir lernen nicht aus der Vergangenheit: Das nächste BigTech-Oligopol wird gerade gebaut... Was das vordringlichere Problem ist, um das wir uns kümmern sollten, holt uns in unserem SocialMedia-Alptraum seit den 2010er Jahren zurück: KI ebenso wie SocialMedia haben die Tendenz zur Zentralisierung und Monopolisierung, sodass auch KI in der Verfügungsgewalt der BigTechs landen wird. Während die Bedrohung durch Bullshit-Tsunamis via Facebook etc. momentan eher abnimmt, bauen Microsoft, Amazon, Google und Baidu das nächste Oligopol. Nur BigTech hat die Ressourcen, ohne die KI nicht läuft: gigantische Mengen an Strom, hochwertiger Hardwareleistung und Tonnen an Nutzerdaten und Speicherplatz. Um das größte Deep-Learning-System von OpenAI als ChatBots mit Daten zu trainieren, musste zwischen 2015 und 2021 die Rechnerleistung um das 300.000-fache gesteigert werden. Dagegen ist Moore's Law eine Schildkröte. Der Datenklau der BigTechs in den vergangenen 15 Jahren, so die Einschätzung von Experten, macht es schwer vorstellbar, dass mittelfristig alternative Akteure Wettbewerbsfähigkeit erlangen werden.
Es geht wie immer um Macht.
2. KI ist nach wie vor eine Blackbox, dann können wir die Daten gleich Putin schicken... BigTech hat die Hand auf der KI (Investitionen in Forschung belegen das in bedenklichem Ausmaß). Die Gefahr dabei: BigTech wird auch darüber entscheiden, wie KI ab sofort in unserer Realität installiert wird. Aber nach wie vor gilt: Die KI-Modelle sind hochgradig undurchschaubar; nach wie vor ist auch für die KI-Programmierer nicht nachvollziehbar, wie die Systeme zu ihren Ergebnissen kommen. Für wichtige Sicherheitsentscheidungen könnten wir dann auch direkt Vladimir Putin befragen – KI liefert keine verlässlicheren Ergebnisse. Dringend muss Experten Einblick in die KI-Programmierung ermöglicht werden. Öffentlich-rechtliche Forschung an KI muss ein Gegengewicht zu den Thinktanks und Labors des Oligopols bilden.
3. ChatGPT ist der Beginn der Infantilisierung der digitalen Gesellschaft... Wir wissen jetzt, dass sich mithilfe von Chatbots Prüfungen bestehen und Examensarbeiten verfertigen lassen, weswegen die Betriebswirtschaftler der Universität Prag vor Kurzem die schriftlichen Bachelorarbeiten abgeschafft haben. Was KI dem Siebtklässler bei den Schularbeiten suggeriert, ist, dass wir in der Interaktion mit generativer KI als Individuen Wissen nicht mehr im emphatischen Sinne aneignen, internalisieren müssen – ist ja alles schon da. Die Bullshit-Maschine hat das Denken für uns immer schon erledigt. Texte müssen nicht mehr geschrieben werden, wir ziehen sie künftig aus dem Netz. Die Konsequenz: KI droht unsere Infrastrukturen des Lernens, des Denkens und der wissensbasierten Weltaneignung zu zerstören. Und das heißt: KI wird die Bildungsungleichheit verstärken, den Zugang zu Bildung weiter erschweren. Miranda Fricker nennt das „epistemische Ungerechtigkeit“: Menschen werden in Situationen gebracht, die es ihnen nicht erlauben, sich zu artikulieren.
4. Generative KI weiß nicht, wie Zukunft geht... Während KI gerade in viele Gebiete der Geschäftswelt, aber auch in die Verwaltungen vordringt, bleibt sie - insbesondere die ChatGPT-Versionen - als Assistenz-, Automatisierungs- und Optimierungssysteme erstaunlich dumm und uninspirierend. In der Art und Weise, wie Chatbots heute konzipiert und eingesetzt werden, verschließen sie Türen für Fortschritt und Erkenntnis und zerstören die intellektuellen Räume und Praktiken, die das Gelingen unserer Demokratie gewährleisten (Öffentlichkeit, Diskurs, Erfahrung). Generative KI kann keine Zukunft, sie kann keine Zukünfte entwerfen, weil sie ihren Lebenssaft ausschließlich aus Daten der Vergangenheit zieht. Generative KI kann keine Zukunft, sie vermag es nicht, Zukünfte zu entwerfen, weil sie ihren bescheidenen Lebenssaft ausschließlich aus Daten der Vergangenheit zieht.
Am Ende gilt: Es ist nicht die Technologie, die wir verwerfen sollten, es ist die Art und Weise, wie unsere Gesellschaft – bislang – mit KI umgeht. Und: Wir sollten uns weniger darum sorgen, was die KI kann, wir sollten uns darum sorgen, was sie nicht kann: eine nachhaltige digitale Gesellschaft entwerfen, die genau weiß, zu welchen Zwecken sie neue Technologien einsetzt.