Wie gefährlich ist Künstliche Intelligenz?

In meiner Blogwerkstatt liegt schon länger ein unfertiger Beitrag zum Thema Künstliche Intelligenz (KI) auf Halde, steckengeblieben in einem Wust von Fragen: Wo liegen die Chancen und Risiken? Wie verändert KI unsere Gesellschaft? Fördert KI das Aufkommen radikaler Parteien? Welche ethischen Fragen stellen sich bei der militärischen Anwendung, z.B. in Form von autonomen Waffen? Wie verändern digitale Zwillinge (KI-Atavare) unsere sozialen Beziehungen?

Diese und weitere Fragen zu beantworten würde diesen Blogbeitrag sprengen – ich sähe mich dazu auch gar nicht in der Lage. Deshalb möchte ich mich hier, nach einer kurzen persönlichen Einführung, auf drei lesens- bzw. hörenswerte Quellen zu diesem Thema beziehen: Einen online-Vortrag von Dr. Katharina Gerl vom Düsseldorfer Institut für Internet und Demokratie an der Heinrich-Heine-Universität Düsseldorf: KI verändert unsere Gesellschaft. Zu den Folgen des aktuellen technologischen Wandels, die Rede von Meredith Whittaker Mitte Mai bei der Preisverleihung des Helmut-Schmidt-Zukunftspreises in Hamburg. Eine leicht gekürzte Fassung ist erschienen auf ZEIT-online und schließlich einen kürzlich erschienener Artikel (30.06.2024) von Adrian Lobe in der Frankfurter Allgemeinen Sonntagszeitung über Digitale Zwillinge: So frei wie eine Billardkugel (davon habe ich leider keinen Link).

Anmerkung: Um die Geduld meiner Leserinnen und Leser nicht zu sehr zu strapazieren, erscheint dieser Beitrag in zwei Teilen. (Übrigens: Eine Passage in diesem Text stammt nicht aus meiner Feder. Ich habe ihn von ChatGPT schreiben lassen. Mal sehen, ob jemand rausfindet, welcher Abschnitt gemeint ist …)

Künstliche Intelligenz versus natürliche Dummheit

Der Hype um die Künstliche Intelligenz (KI) nervt. Jeden Tag neue aufsehenerregende Meldungen von angeblich erstaunlichen Leistungen. Nicht nur ganze Texte nach Stichwörtern kann die KI formulieren, sondern auch täuschend echt wirkende Bilder erzeugen, Stimmen nachmachen, sich selbst als Avatar in einer virtuellen Realität auftreten lassen. Ob selbstfahrende Autos, auch ein Produkt der KI, die Menschheit entscheidend voranbringen? Die KI sei der natürlichen Intelligenz weit überlegen, heißt es. Bei der Lösung komplexer Aufgaben stimmt das wohl. Es ist die größere Rechenleistung, etwa beim Schach, die die KI überlegen macht.

Während die einen vor den angeblichen Gefahren der KI warnen, verweisen andere auf deren Vorzüge und Errungenschaften. Es gibt Anwendungsgebiete, wo die KI von großem Nutzen sein kann, wie zum Beispiel in der Medizintechnik, Weltraumforschung, bei Texterkennungs- und Übersetzungsprogrammen. Eher unheimlich sind dagegen militärische Anwendungen wie etwa bei autonomen Waffen. Manche befürchten, die KI könne bald unser Leben beherrschen. Andererseits: Gegen die natürliche Dummheit kann die KI auch nichts ausrichten. Und die ist, in Kombination mit politischer Verantwortung, wirklich gefährlich. Wozu die KI unfähig ist: Sich ihrer „intelligenten“ Grenzen bewusst zu sein, wie es Sokrates nachgesagt wird: Ich weiß, dass ich nichts weiß.

Chancen und Risiken

KI hat in den letzten Jahren einen enormen Einfluss auf unsere Gesellschaft ausgeübt und wird dies auch in Zukunft weiterhin tun. Die Chancen, die sich durch den Einsatz von KI ergeben sind vielfältig. Zum einen kann KI daz beitragen, Prozesse effizienter zu gestalten und Arbeitsabläufe zu optimieren. Dadurch können Unternehmen Kosten senken und ihre Produktivität steigern. Darüber hinaus ermöglicht KI auch die Entwicklung neuer Technologien und Innovationen, die unser tägliches Leben erleichtern können.

Auf der anderen Seite birgt die Verwendung von KI auch Risiken für unsere Gesellschaft. Ein zentrales Thema ist die Frage nach der ethischen Verantwortung im Umgang mit KI. Es besteht die Gefahr, dass KI-Systeme aufgrund von Voreingenommenheit oder unzureichender Datengrundlage diskriminierende Entscheidungen treffen. Zudem könnten durch den Einsatz von KI Arbeitsplätze verloren gehen und soziale Ungleichheiten verstärkt werden.

Es ist daher entscheidend, dass wir als Gesellschaft einen verantwortungsvollen Umgang mit KI fördern und sicherstellen, dass ethische Standards eingehalten werden. Nur so können wir die Chancen der KI nutzen, ohne die Risiken zu vernachlässigen. Es liegt an uns allen, gemeinsam eine Zukunft zu gestalten, in der KI zum Wohl der Gesellschaft eingesetzt wird.

KI verändert unsere Gesellschaft

Eine gute Einführung in die Thematik bietet der online-Vortrag von Dr. Katharina Gerl vom Düsseldorfer Institut für Internet und Demokratie an der Heinrich-Heine-Universität Düsseldorf: KI verändert unsere Gesellschaft. Zu den Folgen des aktuellen technologischen Wandels, aufgenommen am 28.09.2023 (Dauer 45 Minuten).

Gerl nennt die weit verbreiteten Anwendungsgebiete der KI, die eine immer größere Rolle in unserem Alltag spielen (Smartphone, PC, online-shopping, autonome Autos, automatische Übersetzung, Smart farming, usw.) und sieht die Chancen der KI darin, dass sie Optimierungswerkzeuge bereitstellen, die uns Zeit sparen, in der Medizin die Erkennung von Krankheiten erleichtern oder Verbesserung von Verwaltungsdienstleistungen ermöglichen – um nur einige Bespiele zu nennen.

Gefahr für die Demokratie?

Neben diesen Chancen fragt Gerl nach den Auswirkungen der KI auf unser demokratisches Miteinander und auf die sozialen Implikationen: Wessen Daten werden zu welchen Zwecken gesammelt und wer hat Zugang dazu? Beispiele für den missbräuchlichen Einsatz von KI, etwa die Diskriminierung von Frauen oder ethnischen Minderheiten sind keine abstrakte Gefahr, sondern reale Erfahrungen. Besonders das manipulative Potenzial der KI, etwa in der demokratischen Öffentlichkeitsarbeit und politischen Meinungsbildung durch gefakte Bilder, deepfakes und Falschinformationen stellt eine konkrete Gefahr für die Demokratie dar. Um diesen Gefahren zu begegnen, schlägt Gerl vor: individuelle Kapazitäten im Umgang mit KI stärken, Medienkompetenz entwickeln, demokratische Kontrolle. Gerls Fazit: Weil KI gestaltbar ist, sollte sie öffentlich diskutiert, transparent, nachvollziehbar und nutzerzentriert sein.

Das toxische Geschäftsmodell der Überwachung

Die KI-Forscherin Meredith Whittaker hat Mitte Mai den Helmut-Schmidt-Zukunftspreis erhalten. Bei der Preisverleihung in Hamburg hielt sie eine Rede, die auf ZEIT online in einer leicht gekürzten Fassung veröffentlicht wurde.

Für Whittaker ist die KI ein „toxisches Geschäftsmodell der Überwachung“, das sich weder um den Datenschutz noch um die bürgerlichen Grundfreiheiten schert. Ein Modell, das den großen Tech-Konzernen und der Werbeindustrie dient und sich zu einer gigantischen Überwachungsindustrie entwickelt hat. Katharina Gerl hat in dem erwähnten Vortrag auf die totale Überwachung unter autoritären Regimen wie China verwiesen. Nach Whittaker drohen solche Entwicklungen auch im kapitalistischen Westen: „Damit bereiten die großen Unternehmen den Boden für eine Vormachtstellung, wie es sie noch nie gab. Indem sie ihre Produkte und Dienstleistungen als Gipfel des menschlichen Fortschritts und der Weiterentwicklung der Wissenschaft verkaufen, weiten diese Unternehmen und ihre Förderer ihre Reichweite und Kontrolle auf nahezu alle Lebensbereiche und in fast jede Region der Erde aus. Sie stellen die Infrastruktur für Staaten, Unternehmen, Medien und Militär bereit und verkaufen die Derivate des toxischen Geschäftsmodells Überwachung als Produkt wissenschaftlicher Innovation.“

Und weiter: „Das ist ungeheuer gefährlich. Das vom Anteilseigner-Kapitalismus befeuerte Streben nach grenzenlosem Wachstum und Ertrag, das sich metastasenartig ausbreitet und der eigentliche Antrieb dieser Riesenkonzerne ist, führt in vielen Punkten weg vom Pfad in eine lebenswerte Zukunft.“

Targeted Killing mit KI-Systemen

Als besonders beunruhigenden Trend sieht Whittaker, dass die KI-Überwachungskonzerne dabei sind, sich zu Rüstungsunternehmen zu wandeln, d.h. dass sie Waffen und Überwachungsinfrastrukturen an Streitkräfte und Staaten liefern. Und mehr noch: Ähnlich wie die KI-basierte zielgerichtete kommerzielle Produktwerbung auf der Auswertung großer Datenmengen basiert, so funktioniert im militärischen Bereich das Konzept des „signature strike“, also die Auswahl eines Tötungsziels auf der Basis von Datenmustern und Verhaltensüberwachung. Das heißt: „Bei signature strikes werden Menschen im Prinzip aufgrund von Datenprofilen getötet.“

So arbeitet etwas die israelische Armee im Gaza mit einem KI-System namens Lavender. „Lavender schaltet keine Werbeanzeigen, sondern setzt Menschen automatisch auf eine Tötungsliste, sobald ihre durch Überwachung gesammelten Datenmuster mit den Datenmustern angeblicher Kämpfer übereinstimmen – obwohl wir als Fachleute wissen, dass dieses Verfahren extrem ungenau ist.“

Whittaker fordert daher im Einklang mit dem deutschen Forum InformatikerInnen für Frieden und gesellschaftliche Verantwortung die Praxis des `Targeted Killing´ mit unterstützenden KI-Systeme als Kriegsverbrechen einzustufen.  

In der zweiten Folge dieses Beitrags „Wer bin ich, und wenn ja, wie viele?“ geht es um Digitale Zwillinge oder KI-Avatare, also digitale Nachbildungen real existierender Personen. Und um das Metaversum, eine besondere Spielart Künstlicher Intelligenz.