KI: Die dunkle Seite der Macht?

10. Januar 2022

Wenn wir an die Gefahren der Künstlichen Intelligenz denken, kommt uns zuerst der Bordcomputer HAL aus dem Kinofilm „2001 Odyssee im Weltraum“ in den Sinn. Aber auch ohne die Allmachtsfantasien der Science-Fiction-Maschinen hat die Künstliche Intelligenz schon heute eine dunkle Seite, die vielen noch völlig unbekannt ist.

Investoren lieben Künstliche Intelligenz. Start-ups, die KI-Technologien nutzen, bekommen daher leichter Geld. Dies ist wahrscheinlich der Grund dafür, warum 40 Prozent aller KI-Start-ups in Europa den Begriff KI verwenden, ohne KI-Technologien wirklich zu nutzen. Viele der Fortschritte unter dem Schlagwort „Machine Learning“ verdanken wir nicht nur technologischen Innovationen, sondern auch neuen Möglichkeiten, dank derer wir menschliche Arbeitskraft auf digitalen Plattformen weltweit auszubeuten können. Die Künstliche Intelligenz braucht Heerscharen von Arbeitskräften, die mit menschlicher Intelligenz Daten mit großem Aufwand aufbereiten, bewerten und zusammenstellen. Diese Daten sind dann der Input für die maschinellen Lernalgorithmen.

Einige KI-Unternehmen setzen beim „Fake it till you make it“ Ansatz gleich auf menschliche Arbeitskraft, weil die Leistungsfähigkeit der KI-Algorithmen für die vollmundigen Ankündigungen des Marketings oft gar nicht ausreicht. Hinter manch hipper KI-App steckt ganz am Ende: ein Mensch. Diese Menschen oft ohne Arbeitsvertrag, mit Verdiensten im Cent-Bereich pro Klick, bleiben für uns unsichtbar, sie sind die sogenannten Ghost-Worker und bilden das neue KI-Prekariat. Es gibt sie weltweit, in Industriestaaten und gerade auch in Entwicklungsländern. Ohne sie würde die weltweite KI-Industrie nicht mehr funktionieren. Die Trainingsläufe mit Daten verschlingen riesige Mengen an Computerpower – mit entsprechendem Energieverbrauch und CO2-Ausstoß. Die Kosten für einen einzigen Trainingslauf großer KI-Modelle gehen schnell in die Größenordnung von mehreren Millionen Euro. Kleinere Unternehmen und Start-ups können hier gar nicht mehr mithalten.

Als Barack Obama Donald Trump in einem Video als „Volltrottel“ bezeichnet hat, hat er das natürlich nicht wirklich getan. Das täuschend echte Video ist ein sogenannter Deep Fake, ein mithilfe von KI manipuliertes Video. Es besteht die Gefahr, dass sich bald manipuliertes und echtes Material nicht mehr unterscheiden lassen. Eine solche Entwicklung könnte massive Auswirkungen auf Medien, Unternehmen, die Strafverfolgung und am Ende sogar die Demokratie haben. Eine Studie von Europol ergab, dass Cyberkriminelle durch den Einsatz der Künstlichen Intelligenzen inzwischen leichter und schneller Opfer ausbeuten. Es gibt Algorithmen, die Passwörter erraten und Fotos, Videos, Töne und Stimmen nach Wunsch fälschen. Daneben macht KI auch bekannte Hacks mächtiger und hilft gleichzeitig dabei, die Angriffe besser zu verbergen.  

Ob Selektion durch Gesichtserkennung, automatischer Ausschluss von Plattformen, politische Repression oder Diskriminierung: Die KI macht es einfacher, dass sich Menschen über andere Menschen stellen können. Laut einem Beitrag der New York Times nutzt China ein System zur Gesichtserkennung, um die muslimische Minderheit der 11 Millionen Uiguren technologisch zu überwachen. Damit ist China das weltweit erste Land, welches die künstliche Intelligenz nicht nur für wirtschaftliche, sondern auch für politische Zwecke einsetzt.

Die Vorteile der Künstlichen Intelligenz liegen auf der Hand. Über die dunklen Seiten der KI, die tagtäglich real existierende Schattenseite hinter der sonst immer so glänzenden Fassade der KI, ist in der Öffentlichkeit wenig bekannt. KI wird heute schon manipulativ, diskriminierend, überwachend und kriminell eingesetzt. Die aktuellen europäischen Bestrebungen für eine Regulierung der KI halte ich daher für absolut sinnvoll und auch für notwendig.