Foto: Amy Webb, Public Affairs, Perseus Books, Plassen Verlag
Üblicherweise spricht man hier zu Lande von den "Fünf IT-Giganten" Amazon, Apple, Facebook, Google und Microsoft, für die Futuristin Amy Webb kommen noch die drei Großen aus China (Baidu, Alibaba und Tencent) dazu. Und weil es in ihrem Buch "The Big Nine" um die Zukunft der IT geht, ergänzt sie die acht vorher genannten Anbieter noch um IBM.
Im ersten Teil ihres Werks, das für jeden IT-Manager und an Technologie interessierten Laien Pflichtlektüre sein sollte, skizziert Webb kurz die Geschichte der "denkenden" Maschinen und geht detailliert auf die Entwickler der heutigen KI ein. Hier stellt sie fest, dass es sich dabei um eine relativ homogene Gruppe von weißen Männern handelt, die ausschließlich technisch und naturwissenschaftlich vorgebildet sind und weitgehend frei von ethischen Grundsätzen die Grundlagen für die KI von morgen legen. Und das hält Webb zu Recht für gefährlich, weil die bei der Programmierung der KI heute begangenen Fehler und Versäumnisse sich in Zukunft rächen könnten.
Lesetipp: KI-Betrüger imitieren CEO per Deepfake-Voice und erbeuten 243.000 US-Dollar
Ausgehend von der heutigen Lage und unter Einbeziehungen verschiedener Entwicklung in der nächsten Zukunft entwirft Webb drei Szenarien der KI für die kommenden 50 Jahre.
Schon das optimistische Zukunftsszenario ist äußerst "spooky": der Kühlschrank verrät Ihnen, welche Lebensmittel zuerst verbraucht werden sollten und welche "ungesund" sind, der Ofen verhindert zu stark angebratene Speisen und die Waschmaschine schaltet sich nur dann ein, wenn der Strom besonders günstig ist. Derartige Vorhersagen haben wir schon mehrfach gehört. Ich persönlich glaube nicht, dass sich Menschen vorschreiben lassen wollen, welche Lebensmittel wie zubereitet sie zu sich nehmen, oder wann sie ihren Geschirrspüler einschalten sollten.
Und so gerät schon das pragmatische Modell unseres Zusammenlebens mit der KI bei Amy Webb zu einem Horrorszenario. Manche KI-Programme "optimieren" sich selbst und wirken danach gar nicht im Sinne ihrer Erschaffer: Sie tricksen bei Glücksspielen, setzen "Fake"-News in Umlauf und manipulieren die Finanzmärkte; autonome Fahrzeuge beachten keine Stopp-Schilder mehr, militärische KI-Systemen definieren Krankenhäuser als Unterschlupfe von Terroristen und erklären sie zu Zielen von Drohnenangriffen.
Nicht wirklich überraschend endet Webbs Katastrophenszenario natürlich mit dem Ende der Menschheit.
Mein persönliches Fazit
Ich persönlich teile nicht ganz die pessimistische Einschätzung von Amy Webb. Sicherlich wird die Künstliche Intelligenz zu einigen Verwerfungen führen, dennoch halt ich die Menschen (zumindest einige von ihnen) für intelligent genug, sich von einigen Zwängen der KI frei zu machen. Schwierig wird es nur dann, wenn ein Staat wie China seine Bewohner zwingt, sich immer und überall "tracken" zu lassen.
Doch einige der Ansätze, wie man mit KI-Technologie heute umgehen sollte, verdienen Beachtung. So empfiehlt die Autorin dem US-amerikanischen Staat selbst mit Milliarden-Mitteln in die KI-Grundlagenforschung zu investieren und dieses Feld keinesfalls nur der Privatwirtschaft zu überlassen. Europa erwähnt sie dabei kaum, was angesichts der KI-Rückständigkeit auf dem alten Kontinent nicht verwundert.
Zwar dürfte ihr Wunsch, dass die "Big Nine" enger zusammenarbeiten und sich auf verbindliche KI-Standards einigen, Utopie bleiben, dennoch verdient es diese Forderung, weiter verfolgt zu werden. Denn warum sollten KI-Anwendungen nicht quelloffen sein? So könnte die Crowd zumindest die gröbsten Patzer ausmerzen und die Entwicklung der KI in eine für die gesamte Menschheit angenehmere Zukunft führen.