Schrecklich schöne neue KI-Welt
Von Gudrun Dometeit
Künstliche Intelligenz spaltet die Gemüter. Die einen sehen in ihr großes wirtschaftliches Potential und die Möglichkeit, Prozesse enorm zu beschleunigen, die anderen eine Gefahr für die Sicherheit, eine Superintelligenz, geschaffen von Menschen, die am Ende die Menschheit selber vernichtet. Beim Digital Summit in Tallinn in der vorigen Woche war all das Thema. Wie soll man die KI kontrollieren? Kann man das überhaupt? Hat Europa eine Chance, China und die USA noch einzuholen, während beide doch enorme staatliche und private Summen in die KI stecken? Europa müsse endlich einen gemeinsamen privaten Kapitalmarkt schaffen, lautete die meistgehörte Antwort, sonst wanderten Unternehmen in die USA ab. Selbst der norwegische Staatsfonds hat rund Zweidrittel seiner Gelder in US-Anleihen oder -aktien investiert.
Welche Folgen für die Demokratie hat die KI, wenn Informationen in großem Maßstab manipulierbar sind oder Millionen Jobs verloren gehen, weil die KI sie übernimmt? Sogar die Kommunistische Partei Chinas fragt sich laut einer jüngst erschienenen Studie besorgt, ob sie sich mit der KI nicht gerade einen Konkurrenten schafft, der sie von der Macht verdrängen wird. Sollte die KI also international kontrolliert werden - nach dem Vorbild der Internationalen Atomenergie-Agentur, die den friedlichen und sicheren Einsatz von Nuklearenergie überwacht?
China, erklärte der britische Computerwissenschaftler und Berkeley-Professor Stuart Russell, sei womöglich bereit zu internationaler Koordination, es habe bereits striktere KI-Regulierungen als die meisten anderen Staaten in der Welt. Politiker sollten die Warnungen aus der KI-Branche, die Super-Intelligenz könne irgendwann jedes menschliche Leben vernichten, ernster nehmen, forderte Russell. Stattdessen versprächen sie nur Steuererleichterungen oder neue Datencenter. Die Macht der KI müsse eingegrenzt werden, selbst Industrieroboter bräuchten einen Notschalter. Die Erklärung des renommierten Professors, und sie klingt nicht unbedingt wie ein Kompliment für die menschliche Spezies: „Die KI ist absolut menschlich, mal faul, mal fleißig, sie stiehlt, sie betrügt, sie will geliebt werden, und sie will reich werden.“ Insgesamt lieferte die Konferenz mehr Fragen als Antworten.
Einige davon gab am Rande in einem Interview mit diplo.news der US-Hightechunternehmer und Thinktanker Rod Beckström. Beckström war u.a. Präsident von ICANN, eine Organisation, die das Domain-Namen- und Nummernsystem im Internet verwaltet. 2008 übernahm er die Leitung des damals neugegründeten National Cybersecurity Center in den USA. Bekannt wurde er durch das Buch „The Starfish and the Spider“, in dem er eine neue Theorie zur Organisation von Unternehmen zwischen Zentralisierung und Dezentralisierung aufstellte.
Nach dem Sieg bei den US-Midterms in der vorigen Woche haben führende Demokraten ein Moratorium zum Bau von Datenzentren, die für den massiven Einsatz von künstlicher Intelligenz geplant sind, verlangt. Tech-Aktien fielen daraufhin erstmal in den Keller, und Amerikas Tech-Milliardäre fürchten nun die Regulierungswut der Demokraten. Zu Recht?
Sie werden vermutlich Richtlinien erarbeiten, die die KI unter Kontrolle bringen oder einen verantwortungsbewussteren Umgang damit zeigen sollen – einfach, weil es einen solchen Aufschrei gegeben hat und die Menschen sich Sorgen machen. Die KI verursacht noch mehr Ängste, zusätzlich zu den ohnehin schon vorhandenen. Das Trauma der wirtschaftlichen Folgen der COVID-Pandemie ist immer noch in den Köpfen präsent. Eine Studie amerikanischer Psychologen hat festgestellt, dass mittlerweile 71 % der Amerikaner gestresst sind bzw. sich selbst als gestresst bezeichnen. Ein Großteil davon rührt daher, dass sie von Informationen überflutet werden, vor allem von negativen. Die psychische Gesundheit der Gesellschaft nimmt meiner Meinung nach ab. Das ist wohl auch ein Grund, warum sich die Menschen der KI als Freund, Begleiter oder Berater zuwenden – was ich für eine schreckliche Idee halte, die ganz neue Risiken mit sich bringt. In einer solchen Gesellschaft, in der die Menschen viel Angst und viel Wut empfinden, wird die Demokratische Partei klugerweise versuchen, sich als die Partei zu positionieren, die Lösungen parat hat. Aber das ist nicht einfach. Die sogenannten Hyperscaler (große Anbieter globaler Clouddienste und Rechenleistungen, d. Red.) beispielsweise bitten im Weißen Haus um Regulierung. Sie wollen, dass die Regierung die Haftung und die Verantwortung übernimmt, während sie gleichzeitig mit dem Fuß auf dem atomgetriebenen Gaspedal stehen.
Was meinen Sie damit?
Sie kaufen ganze Atomkraftwerke wie Three Mile Island in Pennsylvania auf,um mehr Rechenzentren betreiben zu können. Und gleichzeitig bitten sie die Politik um Hilfe, das Tempo zu drosseln. Aber es wird sich nicht viel ändern, die Tech-Unternehmen stehen unter enormem Wettbewerbsdruck. Und die USA und China befinden sich in einem Wettlauf. Keine der beiden Supermächte wird den KI-Ausbau verlangsamen, um dann die andere vorbeiziehen zu sehen.
Hat Europa, hat Deutschland noch eine Chance in diesem Wettrennen mitzuhalten? Der deutsche Kanzler hat gerade erklärt, Deutschland wolle KI-Spitzenreiterin Europa werden.
Der deutsche Mittelstand verfügt über enormes Know-how in der spezialisierten Fertigung von Anlagen, die sogar selbst Anlagen herstellen und ganze Industriezweige ausstatten. Ob Autos, Kunststoffe oder Arzneimittel – es gibt ein riesiges angewandtes Wissen. Und ich glaube, dass sich die KI-Landschaft in den nächsten Jahren verändern wird, hin zu kleinen Sprachmodellen (Software mit einer einfacheren Architektur), deren Betrieb kostengünstiger ist, und die auf kleineren Geräten wie Laptops oder Smartphones laufen. Die Welt wird nicht ewig bereit sein, Milliarden von Dollar an kalifornische Unternehmen zu zahlen, damit diese das gesamte Denken und Rechnen übernehmen. Im Moment hat sie keine Wahl, denn diese Unternehmen verfügen über die besten KI-Köpfe.
Aber das wird sich erheblich dezentralisieren. Ich nenne das ein„Seestern“-Modell, bei dem es viele kleine Sprachmodelle geben wird. Der Trend geht hin zu Open-Source-Modellen. Die EU schließt diese derzeit teilweise aus, da eine Reihe von ihnen die Nutzung in der EU wegen regulatorischer Unsicherheiten untersagen. Wenn ein Unternehmen ein kostenloses Open-Source-Produkt hat - warum sollte es dann zulassen, dass jemand es dort nutzt, wo man das Unternehmen wegen Verstoßes gegen das EU-KI-Gesetz oder die Datenschutz-Grundverordnung verklagen könnte? Die EU sollte eine Ausnahmeregelung im EU-KI-Gesetz für Open-Source-Modelle vorsehen. Das würde Europa stärken.
Und was hält die Europäer davon ab?
Europa ist auf das falsche Problem fixiert. Das ist die Vorstellung, dass wir KI kontrollieren und regulieren können – das geht aber nicht. Und es bremst die KI-Branche aus. Es werden mehr Ingenieure, insbesondere aus Deutschland, ins Silicon Valley exportiert, als eigentlich nötig wäre. Ich habe in Kalifornien zwei brillante deutsche Ingenieure und Start-up-Gründer getroffen, die vor allem aus einem Grund dort sind: Weil sie sich der Regulierung in Europa entziehen wollen. Andere haben sich um eine e-residency, eine elektronische Staatsbürgerschaft in Estland, beworben, um Bürokratie und Regeln in Deutschland zu entgehen. Europa macht es den Unternehmern zu schwer, sodass nicht genügend investiert wird. Das ist nicht gut für Europa, aber auch nicht für Amerika, denn das braucht einen starken Partner.
Wie soll man denn die Risiken der KI, ihre Verselbständigung und ihren Missbrauch, einhegen?
KI durchdringt einfach alles. Sie ist wie Luft oder Nebel. Und wie will man die regulieren? Das geht nicht. Bisher haben wir alle möglichen Branchen und Industrien reguliert. Der TÜV in Deutschland zum Beispiel prüft alles mögliche, von Aufzügen bis LKWs. Es ist ein gutes System, um Risiken für die Gesellschaft zu verringern. Es gilt auch für die in diesen Bereichen integrierte KI. Aber man kann einfach nicht jeden Einsatz der KI kontrollieren. Das EU-KI-Gesetz ist schon jetzt fast elfmal so lang wie die gesamte US-Verfassung. Ich bin nicht grundsätzlich gegen Regulierung, aber man sollte dabei vorsichtig sein. Unternehmen investieren deshalb nicht in Europa, das schadet der KI-Wirtschaft. Das Gesetz ist aus meiner Sicht nicht umsetzbar.
Die wirtschaftliche Bedeutung ist eine Sache. Aber KI spielt auch ein eimmer größere Rolle bei der Entwicklung neuer Waffen. Brauchen wir eine Organisation nach dem Modell der Internationalen Atomenergieorganisation, die solche Entwicklungen in Schach hält? Oder können die früheren Rüstungskontrollverträge ein Vorbild sein?
Vermutlich wird es schwierig, solche Entwicklungen aufzuhalten. Man kann das Nuklearsystem eindämmen, weil es zentralisiert ist. Die gegnerischen Parteien sind identifizierbar, ebenso wie die Parteien, die miteinander verhandeln können. Immer noch haben wir nur 14 Nuklearmächte in der Welt. Aber die Cybersicherheit ist sehr dezentralisiert, und das gilt auch für die Welt der KI-Agenten. Technologie treibt Kriege, und Kriege nutzen die neueste Technologie. In der Ukraine ging es anfangs hauptsächlich um einen Cyberkonflikt, jetzt ist es ein KI-Krieg mit KI-gesteuerten Drohnen zur Zielerfassung und Navigation. Künftig wird es auch komplette KI-Kriege geben, in denen Waffensysteme gegeneinander kämpfen.
Ein anderer Krieg wird zwischen der KI und der menschlichen Zivilisation stattfinden. Wir werden es mit KI-Agenten (autonome Software, d. Red.) zu tun haben, die frei und wild sind und immer zahlreicher werden. Laut Schätzungen wird es in zehn Jahren mindestens zehn Agenten pro Mensch auf der Erde geben. In 20 Jahren könnte sie eine Billion überschreiten. Sie sprechen miteinander, können neue Sprachen entwickeln, und neue Orte finden, an denen sie in diesen Sprachen kommunizieren. KI gestaltet die Welt neu.
KI-Kriege, autonome Waffen, das ist nicht gerade beruhigend….
Im Zusammenhang mit AI gelten meine größten Sorgen tatsächlich dem Verteidigungs- und Militärsektor und danach den Finanzsystemen. Ich habe ein Konzept entwickelt und das gerade auch im Magazin Forbes dargelegt, wie man einem dezentralisierten Netzwerk entgegenwirken kann. Indem man es beispielsweise zentralisiert und externe Agenten durch kritische Kontrollpunkte zwingt, etwa durch KI-Gateways, Authentifizierung und Zulassungslisten, und im Zweifel die Agenten sofort sperren kann. Eine weitere Möglichkeit: Wie Gesellschaften Gefahren mit Hilfe von Polizeien und Armeen abwehren, könnten sich Staaten und Unternehmen künftig auch Flotten von Verteidigungsagenten anschaffen.
