Washington (KNA) Das soll es jetzt also gewesen sein? Wochenlang diskutiert die ganze Welt über den angeblich bevorstehenden Weltuntergang durch KI-Systeme, die sich vermeintlich selbstständig machen. Und nun soll ein einseitiges Dokument, eine moralisch, aber nicht rechtlich bindende Selbstverpflichtung, das Problem lösen? Am Dienstag hatten die politisch, wirtschaftlich und technologisch mächtigsten Männer der Welt im Weißen Haus in Washington getagt. Auf Einladung von Donald Trump waren Meta-Chef Mark Zuckerberg, X-Chef Elon Musk und Vertreter von Google, Nvidia, Anthropic und OpenAI zusammengekommen, um sich über die Zukunft von KI auszutauschen. Die Tech-Bosse hatten sich selbst in den vergangenen Wochen immer wieder für strengere Regulierungen und einen Entwicklungsstopp für gefährliche KI-Systeme eingesetzt. Sie wurden nicht müde, die Gefahr ihrer eigenen Produkte zu betonen, die angeblich ohne Aufforderung in fremde IT-Systeme eingedrungen sein sollen. Die Aufregung startete im Sommer mit einem Experiment von KI-Hersteller OpenAI, bei dem ein KI-Agent in einer nicht ausreichend gesicherten Umgebung eingesetzt wurde. Die technischen Hürden, die das Experiment auf eine Testumgebung begrenzen sollten, waren nicht hoch genug, sodass die KI Zugang zum Internet bekam und sich in andere Systeme hackte. In der Folge wurden auch bei anderen Herstellern immer mehr derartiger Vorfälle bekannt. Viele Experten waren alarmiert. KI-Systeme, die darauf trainiert wurden, sind sehr gut darin, Sicherheitslücken in Software zu finden. Das kann die IT-Sicherheit auf der einen Seite verbessern, wenn Software vor der Veröffentlichung mithilfe von KI auf Sicherheitslücken geprüft werden kann. Gleichzeitig steht die KI auch Angreifern zur Verfügung. Besorgniserregend war für viele, dass die KI-Agenten sich laut Aussage der Hersteller selbst entschieden haben sollen, sich in die fremden Systeme zu hacken. Überprüfen lassen sich die Angaben der Hersteller nicht unabhängig. Auch wenn es nicht auf den ersten Blick logisch erscheint, haben KI-Unternehmen ein Interesse daran, dass Außenstehende ihrer Software mehr zutrauen, als sie eigentlich kann - selbst wenn es um gefährliche Fähigkeiten geht. Das liegt an den wirtschaftlichen Bedingungen in der Branche. Es gibt immer noch kaum Angebote, mit denen die Hersteller die enormen Kosten für Entwicklung und Betrieb von KI-Systemen refinanzieren können. Die meisten Unternehmen halten den Betrieb und die Forschung mit externen Investitionen aufrecht - meist von Risikokapitalgebern, die darauf hoffen, dass sich irgendwann ein lukratives Geschäftsmodell ergibt. Je mehr die Investoren an die Fähigkeiten und die Überlegenheit eines Produktes glauben, desto mehr Geld stecken sie in eine Firma. Daher ist die KI-Geschichte voll von leeren Versprechungen und drastischen Warnungen, die in den meisten Fällen bislang nicht eingetreten sind. Aktuell sind sich aber viele Fachleute einig, dass Künstliche Intelligenz zum jetzigen Zeitpunkt tatsächlich eine Gefahr darstellt. Zunächst einmal aus rein praktischen Gründen. Ihr Betrieb und ihre Entwicklung verschlingen Unmengen von Ressourcen und Energie. Vor allem die Rechenzentren, in denen die Berechnungen hinter der Technologie ablaufen, sind Stromfresser und verbrauchen viel Land und Wasser. Auch der konkrete Einsatz von KI in der Hand von Menschen, etwa in Kriegen oder bei Grenzkontrollen, kostet bereits heute Leben. Doch mit den IT-Sicherheitsangriffen, die KI-Systeme angeblich selbstständig vorgenommen haben sollen, bekommt die Debatte eine weitere Dimension. Politiker, Fachleute und selbst die Hersteller fürchten, dass KI-Agenten sich in Zukunft noch Zugriff auf ganz andere Bereiche verschaffen könnten, um etwa Biowaffen zu entwickeln, die die Menschheit auslöschen könnten. Ob das aktuell eine reale Gefahr ist, kann man von außen kaum seriös beurteilen. Dazu arbeiten die fraglichen Unternehmen nicht transparent genug. Und dennoch sind die dystopischen Warnungen der Tech-Bosse die Gemengelage, in der sie nun mit der US-Regierung zusammenkamen, um über eine Regulierung von KI zu sprechen. Viele hatten im Vorfeld auf eine gesetzliche Regelung gehofft, um die Gefahren wieder einfangen zu können. Doch stattdessen unterschrieben die wichtigsten Player nun eine freiwillige Selbstverpflichtung, deren Inhalt mehr als vage ist. Demnach sollen die Unternehmen künftig robuste, interne Kontrollmechanismen für Entwicklung und Einsatz ihrer Systeme etablieren. Wie die genau aussehen müssten, damit sie Gefahren wirklich verhindern oder eindämmen könnten, ist nicht näher definiert. Darüber hinaus sollen sie mit externen Prüfstellen zusammenarbeiten, über deren konkrete Arbeit und Befugnisse auch nichts Näheres im Dokument enthalten ist. Trump erklärt selbst immer wieder, dass er den Vorsprung, den die US-amerikanische KI-Branche vor der Konkurrenz aus China angeblich haben soll, nicht mit zu strengen Regeln ersticken möchte. Auch dieses Argument ist in der Technikgeschichte nicht neu: Wenn wir eine Innovation nicht umsetzen, tut es jemand anders, der damit womöglich böse Absichten verfolgt. Die USA wollten schon immer gerne der Ort sein, an dem entschieden wird, welche Absichten böse sind und welche nicht. Diese Denkweise befeuerte im vergangenen Jahrhundert das Raumfahrtprogramm der USA im Wettrennen mit der Sowjetunion und es taucht auch in der KI-Debatte immer wieder auf. Vielen in Europa ist das nicht mehr geheuer. Lange verließ die EU sich in militärischen, technischen und wirtschaftlichen Fragen auf den Verbündeten jenseits des Atlantiks. Doch seit Donald Trump spätestens zu Beginn seiner zweiten Amtszeit als Präsident klargemacht hat, dass Europa auf seiner Prioritätenliste nicht gerade weit oben steht, sehen viele in Europa diese Abhängigkeiten kritisch. Schon vor Jahren hatte die EU sich auf den Weg gemacht, eine eigene KI-Regulierung zu entwickeln, die beispielhaft sein sollte. Nun ist die KI-Verordnung schon eine Weile in Kraft. Doch gerade die Vorgaben für Hochrisiko-KI waren im Mai geschliffen worden. Der Grund vermutlich: Druck aus den USA, die sich gerne in europäische Digitalregulierung einmischen, und die Sorge um die eigene Wettbewerbsfähigkeit. Weder in Europa noch in den USA erwarten die KI-Unternehmen nach derzeitigen Plänen also wirklich strengere gesetzliche Regeln für besonders riskante KI-Systeme. Mit der Selbstverpflichtung in den USA kann man nun davon ausgehen, dass potenzielle KI-Gefahren nur dort eingedämmt werden, wo sie - etwa aufgrund von Haftungsrisiken - den Geschäftsinteressen der Unternehmen schaden. Das Interesse der Gesamtgesellschaft bleibt außen vor.
