Atomtechnologie als Vorbild: Künstliche Intelligenz muss gebändigt werden!

Viele Forschende und Technologieexperten haben in den letzten Jahren vor Künstlicher Intelligenz (KI) gewarnt. Derart besorgte Einsprüche gegen eine Zukunftstechnologie hat man seit dem Beginn des Atomzeitalters nicht mehr gehört.

Elon Musk beispielsweise hält KI für „weitaus gefährlicher als Atombomben“. Und er fragt: „Warum haben wir keine regulatorische Aufsicht? Das ist Wahnsinn.“

Der verstorbene Physiker Stephen Hawking äußerte sich ähnlich: „Wenn wir nicht lernen, uns auf die potenziellen Risiken vorzubereiten und sie zu vermeiden, könnte KI das schlimmste Ereignis in der Geschichte unserer Zivilisation sein. Sie birgt Gefahren, wie mächtige autonome Waffen oder neue Möglichkeiten für die Wenigen, die Vielen zu unterdrücken.“

Es bedarf daher internationaler Leitplanken. Sie müssen sicherstellen, dass diese Technologie, die treffender als „datenbasierte Systeme“ bezeichnet werden sollte, dem Gemeinwohl dient.

Die Vereinten Nationen sollten eine Internationale Agentur für datenbasierte Systeme (IDA) einrichten – eine globale KI-Aufsichtsbehörde, welche die sichere, nachhaltige und friedliche Nutzung dieser Technologien fördert, die Einhaltung der Menschenrechte sicherstellt und die weltweite Zusammenarbeit in diesem Bereich unterstützt.

Diese Agentur sollte über Regulierungsbefugnisse verfügen, um dabei zu helfen, die Marktzulassung von KI-Produkten zu steuern. Angesichts der Ähnlichkeiten zwischen datenbasierten Systemen und Nukleartechnologien wäre die Internationale Atomenergie-Organisation (IAEA) das beste Modell für eine solche Einrichtung. Nicht zuletzt, weil sie eine der wenigen UN-Organisationen „mit Zähnen“ ist.

Atomenergiebehörde reguliert lebensbedrohende Technologie

Der Erfolg der IAEA hat gezeigt, dass wir in der Lage sind, das blinde Streben nach technologischem Fortschritt zu zügeln, wenn die Zukunft der Menschheit und des Planeten auf dem Spiel steht.

Nachdem die Bombardierung von Hiroshima und Nagasaki die verheerenden humanitären Folgen eines Atomkriegs aufgezeigt hatte, wurden Forschung und Entwicklung im Bereich der Kerntechnik eingeschränkt, um noch schlimmere Folgen zu verhindern. Ermöglicht wurde dies durch ein internationales Regime – die IAEA – mit starken Durchsetzungsmechanismen.

Völkerrecht und KI

Eine wachsende Zahl von Wissenschaftlern weltweit unterstützt die Einrichtung einer solchen IDA sowie die Schaffung datenbasierter Systeme auf der Grundlage der Achtung der Menschenrechte. „The Elders“, eine von Nelson Mandela gegründete unabhängige Gruppe führender Persönlichkeiten aus aller Welt, hat die UN-Mitgliedstaaten aufgefordert, bei der Generalversammlung einen Antrag an die Völkerrechtskommission zu stellen, dass ein internationaler Vertrag zur Einrichtung einer neuen UN-Agentur für KI-Sicherheit ausgearbeitet werde.

Ziel müsse sein, „diese mächtigen Technologien im Rahmen robuster Sicherheitsprotokolle zu verwalten“ und sicherzustellen, dass sie „in einer Weise genutzt werden, die mit dem Völkerrecht und den Menschenrechtsverträgen vereinbar ist“.

Auch Sam Altman, CEO von OpenAI, zählt zu den Befürwortern eines verbindlichen Rechtsrahmens für KI. Die Veröffentlichung von ChatGPT durch sein Unternehmen hatte Ende 2022 auf dem Gebiet der KI ein „Wettrüsten“ in Gang gesetzt. Eine internationale Behörde, fordert Altman, müsse „Systeme inspizieren, Audits verlangen, die Einhaltung von Sicherheitsstandards prüfen [und] Beschränkungen für den Einsatzgrad und das Sicherheitsniveau auferlegen“.

Die UN haben das Thema bereits aufgegriffen. Im Juli 2023 verabschiedete der UN-Menschenrechtsrat einstimmig eine Resolution zum Thema „Neue und aufkommende digitale Technologien und Menschenrechte“. Darin hält der Rat fest, dass „bestimmte Anwendungen der künstlichen Intelligenz ein unannehmbares Risiko für die Menschenrechte darstellen“.

Zudem heißt es darin, dass es „an einer angemessenen Regulierung mangelt“ und es „wirksame Maßnahmen zur Verhinderung, Milderung und Behebung negativer Auswirkungen solcher Technologien auf die Menschenrechte“ braucht. Bei seiner nächsten Sitzung im Juni will der Rat einen Bericht vorlegen, der sich den konkreten Herausforderungen und Best Practices widmet.

Im März nahm die UN-Generalversammlung einstimmig eine bahnbrechende Resolution zur „Nutzung der Chancen sicherer und vertrauenswürdiger Systeme der künstlichen Intelligenz für eine nachhaltige Entwicklung“ an. Darin wird anerkannt, dass „dieselben Rechte, die Menschen offline haben, auch online geschützt werden müssen, auch während des gesamten Lebenszyklus von Systemen der künstlichen Intelligenz“.

Die internationale Gemeinschaft hat die Gefahren erkannt. Der nächste Schritt liegt auf der Hand. Die UN müssen diesen globalen Konsens jetzt in die Tat umsetzen. Sie müssen eine IDA, eine Internationale Agentur für datenbasierte Systeme, einrichten – bevor es zu spät ist.