Auf dem Seoul-Gipfel verpflichten sich Staats- und Unternehmensführer zur AI-Sicherheit

Regierungsbeamte und Führungskräfte der KI-Industrie stimmten am Dienstag zu, grundlegende Sicherheitsmaßnahmen in dem sich schnell entwickelnden Bereich anzuwenden und ein internationales Sicherheitsforschungsnetzwerk zu etablieren.

Nach fast sechs Monaten seit dem Eröffnungsgipfel zur KI-Sicherheit in Bletchley Park in England veranstalten Großbritannien und Südkorea in dieser Woche den KI-Sicherheitsgipfel in Seoul. Die Versammlung unterstreicht die neuen Herausforderungen und Chancen, vor denen die Welt mit dem Aufkommen der KI-Technologie steht.

Die britische Regierung gab am Dienstag eine neue Vereinbarung zwischen 10 Ländern und der Europäischen Union bekannt, um ein internationales Netzwerk ähnlich dem AI Safety Institute des Vereinigten Königreichs zu etablieren, das die erste öffentlich unterstützte Organisation der Welt ist, um die Fortschritte der KI-Sicherheitswissenschaft zu beschleunigen. Das Netzwerk wird ein gemeinsames Verständnis für KI-Sicherheit fördern und seine Arbeit mit Forschung, Standards und Tests abstimmen. Australien, Kanada, die EU, Frankreich, Deutschland, Italien, Japan, Singapur, Südkorea, das Vereinigte Königreich und die Vereinigten Staaten haben die Vereinbarung unterzeichnet.

Am ersten Tag des KI-Gipfels in Seoul trafen sich globale Führer und führende KI-Unternehmen zu einer virtuellen Sitzung unter der Leitung des britischen Premierministers Rishi Sunak und des südkoreanischen Präsidenten Yoon Suk Yeol, um über KI-Sicherheit, Innovation und Inklusion zu diskutieren.

Während der Diskussionen einigten sich die Führer auf die umfassendere Seoul-Erklärung und betonten die verstärkte internationale Zusammenarbeit im Aufbau von KI, um globale Probleme anzugehen, die Menschenrechte zu wahren und digitale Lücken weltweit zu überbrücken, wobei sie sich gleichzeitig auf "menschenzentriert, vertrauenswürdig und verantwortungsbewusst" konzentrierten.

"KI ist eine unglaublich spannende Technologie - und das Vereinigte Königreich hat die weltweiten Bemühungen angeführt, sich mit ihrem Potenzial auseinanderzusetzen, indem es letztes Jahr den weltweit ersten AI Safety Summit veranstaltet hat", sagte Sunak in einer Erklärung der britischen Regierung. "Aber um die Vorteile zu erlangen, müssen wir sicherstellen, dass sie sicher ist. Deshalb bin ich erfreut, dass wir heute eine Vereinbarung für ein Netzwerk von AI Safety Institutes erzielt haben."

Erst letzten Monat besiegelten das Vereinigte Königreich und die Vereinigten Staaten eine Partnerschafts-Memorandum über die Zusammenarbeit in der Forschung, Sicherheitsbewertung und Anleitung zur KI-Sicherheit.

Die heute verkündete Vereinbarung folgt den weltweit ersten AI Safety Commitments von 16 Unternehmen, die an KI beteiligt sind, darunter Amazon, Anthropic, Cohere, Google, IBM, Inflection AI, Meta, Microsoft, Mistral AI, Open AI, Samsung Electronics, Technology Innovation Institute, xAi und Zhipu.ai. (Zhipu.ai ist ein chinesisches Unternehmen, das von Alibaba, Ant und Tencent unterstützt wird.)

Die KI-Unternehmen, darunter solche aus den USA, China und den Vereinigten Arabischen Emiraten (VAE), haben den Sicherheitsverpflichtungen zugestimmt, "kein Modell oder System zu entwickeln oder einzusetzen, wenn die Risiken nicht unterhalb der Schwellenwerte gehalten werden können", so die Erklärung der britischen Regierung.

"Es ist weltweit einzigartig, dass so viele führende KI-Unternehmen aus so vielen verschiedenen Teilen der Welt den gleichen Verpflichtungen zur AI-Sicherheit zustimmen", sagte Sunak. "Diese Verpflichtungen stellen sicher, dass die führenden KI-Unternehmen der Welt Transparenz und Rechenschaftspflicht in ihren Plänen zur Entwicklung sicherer KI bieten werden."