OpenAI's Altman vermeidet Fragen zur Regierungsführung, Johansson beim UN-KI-Gipfel
GENF (AP) — Der OpenAI-CEO Sam Altman war ein Starredner auf der jährlichen Konferenz „AI for Good“ am Donnerstag und sprach auf dem jährlichen Treffen der UN-Telekommunikationsagentur über das gesellschaftliche Potenzial der künstlichen Intelligenz-Technologie zu nutzen.
Aber Altman musste einen Teil seines virtuellen Auftritts damit verbringen, heikle Fragen zur Regierungsführung, einer KI-Stimmenkontroverse und Kritik von abgesetzten Vorstandsmitgliedern abzuwehren.
Altmans Auftritt, um über die Vorteile von KI zu sprechen, erfolgt, während sein Unternehmen einen steigenden Strom von Bedenken hinsichtlich seiner Geschäftspraktiken und darüber, wie es sich um die KI-Sicherheit kümmert, bekämpft.
Er war unter den Technologieführern, die sich dem Genfer Treffen anschlossen, da die zweitägige Veranstaltung Reden und Gespräche über künstliche Intelligenz-Anwendungen für Robotik, Medizin, Bildung, nachhaltige Entwicklung und mehr beherbergt.
Die jüngste Unzufriedenheit bei OpenAI fiel mit der neuen Produktvorstellung des Unternehmens zusammen, die Anfang Mai die Kritik von Hollywood-Star Scarlett Johansson auf sich zog, die schockiert war zu hören, dass die Stimme von ChatGPT „gruselig ähnlich“ ihrer eigenen klang, obwohl sie zuvor Altmans Bitte abgelehnt hatte, ihre Stimme für das System zur Verfügung zu stellen.
Altman sprach in einem Interview mit Nicholas Thompson, dem CEO von The Atlantic, ausführlich über Themen im Zusammenhang mit KI. Er vermied es jedoch, Fragen zu einigen sensiblen Themen zu beantworten, wie zum Beispiel die Verwendung der Stimme eines Schauspielers, die der von Johansson ähnelte.
„Es ist nicht ihre Stimme. Es soll auch nicht so sein. Es tut mir leid für die Verwirrung. Offensichtlich denken Sie, dass es so ist“, sagte Altman und wies darauf hin, dass Menschen unterschiedliche Meinungen darüber haben, wie ähnlich Stimmen klingen.
„Ich bin mir nicht sicher, was ich noch sagen soll“, fügte Altman hinzu. Thompson, dessen Magazin einen Tag zuvor einen Produkt- und Inhaltsvertrag mit OpenAI abgeschlossen hatte, fragte nicht weiter nach.
Später fragte Thompson Altman nach der Regierungsführung bei OpenAI, einschließlich einer Idee für ein Aufsichtsgremium.
„Wir setzen unsere Gespräche darüber fort, wie wir die Regierungsführung umsetzen können. Ich sollte wahrscheinlich jetzt nicht zu viel mehr sagen“, sagte Altman.
„Sagen Sie noch etwas“, antwortete Thompson, was Gelächter beim Publikum auslöste.
„Ich werde es passieren lassen. Es tut mir leid“, antwortete Altman.
Die Aufsicht über große KI-Unternehmen wie OpenAI ist ein zunehmend umstrittenes Thema. Kurz nach der Johansson-Kontroverse sagte der scheidende Forscher Jan Leike, dass das Unternehmen die Sicherheit „hintenanstellen würde, um glänzende Produkte zu präsentieren“ und nannte Meinungsverschiedenheiten mit den Top-Führungskräften, die einen „kritischen Punkt“ erreicht haben.
Leikes Abgang erfolgte kurz nachdem der Mitbegründer Ilya Sutskever ausgeschieden war. Die beiden leiteten gemeinsam OpenAIs „Superalignment“-Team, das sich um die Gründungsmission der Organisation drehte, sicher eine bessere als menschliche KI zu entwickeln, die als künstliche allgemeine Intelligenz oder AGI bezeichnet wird. Dieses Team wurde aufgelöst und durch ein anderes Sicherheitskomitee ersetzt.
Thompson fragte nach Kommentaren von Helen Toner, einer Forscherin an der Georgetown University, die im vergangenen Jahr zu einer Gruppe von OpenAI-Verwaltungsratsmitgliedern gehörte, die nach einem chaotischen Machtkampf mit Altman abgesetzt wurden. Toner, die Teil einer Gruppe war, die Bedenken hinsichtlich der KI-Sicherheitsrisiken hatte, kritisierte Altman in einem Podcast dafür, dass er Informationen zurückhielt, darstellte, was bei OpenAI passierte oder „offen lügte.“
In einem Beispiel sagte sie, als ChatGPT im November 2022 veröffentlicht wurde, „wurde der Verwaltungsrat nicht im Voraus darüber informiert. Wir haben von ChatGPT auf Twitter erfahren.“
„Ich bin anderer Meinung über ihre Erinnerung an die Ereignisse“, sagte Altman. „Toner kümmert sich wirklich um ein gutes AGI-Ergebnis, und das schätze ich an ihr, und ich wünsche ihr alles Gute. Ich möchte wahrscheinlich nicht hier in eine Zeile-für-Zeile-Widerlegung eingehen.“
OpenAI reitet auf einer neuen Welle der generativen KI-Technologie, die vor 18 Monaten öffentlich bekannt wurde, als sie ChatGPT startete, ein frühes Highlight unter KI-Systemen, die basierend auf einer umfangreichen Datenbank von Online-Schreibungen, Büchern und anderen Medien neuartigen Text, Bilder und Videos erzeugen. Seitdem haben auch andere Unternehmensgiganten und KI-Startups ihre Versionen der Technologie eingeführt.
Während die Bemühungen der UN für „KI für das Gute“ der neuesten generativen KI-Begeisterung vorausgehen, haben die rasche Weiterentwicklung und Kommerzialisierung der Technologie die Aufmerksamkeit der Welt auf sich gezogen.
„Künstliche Intelligenz verändert unsere Welt und unser Leben“, sagte der UN-Generalsekretär António Guterres per Video und wies auf ihr Potenzial für Dinge wie Bildung und Gesundheitswesen in abgelegenen Gebieten, Steigerung der Ernteerträge und Frühwarnsysteme für Naturkatastrophen hin.
Politische Führungskräfte auf der ganzen Welt sind besonders besorgt über KI-Tools, die die Verbreitung von Online-Desinformation beschleunigen könnten: Mit ein paar eingegebenen Befehlen und Anfragen können computergenerierte Texte und Bilder auf sozialen Medien und im Internet verbreitet werden und die Grenze zwischen Fake News und Realität verschwimmen lassen.
„Die Umsetzung ihres Potenzials in die Realität erfordert KI, die Vorurteile, Fehlinformationen und Sicherheitsbedrohungen reduziert, anstatt sie zu verschärfen“, sagte Guterres und betonte, dass es auch darum gehen müsse, Entwicklungsländern zu helfen, „KI für sich zu nutzen“ und „die unverbundenen“ auf der ganzen Welt zu verbinden.
——
Chan berichtete aus London. AP-Technologiejournalist Matt O’Brien in Providence, Rhode Island, trug zu diesem Bericht bei.
—---
Die Nachrichtenagentur Associated Press und OpenAI haben eine Lizenz- und Technologievereinbarung, die OpenAI den Zugriff auf Teile des Textarchivs von AP ermöglicht.
—-
Diese Geschichte wurde korrigiert, um zu zeigen, dass Thompsons Titel CEO, nicht Redakteur, des Atlantic ist.
