Ilya Sutskever, ehemaliger Chef-Wissenschaftler von OpenAI, gründet neues KI-Unternehmen

Ilya Sutskever, einer der Mitbegründer von OpenAI, hat ein neues Unternehmen namens Safe Superintelligence Inc. (SSI) gegründet, nur einen Monat nach seinem offiziellen Ausscheiden bei OpenAI.

Sutskever, der lange Zeit Chef-Wissenschaftler bei OpenAI war, gründete SSI gemeinsam mit dem ehemaligen Y Combinator-Partner Daniel Gross und dem ehemaligen OpenAI-Ingenieur Daniel Levy.

Bei OpenAI war Sutskever maßgeblich an den Bemühungen des Unternehmens beteiligt, die KI-Sicherheit mit dem Aufkommen von „superintelligenten“ KI-Systemen zu verbessern, ein Bereich, an dem er gemeinsam mit Jan Leike arbeitete, der das Superalignment-Team von OpenAI mit leitete. Sowohl Sutskever als auch Leike verließen das Unternehmen im Mai nach einem heftigen Streit mit der Unternehmensführung von OpenAI über den Umgang mit der KI-Sicherheit. Leike leitet nun ein Team beim Konkurrenzunternehmen Anthropic.

Sutskever hat lange Zeit die heikleren Aspekte der KI-Sicherheit beleuchtet. In einem Blogbeitrag aus dem Jahr 2023 sagten Sutskever und Leike voraus, dass die KI mit einer Intelligenz, die die von Menschen übersteigt, innerhalb eines Jahrzehnts erscheinen könnte – und dass sie nicht unbedingt wohlwollend sein wird, was die Notwendigkeit von Forschung zur Kontrolle und Begrenzung erfordert.

Er ist offensichtlich auch heute noch der Sache verpflichtet. Am Mittwochnachmittag verkündete ein Tweet die Gründung von Sutskevers neuem Unternehmen mit den Worten: „SSI ist unsere Mission, unser Name und unser gesamter Produktfahrplan, weil es unser einziger Fokus ist. Unser Team, unsere Investoren und unser Geschäftsmodell sind alle darauf ausgerichtet, SSI zu erreichen. Wir behandeln Sicherheit und Fähigkeiten parallel als technische Probleme, die durch revolutionäre Technik und wissenschaftliche Durchbrüche gelöst werden.“

„Wir planen, die Fähigkeiten so schnell wie möglich voranzutreiben, während wir sicherstellen, dass unsere Sicherheit immer voraus bleibt. So können wir in Ruhe skalieren. Unser alleiniger Fokus bedeutet, dass keine Ablenkung durch Managementaufwand oder Produktzyklen besteht, und unser Geschäftsmodell bedeutet, dass Sicherheit, Schutz und Fortschritt alle von kurzfristigen kommerziellen Drücken abgeschirmt sind.“

Sutskever sprach mit Bloomberg ausführlicher über das neue Unternehmen, wollte jedoch nicht über die Finanzierungssituation oder Bewertung sprechen.

Deutlicher ist jedoch, dass SSI im Gegensatz zu OpenAI – das ursprünglich 2015 als gemeinnützige Organisation gegründet wurde und sich dann umstrukturierte, als die enormen Geldsummen für seine Rechenleistung offensichtlicher wurden – von Grund auf als gewinnorientiertes Unternehmen konzipiert wird. Beurteilt nach dem Interesse an KI und den spezifischen Qualifikationen des Teams könnte es auch sehr schnell von Kapital überwältigt werden. „Von all den Problemen, mit denen wir konfrontiert sind“, sagt Gross gegenüber Bloomberg, „wird die Kapitalbeschaffung nicht eines davon sein.“

SSI hat Büros in Palo Alto und Tel Aviv, wo derzeit technisches Personal rekrutiert wird.