Etched baut einen KI-Chip, der nur einen Modeltyp ausführt

Da die generative KI immer mehr Branchen berührt, profitieren die Unternehmen, die Chips produzieren, um die Modelle auszuführen, enorm. Insbesondere Nvidia, das schätzungsweise 70% bis 95% des Marktes für KI-Chips beherrscht, hat einen enormen Einfluss. Cloud-Anbieter von Meta bis Microsoft investieren Milliarden von Dollar in Nvidia-GPUs, um nicht im Bereich der generativen KI zurückzufallen.

Die Anbieter von generativer KI sind aus verständlichen Gründen nicht mit dem Status quo zufrieden. Ein großer Teil ihres Erfolgs hängt von den Launen der dominanten Chip-Hersteller ab. Und so sind sie zusammen mit opportunistischen Risikokapitalgebern auf der Suche nach vielversprechenden Startups, die die AI-Chip-Inhaber herausfordern.

Etched ist eines von vielen alternativen Chipherstellern, die um einen Platz am Tisch kämpfen - aber auch eines der faszinierendsten. Erst zwei Jahre alt, wurde Etched von zwei Harvard-Abbrechern, Gavin Uberti (ex-OctoML und ex-Xnor.ai) und Chris Zhu, gegründet, die zusammen mit Robert Wachen und dem ehemaligen Technologiechef von Cypress Semiconductor, Mark Ross, einen Chip entwickeln wollten, der nur eine Sache kann: KI-Modelle ausführen.

Transformers bilden die Grundlage für OpenAIs Video-generierendes Modell Sora. Sie sind das Herzstück von Text-generierenden Modellen wie Anthropics Claude und Googles Gemini. Und sie treiben Kunstgeneratoren wie die neueste Version von Stable Diffusion an.

„Im Jahr 2022 haben wir darauf gewettet, dass Transformers die Welt übernehmen werden“, sagte Uberti, CEO von Etched, TechCrunch in einem Interview. „Wir haben einen Punkt in der Entwicklung von KI erreicht, an dem spezialisierte Chips, die besser als Allzweck-GPUs arbeiten können, unvermeidlich sind - und die technischen Entscheidungsträger der Welt wissen das.“

Etcheds Chip, genannt Sohu, ist ein ASIC (anwendungsspezifische integrierte Schaltung) - ein Chip, der speziell für eine bestimmte Anwendung, in diesem Fall für die Ausführung von Transformers, entwickelt wurde. Sohu, hergestellt mit dem 4nm-Prozess von TSMC, soll laut Uberti dramatisch bessere Inferenzleistung als GPUs und andere Allzweck-KI-Chips bieten, während er weniger Energie verbraucht.

„Sohu ist um eine Größenordnung schneller und günstiger als selbst die nächste Generation von Nvidias Blackwell GB200 GPUs beim Ausführen von Text-, Bild- und Video-Transformern“, sagte Uberti. „Ein Sohu Server ersetzt 160 H100 GPUs ... Sohu wird für Geschäftsführer, die spezialisierte Chips benötigen, eine erschwinglichere, effizientere und umweltfreundlichere Option sein.“

Etched trifft auf einen Wendepunkt im Wettlauf um die generative KI-Infrastruktur. Neben den Kostenbedenken sind die GPUs und andere für das Ausführen von Modellen im großen Maßstab erforderliche Hardwarekomponenten gefährlich energiehungrig.

Goldman Sachs prognostiziert, dass die KI bis 2030 einen Anstieg der Stromnachfrage in Rechenzentren um 160% verzeichnen wird, was zu einem erheblichen Anstieg der Treibhausgasemissionen beiträgt. Forscher der UC Riverside schätzen, dass die weltweite KI-Nutzung bis 2027 dazu führen könnte, dass Datenzentren 1,1 Billionen bis 1,7 Billionen Gallonen Frischwasser beanspruchen, was lokale Ressourcen beeinträchtigt. (Viele Rechenzentren verwenden Wasser zur Kühlung der Server.)

„Kurz gesagt, unsere zukünftigen Kunden werden es sich nicht leisten können, nicht auf Sohu umzusteigen“, sagte Uberti. „Unternehmen sind bereit, auf Etched zu setzen, weil Geschwindigkeit und Kosten existenziell für die KI-Produkte sind, die sie zu entwickeln versuchen.“

Etched hat heute bekannt gegeben, dass es eine Series-A-Finanzierungsrunde in Höhe von 120 Millionen US-Dollar, die von Primary Venture Partners und Positive Sum Ventures gemeinsam geleitet wird, abgeschlossen hat. Mit diesem Abschluss hat Etched insgesamt 125,36 Millionen US-Dollar aufgebracht, an der Runde beteiligten sich schwerwiegende angel backers wie Peter Thiel (Uberti, Zhu und Wachen sind Thiel Fellowship-Alumni), GitHub-CEO Thomas Dohmke, Cruise (und das Bot-Unternehmen) Mitbegründer Kyle Vogt und Quora-Mitbegründer Charlie Cheever.

Diese Investoren glauben offenbar, dass Etched eine vernünftige Chance hat, sein Geschäft mit dem Verkauf von Servern erfolgreich auszubauen. Uberti behauptet, dass bisher „zig Millionen Dollar“ an Hardware von unbenannten Kunden reserviert wurden. Der bevorstehende Start der Sohu Developer Cloud, über die Kunden Sohu über einen interaktiven Online-Spielplatz vorab testen können, soll zusätzliche Verkäufe generieren, meinte Uberti.

Es scheint jedoch noch zu früh, um zu sagen, ob dies ausreichen wird, um Etched und sein 35-köpfiges Team in die Zukunft zu führen, die sich die Mitbegründer des Unternehmens vorstellen. Das AI-Chip-Segment kann selbst in den besten Zeiten unbarmherzig sein - siehe die hochkarätigen fast-Scheiterns von AI-Chip-Startups wie Mythic und Graphcore und in Zusammenhang damit das sinkende Funding für AI-Chip-Unternehmen im Jahr 2023.

Uberti macht jedoch ein überzeugendes Verkaufsargument: „Die Videoerstellung, Audio-zu-Audio-Modalitäten, Robotik und andere zukünftige KI-Anwendungsfälle werden nur mit einem schnelleren Chip wie Sohu möglich sein. Die gesamte Zukunft der KI-Technologie wird davon abhängen, ob die Infrastruktur skalieren kann.“