Frauen in KI: Urvashi Aneja erforscht die sozialen Auswirkungen von KI in Indien

Um KI-fokussierten Frauen in der Akademie und anderen Personen die ihnen gebührende - und überfällige - Aufmerksamkeit zu geben, startet TechCrunch eine Serie von Interviews, die sich auf bemerkenswerte Frauen konzentrieren, die zur KI-Revolution beigetragen haben. Wir werden im Laufe des Jahres mehrere Beiträge veröffentlichen, während der KI-Boom weitergeht, um die Schlüsselarbeiten zu betonen, die oft unbeachtet bleiben. Lesen Sie mehr Profile hier.

Urvashi Aneja ist die Gründungsdirektorin des Digital Futures Lab, einer interdisziplinären Forschungsinitiative, die die Wechselwirkung zwischen Technologie und Gesellschaft im Globalen Süden untersucht. Sie ist auch außerordentliche Mitarbeiterin im Asien-Pazifik-Programm am Chatham House, einem unabhängigen Politikinstitut mit Sitz in London.

Anejas aktuelle Forschung konzentriert sich auf die gesellschaftlichen Auswirkungen von algorithmischen Entscheidungssystemen in Indien, wo sie ansässig ist, und die Plattformregulierung. Aneja verfasste kürzlich eine Studie über die aktuellen Anwendungen von KI in Indien, in der Anwendungsfälle in Sektoren wie Polizeiarbeit und Landwirtschaft überprüft wurden.

Frage & Antwort

Wie sind Sie kurz gesagt in die KI-Branche eingestiegen? Was hat Sie an dem Bereich angezogen?

Ich begann meine Karriere in der Forschung und der politischen Engagements im humanitären Sektor. Über mehrere Jahre hinweg habe ich den Einsatz von digitalen Technologien in langanhaltenden Krisen in ressourcenarmen Kontexten untersucht. Ich habe schnell gelernt, dass es einen feinen Unterschied zwischen Innovation und Experimentieren gibt, besonders im Umgang mit vulnerable Bevölkerungsgruppen. Die Erkenntnisse aus dieser Erfahrung haben mich zutiefst besorgt gemacht über die techno-lösungsorientierten Erzählungen über das Potenzial digitaler Technologien, insbesondere KI. Gleichzeitig hatte Indien seine Mission Digital India und seine Nationale Strategie für Künstliche Intelligenz gestartet. Ich war beunruhigt über die dominierenden Erzählungen, die KI als Silberkugel für die komplexen sozioökonomischen Probleme Indiens sahen, und das vollständige Fehlen kritischer Diskussionen zu diesem Thema.

Auf welche Arbeit in der KI-Branche sind Sie am stolzesten?

Ich bin stolz darauf, dass es uns gelungen ist, die politische Ökonomie der KI-Produktion sowie die breiteren Auswirkungen auf soziale Gerechtigkeit, Arbeitsbeziehungen und Umweltschutz in den Fokus zu rücken. Oft konzentrieren sich Erzählungen über KI auf die Vorteile bestimmter Anwendungen und höchstens auf die Vor- und Nachteile dieser Anwendung. Aber das Wald-vor-Bäumen-Prinzip greift hier zu kurz - ein produktorientierter Blick verschleiert die breiteren strukturellen Auswirkungen wie den Beitrag von KI zur epistemischen Ungerechtigkeit, der Entwertung von Arbeitskräften und der Aufrechterhaltung unverantwortlicher Macht in der Mehrheitswelt. Ich bin auch stolz darauf, dass wir diese Anliegen in konkrete Politik und Regulierung umsetzen konnten - sei es durch die Gestaltung von Beschaffungsrichtlinien für den Einsatz von KI im öffentlichen Sektor oder die Lieferung von Beweismitteln in rechtlichen Verfahren gegen Big-Tech-Unternehmen im Globalen Süden.

Wie gehen Sie mit den Herausforderungen der männerdominierten Tech-Branche und damit auch der männerdominierten KI-Branche um?

Indem ich meine Arbeit für mich sprechen lasse. Und indem ich ständig frage: Warum?

Welchen Rat würden Sie Frauen geben, die in die KI-Branche einsteigen möchten?

Entwickeln Sie Ihr Wissen und Ihre Expertise. Stellen Sie sicher, dass Ihr technisches Verständnis der Themen solide ist, aber fokussieren Sie sich nicht nur eng auf KI. Studieren Sie stattdessen breit, damit Sie Verbindungen über Felder und Disziplinen hinweg herstellen können. Nicht genug Menschen verstehen KI als ein sozio-technisches System, das ein Produkt der Geschichte und Kultur ist.

Was sind aus Ihrer Sicht einige der drängendsten Probleme, vor denen KI in ihrer Entwicklung steht?

Ich denke, das drängendste Problem ist die Konzentration von Macht in einer Handvoll von Technologieunternehmen. Obwohl dieses Problem nicht neu ist, wird es durch neue Entwicklungen in großen Sprachmodellen und generativer KI verschärft. Viele dieser Unternehmen schüren jetzt Ängste um die existenziellen Risiken von KI. Dies lenkt nicht nur von den bestehenden Schäden ab, sondern positioniert diese Unternehmen auch als notwendig zur Bewältigung von KI-bezogenen Schäden. In vielerlei Hinsicht verlieren wir einen Teil des Schwungs des 'tech-lash', der nach dem Cambridge-Analytica-Vorfall entstand. In Ländern wie Indien mache ich mir auch Sorgen, dass KI als notwendig für die sozioökonomische Entwicklung positioniert wird, was eine Gelegenheit darstellt, hartnäckige Herausforderungen zu umgehen. Dies überzeichnet nicht nur das Potenzial von KI, sondern ignoriert auch die Tatsache, dass es nicht möglich ist, die institutionelle Entwicklung zu überspringen, die benötigt wird, um Schutzmaßnahmen zu entwickeln. Ein weiteres Problem, dem wir ernsthafter Beachtung schenken sollten, sind die Umweltauswirkungen von KI - die derzeitige Entwicklung ist wahrscheinlich nicht nachhaltig. Im aktuellen Ökosystem sind diejenigen, die am meisten von den Auswirkungen des Klimawandels betroffen sind, wahrscheinlich nicht die Nutznießer der KI-Innovation.

Worüber sollten KI-Nutzer informiert sein?

Benutzer sollten sich bewusst sein, dass KI keine Magie ist, noch etwas, das der menschlichen Intelligenz nahe kommt. Es ist eine Form von computergestützten Statistiken, die viele nützliche Anwendungen hat, aber letztendlich nur eine probabilistische Annahme auf der Grundlage historischer oder vorheriger Muster ist. Sicher gibt es noch einige andere Themen, über die Benutzer informiert sein sollten, aber ich möchte davor warnen, Verantwortung auf die Benutzer abzuwälzen. Ich sehe dies jüngst bei der Verwendung von generativen KI-Tools in ressourcenarmen Kontexten in der Mehrheitswelt - anstatt vorsichtig mit diesen experimentellen und unzuverlässigen Technologien umzugehen, liegt der Fokus oft darauf, wie Endbenutzer wie Landwirte oder Frontline-Gesundheitskräfte qualifiziert werden müssen.

Wie kann man KI verantwortungsbewusst entwickeln?

Dies muss damit beginnen, den Bedarf für KI überhaupt zu prüfen. Gibt es ein Problem, das KI einzigartig lösen kann, oder sind andere Mittel möglich? Und wenn wir KI entwickeln wollen, ist ein komplexes, Black-Box-Modell notwendig, oder würde ein einfacheres logikbasiertes Modell genauso gut funktionieren? Wir müssen auch das Domänenwissen in die Entwicklung von KI zurückbringen. Im Obsession mit Big Data haben wir die Theorie geopfert - wir müssen eine Veränderungstheorie auf der Grundlage von Domänenwissen aufbauen, und dies sollte die Grundlage der Modelle sein, die wir erstellen, nicht nur große Daten allein. Dies geschieht natürlich zusätzlich zu wichtigen Themen wie Partizipation, inklusiven Teams, Arbeitsrechten usw.

Wie können Investoren besser für verantwortungsvolle KI eintreten?

Investoren müssen den gesamten Lebenszyklus der KI-Produktion in Betracht ziehen - nicht nur die Ausgaben oder die Ergebnisse von KI-Anwendungen. Dazu gehört die Prüfung einer Reihe von Fragen wie beispielsweise ob die Arbeit fair bewertet wird, die Umweltauswirkungen, das Geschäftsmodell des Unternehmens (basierend auf kommerzieller Überwachung?) und interne Rechenschaftsmaßnahmen im Unternehmen. Investoren müssen auch nach besserer und rigoroserer Evidenz über die vermeintlichen Vorteile von KI fragen.