AI 中的女性:研究印度AI社会影响的 Urvashi Aneja

為了讓AI專注的女性學者和其他人得到他們應得的——已經遲到的——關注,TechCrunch正在推出一系列訪談,專注於為AI革命做出貢獻的卓越女性。隨著AI的蓬勃發展,我們將在整年內發布多篇文章,突出通常被忽視的重要工作。閱讀更多專訪這裡

Urvashi Aneja是 Digital Futures Lab 的創始主任,該實驗室是一個跨學科研究項目,致力於研究全球南方科技與社會之間的互動。她還是英國倫敦獨立政策研究所查塔姆宏觀計劃的副研究員。

Aneja目前的研究重點是印度的算法決策系統對社會的影響,她的研究團隊位於印度,而且同時還關注平台治理。Aneja最近撰寫了一項有關印度AI目前應用情況的研究,審核了跨行業使用案例,包括警察和農業。

問與答

簡要地講一下,您是如何進入AI領域的?是什麼吸引了您?

我開始我的職業生涯是在人道主義領域的研究和政策參與。幾年來,我研究了在低資源環境中的長期危機中數碼技術的應用。我很快就意識到,在處理弱勢人群時,創新和實驗之間存在著微妙的界線。從這個經驗中,我深深關注數位技術,特別是AI潛力周圍的技術主義敘事。同時,印度啟動了其“數位印度”使命和人工智能國家戰略。我對AI作為印度複雜社會經濟問題的解決方案的主導敘事感到不安,以及對該問題周圍缺乏批評性討論的完全缺乏。

您在AI領域最自豪的工作是什麼?

我很自豪,我們能夠引起對AI生產的政治經濟和對社會正義、勞工關係和環境可持續性的更廣泛影響的關注。很多時候,關於AI的敘述都聚焦於特定應用的收益,最多僅僅是該應用的利益和風險。但這忽視了樹木之森——以產品為導向的鏡片掩蔽了更廣泛的結構性影響,比如AI對認識不正義的貢獻、勞動技能才能的喪失和在大部分世界中負責的無責任權力的延續。我也為我們能夠將這些擔憂轉化為具體政策和監管感到自豪——無論是在設計用於公共部門的AI使用的採購指南,還是在在全球南方的法律程序中提供證據反對大型科技公司。

您如何應對男性主導的科技行業以及延伸的AI行業的挑戰?

讓我的工作說話。並不斷地問:為什麼?

您會給尋求進入AI領域的女性什麼建議?

發展您的知識和專業知識。確保您對問題的技術理解是堅實的,但不要僅僅專注於AI。反而,廣泛學習,以便您可以在各領域和學科之間建立聯繫。並不是足夠多的人理解AI作為一個社會技術系統,這是歷史和文化的產物。

AI在不斷發展中面臨的一些迫切問題是什麼?

我認為最迫切的問題是少數技術公司的權力集中。雖然這個問題並不新鮮,但隨著大型語言模型和生成式AI的新發展,這個問題正在加劇。這些公司中的許多現在都在煽動圍繞AI存在風險的憂慮。這不僅是對現有危害的一種轉移,而且還把這些公司定位為解決AI相關危害的必要條件。在許多方面,我們正在喪失在劍橋分析事件後所出現的“技術反彈”的一些勢頭。在印度等地方,我也擔心AI被定位為經濟社會發展的必要條件,提供了一個機會來超越持續存在的挑戰。這不僅對AI的潛力夸大,而且忽略了需要發展保障措施的制度發展的問題。我們還沒有嚴肅地考慮到AI的環境影響——目前的航向可能是不可持續的。在當前的生態系統中,受氣候變化影響最嚴重的人不太可能成為AI創新的受益者。

AI用戶應該意識到哪些問題?

用戶需要意識到AI不是魔法,也遠遠沒有接近人類智慧。它是一種計算統計的形式,具有許多有益的用途,但最終只是基於歷史或先前模式的概率猜測。我相信用戶還應該做好其他問題的意識,但我要警告我們應該警惕試圖將責任轉移至用戶的企圖。我最近在全方位使用生成式AI工具的低資源環境中看到這種情況——與其對這些實驗性和不可靠的技術持謹慎態度,焦點常常轉移到最終用戶,比如農民或前線卫生工作者需要提高技能。

負責地構建AI的最佳方法是什麼?

這必須從首先評估AI的需求開始。AI能唯一解決問題,還是有其他方法可以?如果我們要構建AI,是複雜的黑箱模型必要,還是一個更簡單的基於邏輯的模型可以做得一樣好?我們還需要將領域知識重新置中到AI的構建中。在對大數據的著迷中,我們犧牲了理論——我們需要建立基於領域知識的變革理論,這應該是我們構建模型的基礎,不僅僅是大數據。當然,這還包括參與、包容團隊、勞動權益等關鍵問題。

投資者如何更好地推動負責任的AI?

投資者需要考慮AI生產的整個生命週期——不僅僅是AI應用的生產或產出。這需要關注一系列問題,例如勞動是否被公平評價、環境影響、公司的商業模型(即基於商業監控嗎?)以及公司內部的責任制度。投資者還需要要求更好和更嚴謹的有關AI應用的潛在益處的證據。