為了給予專注於AI的女性學者和其他人应有且早已到來的機會,TechCrunch一直在發表一系列採訪,專注於為AI革命做出貢獻的杰出女性。隨著AI的蓬勃發展,我們將在整個年度內發表這些文章,突出通常被忽視的重要工作。閱讀更多的人物檔案。
今天的焦點是Ewa Luger,她是設計信息學研究所的聯合主任,也是由藝術和人文研究委員會(AHRC)支持的“搭建負責人工智能隔閡”(BRAID)計畫的聯合主任。她與政策制定者和產業密切合作,並是英國文化、媒體與體育部(DCMS)專家委員會的成員,該委員會由一群專家組成,為DCMS提供科學和技術建議。
Luger的研究探索了在數據驅動系統(包括人工智能系統)中的社會、道德和互動問題,特別關注設計、權力分配、排斥範圍和用戶同意。她曾在阿倫·圖靈研究所擔任研究員,曾在微軟擔任研究人員,在劍橋大學的基督長老會科爾普斯基督長老會擔任研究員。
問答
請簡單描述一下您在AI領域是如何開始的?是什麼吸引了您進入這個領域?
在我完成博士學位後,我加入了微軟研究所,我在劍橋(英國)實驗室的用戶體驗和設計組工作。在那裡,AI是主要關注的焦點,因此我的工作自然而然地扩展到這個領域,並擴展到圍繞以人為中心的AI(例如智能語音助手)的問題。
當我轉到愛丁堡大學時,是因為希望探索與算法可理解性相關的問題,在2016年,這是一個非常專業的領域。我發現自己身處負責任的AI領域,目前共同主導著一個由AHRC資助的國家級計畫。
在AI領域中,您最自豪的工作是什麼?
我最被引用的作品是一篇關於語音助手用戶體驗的論文(2016年)。這是第一份這樣的研究,至今仍被廣泛引用。但我個人最自豪的工作是持續進行中的。BRAID是我共同領導的計畫,與一位哲學家和倫理學家合作設計。這是一個真正的跨學科努力,旨在支持英國負責任AI生態系統的發展。
與愛達‧拉維斯學院和BBC合作,該計畫旨在將藝術和人文知識與政策、監管、行業和志願部門聯繫起來。當謠言走開時,創意產業的價值是如此深刻;我們知道,從歷史中學習是避免重蹈覆轍的關鍵,哲學是長期以來在醫學科學中保持我們安全和知情的倫理框架的根源。像 Midjourney 這樣的系統依賴藝術家和設計師的內容作為訓練數據,但這些學科和從業者在該領域幾乎沒有發言權。我們希望改變這一點。
更具實際意義的是,我們與微軟和BBC等行業合作共同製作負責任的AI挑戰,並共同尋找可以應對這些挑戰的學者。迄今為止,BRAID已資助了27個項目,其中一些是個人研究項目,我們很快將推出新的呼籲。
我們正在為希望與AI互動的利益相關者設計一門免費的在線課程,設立一個論壇,希望參與各個人群以及其他部門利益相關者來支持工作的治理 — 並幫助炸毀目前圍繞AI產生的一些神話和誇大宣傳。
我知道這種敘述是目前吸引AI投資的原因,但同時也有助於在最有可能遭受下游傷害的人群中培養恐慌和混淆。 BRAID 將持續到 2028 年底,在下一階段,我們將處理AI素養、抵抗空間和爭議和申訴機制。這是一個相對較大的計畫,為期六年,由 AHRC 資助,總計 1590 萬英鎊。
您如何應對男性主導的科技行業的挑戰,以及從而延伸到男性主導的AI行業?
這是一個有趣的問題。我要說的是,這些問題不僅僅存在於行業中,這往往是人們 perception 的情況。學術環境在性別平等方面也存在類似的挑戰。我目前是一個研究所的聯合主任 — 設計信息學,這個研究所匯集了設計學院和資訊學院,所以我會說在性別平等以及限制女性在工作場所充分發揮職業潛力的文化問題方面有更好的平衡。
但在我的博士學位期間,我是在一個男性主導的實驗室,工作在行業中時,程度更小。撇開事業中斷和照顧的明顯影響,我的經驗是兩種交織的動態。首先,對女性有更高的標準和期望 — 例如要友好、積極、友好、支持、團隊合作等。其次,我們在爭取那些不太合格的男性可能會積極爭取的機會時,往往會保留。所以我必須在許多場合推動自己走出舒適區。
我需要做的另一件事是設定非常明確的界限,並學會何時說不。女性往往被訓練成(並被視為)喜歡取悅別人。我們很容易被視為那些任務不太吸引您的男同事可以接受的人,甚至被認為是任何會議中泡茶者或筆記記錄者,不論職業地位如何。只有說不,確保自己認識到自己的價值,才能最終以不同的眼光看待自己。如果不這樣做,就很容易一律視為如此。我應該說,我曾在行業中有一位女性經理,她非常出色,所以我所經歷的大部分性別歧視發生在學術界。
總的來說,問題是結構性的和文化性的,因此要應對這些問題需要努力 — 首先是使其可見,其次是積極解決這些問題。沒有簡單的解決方案,任何應對措施都會給科技領域中的女性帶來更多的情感勞動。
您會給尋求進入AI領域的女性什麼建議?
我的建議一直是去尋找使您能夠水平提升的機會,即使您覺得自己並不完全適合。讓他們拒絕您,而不是您自己封閉機會。研究顯示,男性會爭取他們認為自己可以做的角色,但女性只會爭取她們認為自己已經能夠或正在熟練地做的角色。目前,在招聘和資助人員方面也有更多性別意識的趨勢,雖然最近的例子顯示了我們還有多遠要走的路。
如果查看英國研究和創新AI中心,最近宣布的一項高調的、數百萬英鎊的投資,所有九個AI研究中心的領導人都是男性。我們應當確保性別代表性。
AI在演進中面臨的一些最迫切問題是什麼?
鑒於我的背景,或許並不出人意料地,我會說AI面臨的最迫切問題是與我們在AI系統的設計、治理和使用中不小心可能發生的立即和下游傷害有關的問題。
最迫切的問題,也是一個被嚴重研究不足的問題,是大型模型的環境影響。如果應用程序的好處大於風險,我們可能在某個時候選擇接受這些影響。但現在,我們看到像 Midjourney 這樣的系統的普遍使用僅僅為了娛樂,用戶很大程度上,或者完全不知道每次運行查詢的影響。
另一個迫切問題是調和AI創新的速度和監管環境的應對能力。這並不是一個新問題,但監管是我們確保AI系統負責任地開發和部署的最佳工具。