編輯：小鹹魚 David
【新智元導讀】一年前，被谷歌解僱的黑人女研究員Timnit Gebru曾引發了關於科技巨頭中少數族裔權益和AI技術偏見的爭議。近日，Gebru宣佈另起爐灶，開設自己的AI研究機構「分散式AI研究所」（DAIR）。
一年前，谷歌人工智慧研究員 Timnit Gebru 在推特上寫道：「我被解僱了」，引發了一場關於公司員工是否可以自由質疑公司技術產生影響的爭議。
Gebru聲稱，她被解僱的主要原因是傳送了一封郵件，隨後就被停掉了賬號許可權，並被谷歌AI部門負責人Jeff Dean掃地出門。
據《紐約時報》報道，這封電子郵件中，Gebru對谷歌對她和其他員工努力增加少數族裔的招聘和AI偏見的關注的回應表示自己的不滿和憤怒。
她在郵件中寫道：
「當你開始為代表性不足的人辯護時，你的生活開始變得更糟。你開始讓其他領導人心煩意亂，無論是起草再多的檔案，傳送再多的郵件，還是進行更多的對話，都無法實現任何目標。」
此前，Gebru擔任谷歌AI倫理部門的聯合負責人，作為一名黑人女性，她與其他24名委員共同負責就谷歌內部的AI技術利用中存在的倫理和道德問題向公司提出建議。
不過，作為前東家，谷歌曾表示她是自己辭職的，並不是解僱，但谷歌後來承認解僱了該部門的另一位研究員瑪格麗特·米切爾。
從此以後，谷歌對其研究人員的研究主題和內容開始進行嚴格的檢查。
谷歌發言人 Jason Freidenfelds 也提到了最近一份關於該公司AI治理工作的報告，該報告稱，自 2018 年以來，谷歌已經發表了 500 多篇關於「負責任的創新」的論文。
現在，時隔一年，Gebru自己成立了一個新的研究機構，專門研究如何「負責任地」使用AI技術，Gebru 表示：「谷歌和其他科技公司做不到這一點」。
Gebru的研究機構名為「分散式AI研究所」 (DAIR) ，她任創始人兼執行董事。
Gebru說：「我不想從內部進行鬥爭，而是想展示一個具有不同激勵結構的獨立機構的原型」。
DAIR這個名字的第一部分——「分散式（Distributed）」，源自她希望自己研究機構比大多數人工智慧實驗室更具包容性，不會偏向於白人、西方人和男性，而且會從世界各地招募在科技行業中沒那麼有代表性的人。
經歷過這些，Gebru 表示，DAIR 將允許員工們更自由地質疑 AI 的潛在缺點，並且不會受到學術和出版壓力的阻礙。
Gebru 說，DAIR 還將致力於展示其他實驗室不太可能探索的人工智慧新用途，旨在激勵其他人將AI技術推向新的方向。
Gebru在推特上宣佈了DAIR的成立，並對支援她推進女性和少數族裔權益的努力的人表示感謝。
「值得慶祝的一天，謝謝各位支援。」
DAIR其中一個專案是建立南非航空影像的公共資料集，以調查種族隔離與土地使用的關係。
該專案的論文將在本月晚些時候在全球最著名的人工智慧會議 NeurIPS 上首次亮相，而該論文的主要作者，正是DAIR 的第一位研究員 Raesetje Sefala 。
加州大學洛杉磯分校的教授 Safiya Noble ，也在 DAIR 的顧問委員會任職。
Safiya Noble認為：「Gebru 認識到了谷歌的危害並試圖進行干預，但在很大程度上得不到支援，所以現在社會上其實迫切需要有洞察力的公司。」
白宮科技政策辦公室今年聘請了兩名從事演算法公平性研究的著名學者，他們正在制定一項「權利法案」，以防範AI技術可能帶來的危害。
隨著DAIR 的成立，新的非營利組織和研究中心如雨後春筍般湧現，他們致力於研究人工智慧對世界的影響。越來越多的研究人員也在研究演算法的影響和正確使用演算法的原則，法律和社會學等其他領域的學者也將批判的目光投向了人工智慧。
Gebru 認為，在使用人工智慧技術的過程中，其可能產生的危害是可以預防的，AI應該為人們服務，而不是給人類帶來不幸。基於 DAIR，Gebru 旨在創造一個擁抱道德、維護大眾福祉的研究環境。
「人工智慧需要回歸地球，」Gebru 說。「它現在已經被提升到超人的水平，甚至有可能會超出我們的控制。只有當人工智慧的研究、開發和部署從一開始就植根於人和社群，我們才可以戰勝這些危害，創造一個重視公平和人性的未來。」
參考資料：
https://www.wired.com/story/ex-googler-timnit-gebru-starts-ai-research-center/
https://www.dair-institute.org/press-release
https://twitter.com/timnitGebru/status/1466437030515253260?ref_src=twsrc%5Egoogle%7Ctwcamp%5Eserp%7Ctwgr%5Etweet
