人工智能機器學習領域裡的科學家們表示將拒絕幫谷歌審核論文，直到谷歌改變對前AI倫理團隊聯合負責人Timnit Gebru的立場。
學界科學家拒為谷歌審查論文
選擇要在學術會議上發表研究的審稿人通常都是自願工作，審稿人會根據他們的經驗和專業知識，選出那些可以在人工智能頂會發表的論文。根據公開數據顯示，谷歌是在人工智能研究會議裡貢獻最多論文的公司。
上週，谷歌AI倫理團隊聯合負責人Timnit Gebru突然在個人推特上表示，谷歌直接開除了她，她的內部賬號直接無法登錄。而做出決定的正是谷歌AI負責人Jeff Dean。雙方爭議焦點是一篇還在谷歌內部審議的論文。
Timnit Gebru畢業於斯坦福大學，她的導師是人工智能領域知名學者李飛飛。她的主要研究方向是算法偏差和數據挖掘。Gebru一直致力於黑人在科技圈的平權，是Black in AI的創始人之一。Gebru最知名的研究是她在2018年發現，面部識別軟件對黑人女性有高達35%的錯誤率，而對白人男性幾乎完全正確。
這篇引發爭議的論文標題為《隨機鸚鵡的危險：語言模型會太大嗎？》，英文為“On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?”。論文詳細介紹了機器學習領域裡大型語言模型對邊緣化社區的負面影響，並仔細研究了使用大型語言模型相關的風險，例如環境、種族主義，以及基於性別，種族和其他特徵的各種持久性的偏見。該論文的合著者包括來自谷歌AI的Mitchell和語言學家Emily Bender，他們批評大型語言模型的工作於今年早些時候還獲得了獎項。
值得一提的是，2018年，谷歌推出了BERT模型，在自然語言處理領域中帶來了里程碑式影響。
Jeff Dean在反駁Gebru的郵件中稱，這篇論文臨近截止日期前一天才提交，而按照公司慣例論文審查需要的時間是2周。同時，Gebru還威脅提出各種條件，否則就辭職，公司在無法滿足條件的情況下，只是接受了Gebru辭職的說法。
Gebru則表示自己並沒有提出辭職，谷歌卻在她休假期間停止了她登入谷歌內部系統的賬號。同時也不認同谷歌不發表自己論文的原因。她在發給團隊的郵件裡稱，對谷歌保持人才多樣性的做法感到沮喪。
谷歌如何對待Gebru和即將發表的論文，這一事件也提出了科技公司對於學術研究的影響究竟會有多大的討論。
機器學習社區的領導者拒絕審查來自谷歌人工智能部門的研究，剛好是今年NeurIPS大會開幕之際，這是世界上最大的AI研究會議，會議上發表了有關GPT-3（迄今為止最大的語言模型）的論文，該論文榮獲最佳論文獎。
在谷歌公司內部，在谷歌辭掉Gebru僅一天後，谷歌真正變革（Google Walkout for Real Change）組織發表了一份聲明，聲明中譴責了谷歌“史無前例的研究審查制度”，並要求谷歌在完全公開的情況下進行論文審查。到目前為止，這份聲明已有1600多位谷歌員工和2600多名學術界、民間社會和工業界的支持者簽名。
許多AI研究人員與學術機構都保持著聯繫。有多項研究發現，從學術界到大技術公司，大型企業或初創公司的工作一直在吸引著智力人才。去年10月，Air Street Capital關於AI人才狀態的報告發現，在2004年至2018年期間，谷歌從美國大學聘用的終身任職教授數量超過任何其他公司。
轉載請超鏈接註明：頭條資訊 » 谷歌解僱AI倫理團隊負責人引爭議，學界拒審查谷歌論文
免責聲明
：非本網註明原創的信息，皆為程序自動獲取互聯網，目的在於傳遞更多信息，並不代表本網贊同其觀點和對其真實性負責；如此頁面有侵犯到您的權益，請給站長發送郵件，並提供相關證明(版權證明、身份證正反面、侵權鏈接)，站長將在收到郵件24小時內刪除。