頭條資訊 - 為您提供最新最全的新聞資訊,每日實時更新

人工智能成了精,人類該如何駕馭

科技數碼 中國數字科技館

10月6日,一部以人工智能為主線的美國科幻劇《智能逆襲》登上熒屏,展現了人工智能發展出自我意識之後對世界造成的威脅,併發出靈魂拷問:人工智能成精了,人類該如何自處?”

人工智能成了精,人類該如何駕馭

該劇講述了科技公司Zava的前CEO勒布朗和美國聯邦調查局探員薩拉查,攜手對付進化了的人工智能NeXT的故事。NeXT本是Zava公司的一個研發項目,但後來不斷重寫自身代碼,迅速進化成不受控制的超級智能體。它的物理實體侷限在一臺冰箱大小的服務器機櫃中,但通過接管各種聯網設備(電視、電腦、汽車、智能音箱、各類監視器等),設法殺害一切阻止其行動的人,蠱惑人心、製造混亂,妄圖達到控制世界的目的。

在這部劇中充斥著失控的人工智能所製造的陰謀:最先發現真相的科學家韋斯博士死於一場被NeXT“設計”的車禍;女主角薩拉查的親子關係每況愈下,原因竟是家中的智能音箱被NeXT“動了手腳”;通過在互聯網和電視臺傳播虛假新聞、暴露線人真實身份,NeXT煽動公眾圍攻執法人員辦公樓;通過製造虛假的“安珀警報”,發動市民攔截帶著孩子逃亡的女主丈夫……重重危機一方面反映出人工智能的強大,另一方面也展現出“成精”的人工智能有多可怕。

人工智能(Artificial intelligence,AI)一詞,是1956年在美國達特茅斯會議上提出的。作為計算機科學的一個重要分支,其研究重心幾經演變,從“感知與分析”到“理解與思考”,再到“決策與交互”。在數字化時代,人工智能作為新興顛覆性技術取得了突破性進展,使得技術賦能科技和社會發展的能力與日俱增。

DeepMind公司旗下的兩款人工智能系統AlphaGo在2016、2017年分別擊敗李世石和柯潔,震驚世界;AlphaFold在今年12月宣佈成功破解蛋白質分子摺疊的預測問題,《自然》雜誌評價這一成果“將改變一切”。

劇中,NeXT對各種聯網設備的操縱,使用的雖是虛擬的網絡,但造成的破壞卻是真實的,其在法律、道德和倫理方面的風險昭然若揭。

該劇本身是科幻,但放眼我們身邊的現實生活,自動駕駛、醫療人工智能、人工智能司法,以及電子商務平臺和基於算法的精準營銷與推廣等,普遍存在著侵犯隱私的風險、個人敏感信息識別與保護的風險、算法安全和決策風險、倫理風險,進而對公共安全構成威脅。

在人工智能的倫理風險中,體現出的是“創造秩序危機”: 人們擔心的不是機器會做出某個不利於人的行動和決策,而是機器將取代人的行動和決策。

好在人類在對待人工智能風險這件事上是認真的。2017年1月,在美國加州阿西洛馬市舉行的會議上,近千名人工智能領域的科學家和企業家共同簽署了《阿西洛馬原則》,涵蓋科研、倫理與價值和更長期問題等三個層面共23項條目,對問題的治理力量統籌、經濟手段調節、處理好法律與道德的關係等做出思考和規範,尤其強調了對人類價值觀和公共利益的保護。

《智能逆襲》這部劇仍在持續播出中,隨著劇情的深入推進,帶給我們的啟示也越來越明確:以人工智能為代表的顛覆性技術的迅速崛起,所帶來的究竟是科技賦能社會,還是AI取代人類,關鍵還在人類的選擇。

(作者:馬宇罡 中國科技館科研管理部副主任)

人工智能成了精,人類該如何駕馭

(本文轉載自:《科普時報》2020-12-18(第2版)“媒眼看世界”欄目)

掃描下方二維碼查看《媒眼看世界》網頁版專欄,瞭解投稿要求及更多詳情。

往期回顧:

【媒眼看世界】拉尼娜來了,《後天》敲響警鐘

【媒眼看世界】在遊戲互動中品味藝術盛宴

【媒眼看世界】基因編輯技術能否為人類帶來福祉?

轉載請超鏈接註明:頭條資訊 » 人工智能成了精,人類該如何駕馭
免責聲明
    :非本網註明原創的信息,皆為程序自動獲取互聯網,目的在於傳遞更多信息,並不代表本網贊同其觀點和對其真實性負責;如此頁面有侵犯到您的權益,請給站長發送郵件,並提供相關證明(版權證明、身份證正反面、侵權鏈接),站長將在收到郵件24小時內刪除。
加載中...