拳皇命运世界暴击点
您現在的位置:首頁 > 應用 > 智慧城市 > 智能生活
有理有據!全球26名專家撰寫百頁報告:警惕AI
http://www.0368854.com 物聯中國
日期:2018-03-06 09:46:58來源:網易智能 點擊:854
核心提示:來自14個組織的26名研究人員對惡意AI所造成的危險進行了全面的報告。當我們想到人工智能時,我們往往會想到機器學習的人性化表現,比如Siri或Alexa,但事實是,人工智能在我們身邊主要是作為后臺進程來運行。從醫學到金融,人工智能向各種事物的的緩慢蔓延可能很難讓人理解,因為它看起來與好萊塢在《機械姬》或《她》等...

有理有據!全球26名專家撰寫百頁報告:警惕AI

來自14個組織的26名研究人員對惡意AI所造成的危險進行了全面的報告。

當我們想到人工智能時,我們往往會想到機器學習的人性化表現,比如Siri或Alexa,但事實是,人工智能在我們身邊主要是作為后臺進程來運行。從醫學到金融,人工智能向各種事物的的緩慢蔓延可能很難讓人理解,因為它看起來與好萊塢在《機械姬》或《她》等電影中所構思的人工智能有很大的不同。事實上,與人類相比,如今大多數“人工智能”都是相當愚蠢的——機器學習算法可能會在特定任務中給予人類一個重擊,比如下圍棋,但在更普通的任務上,比如區分烏龜與槍對其來說就很困難。

盡管如此,去年2月,一組由26名人工智能研究人員組成的團隊在牛津會面,討論超人類AI(superhumanartificialintelligence)在未來可能被應用于惡意目的的方式。這次為期兩天的會議產出了一份長達100頁的報告,內容是關于人工智能不良應用所帶來的風險以及降低這些風險的策略。

工作組提出的四項建議中,有一項是“人工智能的研究人員和工程師應當謹慎對待其工作的雙重使用特性,在研究的優先級和規范中考慮相關使用不當所產生的影響,并在有害應用程序可預見時主動聯系相關的參與者。”這一建議尤其適用于最近興起的“deepfakes”,主要把機器學習用于將好萊塢女演員的臉換接到色情演員的身體上(制作人工合成的假色情片)。由Motherboard的SamCole最先報道,這些deepfakes是通過改編一個名為TensorFlow的開源機器學習庫來實現的,該庫最初由谷歌工程師開發。Deepfakes強調了機器學習工具的雙重使用特性,同時也提出了一個問題:誰應該使用這些工具?

盡管報告中特別提到了Deepfakes,研究人員還強調了將這種類似的技術用于處理世界領導人視頻所產生的危害,這會對政治安全構成威脅,這是研究人員考慮到的三大威脅領域之一。人們只需想象出一段虛假的視頻,如特朗普在平壤向朝鮮宣戰以及由此引發的后果,就會明白這種情況的危險性。此外,研究人員還發現,通過數據分析和大規模有針對性的宣傳,利用人工智能技術,能實現前所未有的大規模監控,這是對政治領域考量的另一個側面。

另外兩個被認為是惡意人工智能的主要風險領域是數字和物質安全(physicalAI?security)。在數字安全方面,使用人工智能進行網絡攻擊將“緩解現有的攻擊規模和效率之間的權衡。”大規模的網絡攻擊可能會以人工智能的形式進行,比如大規模的網絡釣魚,或者更復雜的攻擊形式,比如使用語音合成來模擬受害者。

在物質AI威脅方面,研究人員觀察到物質世界對自動化系統越來越依賴。隨著更多智能家居和自動駕駛汽車上線,人工智能可能被用來顛覆這些系統,并造成災難性的破壞。此外,還有故意制造惡意人工智能系統所帶來的威脅,比如自動化武器或微型無人機。

其中一些場景,比如微型無人機所帶來的災難,似乎還很遙遠,而其他的一些,比如大規模網絡攻擊、自動化武器和視頻操控等,已經引發了一些問題。為了應對這些威脅,并確保人工智能被用于造福人類,研究人員建議開發新的政策解決方案,并探索不同的“開放模式”以降低人工智能的風險。例如,研究人員認為,中央訪問許可模式(centralaccesslicensingmodels)可以確保人工智能技術不會落入壞人之手,或者建立某種監控程序來密切記錄人工智能資源的應用途徑。

報告的作者寫道:“目前的趨勢強調了對前沿研究和發展成果的廣泛開放。如果這些趨勢在未來5年持續下去,我們預期攻擊者用數字和機器人系統造成危害的能力會顯著提高。”

另一方面,研究人員認識到,開源人工智能技術的擴散也將越來越多地吸引決策者和監管機構的注意,他們將對這些技術施加更多限制。至于這些政策應該具體采取何種形式,必須從地方、國家和國際層面上加以考量。報告總結說:“這份報告的合著者之間仍然存在許多分歧,更不用說世界上不同的專家群體了。隨著各種威脅和反饋被發現,在我們得到更多的數據之前,這些分歧不會得到解決。但這種不確定性和專家分歧不應阻止我們在今天盡早采取預防措施。”


出處:網易智能
鄭重聲明:本文僅代表作者個人觀點,與物聯中國(www.0368854.com)無關。其原創性以及文中陳述文字和內容未經本站證實,對本文以及其中全部或者部分內容、文字的真實性、完整性、及時性本站不作任何保證或承諾,請讀者僅作參考,并請自行核實相關內容。
分享到:
  • 資訊
  • 產業
  • 服務
  • 應用
拳皇命运世界暴击点 买欧盟指数骗局 老北京时时结果 黑龙江时时数据 吉林11选五跨度重号 十一选五河北时时 牛牛棋牌游戏app 11选5万能8码必出5码 黑龙江时时开奖网址 福建时时票中奖结果 重庆时时官方注册 下载重庆时时 开战中国app 北京赛pk10代理反水 大乐透开奖历史完整版