對于AI人工智能 霍金在GMIC大會上說了什么？

在GMIC2017首日，最引人關注的算是當今世界最偉大的物理學家、宇宙學家霍金通過視頻對話GMIC，發(fā)表了他對于人工智能可能帶給人類的變化的看法和一些思考。

霍金在開篇表示，強大的人工智能的崛起，要么是人類歷史上最好的事，要么是最糟的。對于好壞我們仍無法確定，現在人類只能竭盡所能，確保其未來發(fā)展對人類和環(huán)境有利，人類別無選擇。

霍金在GMIC上說了什么

也許應該把我們的研究重復從提升人工智能能力轉移到最大化人工智能的社會效益上面。但我們的人工智能系統(tǒng)須要按照我們的意志工作。人工智能是有根除疾患和貧困的潛力的，但是研究人員必須能夠創(chuàng)造出可控的人工智能。

因為人工智能帶給我們的潛在利益的同時，也會帶來了巨大的風險。我們也可能會被人工智能藐視并被邊緣化，或者很可能被它毀滅。人類由于受到漫長的生物進化的限制，無法與之競爭，將被取代。

短期的擔憂在無人駕駛方面，從民用無人機到自主駕駛汽車。在緊急情況下，一輛無人駕駛汽車不得不在小風險的大事故和大概率的小事故之間進行選擇。另一個擔憂在致命性智能自主武器，他們是否該被禁止？如果是，那么“自主”該如何精確定義。如果不是，任何使用不當和故障的過失應該如何問責。此外，人工智能逐漸可以解讀大量監(jiān)控數據，還會引起隱私的擔憂，以及如何管理因人工智能取代工作崗位帶來的經濟影響。

長期擔憂主要是人工智能系統(tǒng)失控的潛在風險，隨著不遵循人類意愿行事的超級智能的崛起，那個強大的系統(tǒng)威脅到人類，比如最大化使用智能性自主武器?？萍碱I袖和科學家正極盡所能避免不可控的人工智能的崛起。

雖然我們對潛在危險有所意識，但霍金內心仍秉持樂觀態(tài)度，他相信創(chuàng)造智能的潛在收益是巨大的。也許借助這項新技術革命的工具，我們將可以削減工業(yè)化對自然界造成的傷害。

可喜的是，當前歐洲議會已在呼吁起草一系列法規(guī)，這里涉及到了一種形式的電子人格，以確保最有能力和最先進的人工智能的權利和責任。我們需要確保機器人無論現在還是將來，都為人類而服務。報告強調，在任何時候，研究和設計人員都應確保每一個機器人設計都包含有終止開關。

最后，霍金還談到，我們還應該扮演一個角色，確保下一代不僅僅有機會還要有決心，在早期階段充分參與科學研究，以便他們繼續(xù)發(fā)揮潛力，幫助人類創(chuàng)造一個更加美好的的世界。我們需要跳出“事情應該如何”這樣的理論探討，并且采取行動，以確保他們有機會參與進來。我們站在一個美麗新世界的入口。

以下為中國科技大咖、科學家、投資家、網友跟霍金教授之間的問答

創(chuàng)新工場的CEO李開復：互聯(lián)網巨頭擁有巨量的數據，而這些數據會給他們各種以用戶隱私和利益換取暴利的機會。在巨大的利益誘惑下，他們是無法自律的。而且，這種行為也會導致小公司和創(chuàng)業(yè)者更難創(chuàng)新。您常談到如何約束人工智能，但更難的是如何約束人本身。您認為我們應該如何約束這些巨頭？

據我了解，許多公司僅將這些數據用于統(tǒng)計分析，但任何涉及到私人信息的使用都應該被禁止。會有助于隱私保護的是，如果互聯(lián)網上所有的信息，均通過基于量子技術加密，這樣互聯(lián)網公司在一定時間內便無法破解。但安全服務會反對這個做法。

獵豹移動CEO傅盛：靈魂會不會是量子的一種存在形態(tài)？或者是高維空間里的另一個表現？

我認為近來人工智能的發(fā)展，比如電腦在國際象棋和圍棋的比賽中戰(zhàn)勝人腦，都顯示出人腦和電腦并沒有本質差別。這點上我和我的同事羅杰·彭羅斯正好相反。會有人認為電腦有靈魂嗎？對我而言，靈魂這個說法是一個基督教的概念，它和來世聯(lián)系在一起。我認為這是一個童話故事。

百度總裁張亞勤：人類觀察和抽象世界的方式不斷演進，從早期的觀察和估算，到牛頓定律和愛因斯坦方程式， 到今天數據驅動的計算和人工智能，下一個是什么？

我們需要一個新的量子理論，將重力和其他自然界的其它力量整合在一起。許多人聲稱這是弦理論，但我對此表示懷疑，目前唯一的推測是，時空有十個維度。

斯坦福大學物理學教授張首晟：如果讓你告訴外星人我們人類取得的最高成就，寫在一張明信片的背面，您會寫什么？

告訴外星人關于美，或者任何可能代表最高藝術成就的藝術形式都是無益的，因為這是人類特有的。我會告訴他們哥德爾不完備定理和費馬大定理。這才是外星人能夠理解的事情。

現場采訪者：我們希望提倡科學精神，貫穿GMIC全球九站，請您推薦三本書，讓科技屆的朋友們更好的理解科學及科學的未來。

他們應該去寫書而不是讀書。只有當一個人關于某件事能寫出一本書，才代表他完全理解了這件事。

微博網友：您認為一個人一生中最應當做的一件事和最不應當做的一件事是什么？

我們絕不應當放棄，我們都應當盡可能多的去理解（這個世界）。

微博網友：人類在漫漫的歷史長河中，重復著一次又一次的革命與運動。從石器、蒸汽、電氣……您認為下一次的革命會是由什么驅動的

（我認為是）計算機科學的發(fā)展，包括人工智能和量子計算。科技已經成為我們生活中重要的一部分，但未來幾十年里，它會逐漸滲透到社會的每一個方面，為我們提供智能地支持和建議，在醫(yī)療、工作、教育和科技等眾多領域。但是我們必須要確保是我們來掌控人工智能，而非它（掌控）我們。

音樂人、投資者胡海泉：如果星際移民技術的成熟窗口期遲到，有沒有完全解決不了的內發(fā)災難導致人類滅絕？拋開隕星撞地球這樣的外來災難。

是的。人口過剩、疾病、戰(zhàn)爭、饑荒、氣候變化和水資源匱乏，人類有能力解決這些危機。但很可惜，這些危機還嚴重威脅著我們在地球上的生存，這些危機都是可以解決的，但目前還沒有。

生成海報

免責聲明：本網站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網站出現的信息，均僅供參考。本網站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。任何單位或個人認為本網站中的網頁或鏈接內容可能涉嫌侵犯其知識產權或存在不實內容時，應及時向本網站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網站在收到上述法律文件后，將會依法盡快聯(lián)系相關文章源頭核實，溝通刪除相關內容或斷開相關鏈接。