5月26日消息，創(chuàng)新工場(chǎng)董事長兼首席執(zhí)行官李開復(fù)在本周于瑞士召開的2022年達(dá)沃斯世界經(jīng)濟(jì)論壇上發(fā)表題為《關(guān)于人工智能的“電車難題”的嶄新思考》的專欄文章。
李開復(fù)在文中談到，自主機(jī)器人和自主決策的確可能造成致命錯(cuò)誤；因機(jī)器人錯(cuò)誤而造成的死亡，將造成道德兩難的新時(shí)代“電車難題”。但是，如果社會(huì)接受機(jī)器學(xué)習(xí)，并竭力以負(fù)責(zé)任的態(tài)度導(dǎo)入機(jī)器人技術(shù)，更多生命將會(huì)因此得到拯救。
以下為《關(guān)于人工智能的“電車難題”的嶄新思考》全文：
在未來 20 年內(nèi)，隨著機(jī)器人技術(shù)的進(jìn)步，自動(dòng)駕駛汽車、工業(yè)機(jī)器人和醫(yī)用機(jī)器人將擁有更強(qiáng)的能力、更高的自主性，并得到更為廣泛的應(yīng)用。不可避免，這些自主機(jī)器人可能會(huì)犯下決策方面的錯(cuò)誤，造成數(shù)百上千人死亡。但如果人類參與其中，這種災(zāi)難是可以避免的。
這樣的未來固然可怕，不過一旦人類社會(huì)能負(fù)責(zé)任地運(yùn)用機(jī)器人技術(shù)，獲救的生命將多于造成的死亡。
機(jī)器學(xué)習(xí)的過程
機(jī)器人并非經(jīng)由人類“編程”而模仿人類的決策過程。它們從大數(shù)據(jù)中學(xué)習(xí)，利用從數(shù)據(jù)中推導(dǎo)出的復(fù)雜數(shù)學(xué)公式，執(zhí)行諸如“識(shí)別紅綠燈”之類的任務(wù)。機(jī)器學(xué)習(xí)過程需要的數(shù)據(jù)量遠(yuǎn)遠(yuǎn)超過人類所需。然而，一旦經(jīng)過訓(xùn)練，機(jī)器人在任何特定任務(wù)中的表現(xiàn)都將優(yōu)于人類。借由機(jī)器學(xué)習(xí)，人工智能和機(jī)器人的性能在過去五年里已經(jīng)獲得了極大的提升。
我在這篇文章提出的觀點(diǎn)適用醫(yī)療健康、制造業(yè)及其他正在快速實(shí)現(xiàn)自動(dòng)化的行業(yè)。先以自動(dòng)駕駛為例，一位經(jīng)驗(yàn)豐富的人類司機(jī)，一生中可能有幾十萬英里的駕駛經(jīng)驗(yàn)，而谷歌旗下的自動(dòng)駕駛汽車公司W(wǎng)aymo，僅在2021年一年間就完成230萬英里的上路測(cè)試?yán)锍?，其背后?a href="http://digitalhealthexpert.com/AI_1.html" target="_blank" class="keylink">AI技術(shù)通過數(shù)據(jù)學(xué)習(xí)了每一輛車的駕駛經(jīng)驗(yàn)，而且這些自動(dòng)駕駛車輛永不疲勞，也不像健忘的人類司機(jī)，可能忘記他們?cè)?jīng)犯的錯(cuò)誤。
特斯拉公司的“智能召喚”功能首次推出后，汽車可以在沒有車主操作的情況下，離開停車位并繞開障礙物。一開始許多用戶抱怨這個(gè)新功能表現(xiàn)得不盡如人意，但在短短幾周內(nèi)，特斯拉公司便收集了早期用戶的數(shù)據(jù)，重新訓(xùn)練了新功能背后的機(jī)器學(xué)習(xí)模型。從此，“智能召喚”顯著獲得改進(jìn)，成為了特斯拉新車的一大關(guān)鍵競(jìng)爭優(yōu)勢(shì)。
自主機(jī)器人可以挽救生命
可供學(xué)習(xí)的數(shù)據(jù)日益增加，人工智能的能力也隨之快速提升，AI 變得更精準(zhǔn)，適應(yīng)性更強(qiáng)，也更安全。隨著越來越多的機(jī)器人進(jìn)入主流日常應(yīng)用，其應(yīng)用領(lǐng)域越來越廣，標(biāo)志著功能性機(jī)器人技術(shù)正得到逐步普及。自動(dòng)駕駛將從“握住方向盤”到“放開方向盤”，進(jìn)而發(fā)展到“無需監(jiān)視”，乃至“無需關(guān)注”，并最終進(jìn)化到“無方向盤”的全自動(dòng)狀態(tài)。
中國的自動(dòng)駕駛企業(yè)文遠(yuǎn)知行便是一個(gè)很好的范例。這家公司已在中國數(shù)個(gè)城市部署了無人小巴和無人環(huán)衛(wèi)車。相較于無人駕駛出租車，它們?cè)谶\(yùn)行環(huán)境上受到了更大的限制，但與人類司機(jī)相比，安全性有了大幅提高。這些車輛在特定環(huán)境下運(yùn)行并收集大量數(shù)據(jù)后，最終將擺脫這些初期上路的限制條件。
在機(jī)器人技術(shù)從簡單應(yīng)用通往復(fù)雜場(chǎng)景的發(fā)展過程中，我們將獲得更多數(shù)據(jù)，從而提升其性能和安全性。舉例來說，在未來十年里，通過減少人為失誤（這是道路事故最常見的原因），自動(dòng)駕駛汽車僅在英國就可以防止47000起嚴(yán)重交通事故發(fā)生，挽救3900人的生命。蘭德公司的研究發(fā)現(xiàn)，即使自動(dòng)駕駛的安全性僅比人類駕駛高 10%，換算過來也能夠拯救許多寶貴的生命。
道德困境
對(duì)于機(jī)器人的大規(guī)模應(yīng)用，大部分人仍然表現(xiàn)出極大的擔(dān)憂，包括對(duì)機(jī)器錯(cuò)誤導(dǎo)致人類喪命的道德爭議。古典的“電車難題”是指一種道德困境，經(jīng)典假設(shè)是旁觀者可以通過切換失控電車的軌道，雖然會(huì)因此撞死一個(gè)人，卻能拯救另外五個(gè)人。這一難題說明了攸關(guān)“誰生誰死“的選擇，本質(zhì)上是一種道德判斷，這樣的決策不應(yīng)該交給無情的機(jī)器。
然而，機(jī)器人和人類的感知方式不同，出現(xiàn)的錯(cuò)誤類型自然也就不同，這使得“道德困境”進(jìn)一步加劇。舉例來說，機(jī)器人反應(yīng)迅捷，注意力始終集中，但可能會(huì)誤判障礙物，例如優(yōu)步的無人駕駛汽車就曾把推著自行車過馬路的行人誤判為汽車，并因此預(yù)判它比自身行進(jìn)的速度更快。
人類失誤和機(jī)器失誤之間的差異，使得公眾更加難以接受由機(jī)器人導(dǎo)致的死亡，如果他們?cè)?jīng)聽聞了類似 2018 年美國鳳凰城車禍?zhǔn)录蟮拿襟w渲染報(bào)道，一定更難釋懷。一旦各種媒體持續(xù)以譴責(zé)性的大標(biāo)題，有失偏頗地放大抨擊每樁自動(dòng)駕駛致死的案例，那么人們很可能會(huì)對(duì)自動(dòng)駕駛系統(tǒng)徹底失去信心，即便這項(xiàng)技術(shù)最終有可能拯救數(shù)百萬人的生命。
若是人類司機(jī)造成他人死亡，他們將面臨法律的判決并承擔(dān)相應(yīng)后果。但“人工智能的黑匣子”無法以人類可理解的詞句，或者在法律和道德上正當(dāng)合理的人類語言，向法官和公眾解釋肇事決策的原由。
另一點(diǎn)需要商榷的是問責(zé)問題。在鳳凰城的那場(chǎng)事故中，汽車?yán)锏娜祟愃緳C(jī)被指控犯有過失殺人罪。但是，在這一案件中，汽車制造商、人工智能算法供應(yīng)商或工程師應(yīng)該為此負(fù)責(zé)并承擔(dān)一定的法律責(zé)任嗎？只有問責(zé)歸屬明確，我們才能有共識(shí)和準(zhǔn)則的基礎(chǔ)來建立一個(gè)完善的自動(dòng)駕駛生態(tài)系統(tǒng)。
人工智能和機(jī)器學(xué)習(xí)時(shí)代的“電車難題”
既然機(jī)器人技術(shù)可以挽救無數(shù)生命，那么只要證明它比人類略勝一籌，我們就有充分的理由大舉推廣自動(dòng)化技術(shù)。我認(rèn)為，我們應(yīng)把握一切機(jī)會(huì)推出對(duì)人類有助益的機(jī)器人自動(dòng)化工具，它們初期應(yīng)在受限制的特定環(huán)境中使用，然后再逐步規(guī)?；捎?，最終獲得更多自主權(quán)及更廣泛的推動(dòng)。通過這種循序漸進(jìn)的方式，我們一方面可以收集更多的數(shù)據(jù)，提升機(jī)器人的性能，另一方面能夠最大限度地降低危及人類生命的事故。
考慮到可能出現(xiàn)的異議，我們需要共同努力，讓大眾更了解機(jī)器人技術(shù)帶來的短期陣痛和長期效益。只有這樣，我們才能在擁抱自動(dòng)化技術(shù)的進(jìn)程中，逐漸培養(yǎng)出負(fù)責(zé)任和嚴(yán)謹(jǐn)?shù)膽B(tài)度，讓機(jī)器人更好地為人類社會(huì)服務(wù)。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
