第二天上課，隋老師討論一個嚴肅的話題——《“電車難題”是無人駕駛的絆腳石？》
隋老師道：
“說起無人駕駛，許多人就會不自覺的聯想到上世紀70年代誕生的經典電車難題。
這個倫理學領域最為知名的思想實驗，正在成為整個行業不斷前進的絆腳石。
因此，現在我們是不是該向前看，把這個問題徹底翻篇，不要再用這一道德問題來拷問無人駕駛汽車了呢？”
說完，隋老師微微一笑，看向大家。
王磊同學忽然問：“隋老師，電車難題是什麽呀？”
一些同學點頭，覺得王磊這個問題問得好，問到了心坎兒上。
隋老師說：
“1967年，英國哲學家菲利帕·富特首次提出‘電車難題’。
一輛有軌電車失去了控製，司機看見前方的軌道上有五個人。
司機可以任憑電車繼續前行，這樣，這五個人一定都會被撞死；司機也可以將電車轉向，開到一條岔路上，而這樣隻會撞死另一個人。
那麽，司機是否應當把電車開到人少的軌道上，撞死一個人，而不是五個人呢？
1985年，米國哲學家湯姆森將這個問題作了進一步展開。
這一次，是你親眼看見一輛失去控製的電車沿著軌道疾馳而去，而你則站在一個道岔開關的旁邊。
你可以無動於衷，任憑電車繼續前行，撞死那五個人；或者你也可以扳動道岔，將電車引至側線，隻撞死另外的那個人。
這裏的新條件是：和電車司機不同，你並沒有在兩條軌道之間作出選擇的職業責任。
你會如何選擇？
值得一提的是，這不僅僅是個哲學難題，湯姆森的假設，在後來的米國，真實的上演了這一幕，我想如果有上帝，上帝一定是個有點惡趣味的家夥。
案件裏，站在道岔口的人選擇了撥動道岔，5個人得救了。許多人對她的選擇表示讚同。
事實上，這道題，多數人會選擇撞死一個人。因為如此選擇的人們會說很簡單，做做數學，為了最多數人的幸福。”
同學們紛紛點頭。
哦，這就是電車難題喲！的確有些難！
隋老師繼續說：
“如果以電車難題為基礎來一次發散思維，你確實能得到大量難以解答的問題。
比如，無人駕駛汽車應該為了保行人而放棄駕駛員嗎？
那麽事故當頭，老人和年輕人誰更應該做出犧牲？
如果車輛能獲知附近駕駛員的信息，在車輛失控前它是否應該根據這些信息進行選擇性的碰撞？
事實上，電車難題在無人駕駛圈已經是個繞不開的話題，麻省理工的工程師甚至專門眾籌了一個‘道德機器’，旨在編寫一個意見目錄，以解決未來機器人在特定情況下該作何反應的問題。
不過，幾十年來都沒有答案的電車難題，其實本身就有個漏洞。”
隋老師停頓下來，然後問：“你們知道是什麽漏洞嗎？”
劉軍民舉手說：“編程的人，一定帶有傾向性啊，他們的傾向，就是到的漏洞！”
劉俊豪舉手補充：“工程師們眾籌的道德機器，匯聚了大家的道德，也不能取得道德一致性吧？”
隋老師道：
“你們的迴答都有一些道理。
實際上，在為機器人設定道德條件時，電車難題這個思想實驗根本不及格。
如果硬要把它套進這一領域，特別是在製定政策、引導設計或迴答一些人們關心的問題時，肯定會導致一些有關機器倫理的危險且不完整的結論。
我們千萬別讓功利主義蒙了眼睛。
‘電車難題’1967年誕生時，哲學家菲利帕·富特探討的是人的打算與他們預見的不同。
當時富特拿墮胎打了一個比方，如果產婦難產，是摘掉產婦的子宮放手一搏來救孩子（屬於‘預見’的範疇，成了皆大歡喜，失敗了就一屍兩命），還是直接結束孩子的生命（屬於‘打算’的範疇）來救產婦一命呢？
同樣都是麵對產婦難產，不同的處理方式會帶來不同的道德結論。
富特當時還引申出了許多類似的情況，其中之一就與有軌電車司機有關。
另外一個則屬於法官麵對的難題，她設想如果法官不判處一位無辜群眾的死刑，暴徒就威脅要衝擊法庭。
第二個設想就與電車難題類似，法官要做出選擇，到底是為了正義犧牲多數人的生命，還是為了多數人的利益犧牲無辜者。
經過一番研究，富特在論文中表示：‘大多數選擇犧牲扳道員來拯救更多生命的人，如果碰上法官歪曲黑白剝奪無辜者生命時也會感到震驚。’
於是，她總結稱，一個人做什麽和一個人允許什麽之間是有差別的，因此避免傷害和帶來幫助之間的差別非常重要。
富特的論文雖然簡短，但給現在的讀者提供了一個全新的視角來看待無人駕駛汽車遇到的道德困境，而不是鑽進‘電車難題’的牛角尖裏爬不出來。
從某種程度上來說，這是因為富特遵循了大家所熟知的美德倫理（來自古希臘亞裏士多德）。
大家熟知的美德倫理是什麽呢？”
鄧民中舉手道：“利他主義！”
隋老師鼓勵大家繼續舉手迴答。
榮顏同學舉手迴答：“人生而平等！”
隋老師笑著問：“還有哪個同學迴答嗎？”
同學們都不在舉手。
隋老師說：
“剛才鄧民中、榮顏同學迴答得不夠準確。
美德倫理，是指一個人的道德水平甚至可以和生命劃等號！
不過，在討論無人駕駛汽車時，大多數人會自動忽略美德倫理，他們更重視無人駕駛汽車帶來的最終結果。
在道德哲學裏，這樣的方式是與美德倫理截然不同的，它的學名叫做結果論，而結果論中有個著名的分支——功利主義。
也就是說，秉承這種理論的人在做事前會首先考慮自己行為可能導致的後果。
眼下，功利主義已經成了無人駕駛汽車修辭學中根深蒂固的思想，而在宣傳時大家總是會提到無人駕駛汽車帶來的全方位安全防護。
鑒於米國2006年因車禍喪生的人高達3.7萬名且有94%都是司機犯錯，因此用可靠的機器人替換容易犯錯的人類成了一件有百利而無一害的大好事。
不過問題是，隻關注結果會讓盲目的人們忘記原來無人駕駛汽車也有缺點。
就像富特提出的電車司機與法官的案例在道德上不能類比一樣，無人駕駛汽車在相同情況下可能也會造成不同的道德、法律和公民後果。”
隋老師道：
“說起無人駕駛，許多人就會不自覺的聯想到上世紀70年代誕生的經典電車難題。
這個倫理學領域最為知名的思想實驗，正在成為整個行業不斷前進的絆腳石。
因此，現在我們是不是該向前看，把這個問題徹底翻篇，不要再用這一道德問題來拷問無人駕駛汽車了呢？”
說完，隋老師微微一笑，看向大家。
王磊同學忽然問：“隋老師，電車難題是什麽呀？”
一些同學點頭，覺得王磊這個問題問得好，問到了心坎兒上。
隋老師說：
“1967年，英國哲學家菲利帕·富特首次提出‘電車難題’。
一輛有軌電車失去了控製，司機看見前方的軌道上有五個人。
司機可以任憑電車繼續前行，這樣，這五個人一定都會被撞死；司機也可以將電車轉向，開到一條岔路上，而這樣隻會撞死另一個人。
那麽，司機是否應當把電車開到人少的軌道上，撞死一個人，而不是五個人呢？
1985年，米國哲學家湯姆森將這個問題作了進一步展開。
這一次，是你親眼看見一輛失去控製的電車沿著軌道疾馳而去，而你則站在一個道岔開關的旁邊。
你可以無動於衷，任憑電車繼續前行，撞死那五個人；或者你也可以扳動道岔，將電車引至側線，隻撞死另外的那個人。
這裏的新條件是：和電車司機不同，你並沒有在兩條軌道之間作出選擇的職業責任。
你會如何選擇？
值得一提的是，這不僅僅是個哲學難題，湯姆森的假設，在後來的米國，真實的上演了這一幕，我想如果有上帝，上帝一定是個有點惡趣味的家夥。
案件裏，站在道岔口的人選擇了撥動道岔，5個人得救了。許多人對她的選擇表示讚同。
事實上，這道題，多數人會選擇撞死一個人。因為如此選擇的人們會說很簡單，做做數學，為了最多數人的幸福。”
同學們紛紛點頭。
哦，這就是電車難題喲！的確有些難！
隋老師繼續說：
“如果以電車難題為基礎來一次發散思維，你確實能得到大量難以解答的問題。
比如，無人駕駛汽車應該為了保行人而放棄駕駛員嗎？
那麽事故當頭，老人和年輕人誰更應該做出犧牲？
如果車輛能獲知附近駕駛員的信息，在車輛失控前它是否應該根據這些信息進行選擇性的碰撞？
事實上，電車難題在無人駕駛圈已經是個繞不開的話題，麻省理工的工程師甚至專門眾籌了一個‘道德機器’，旨在編寫一個意見目錄，以解決未來機器人在特定情況下該作何反應的問題。
不過，幾十年來都沒有答案的電車難題，其實本身就有個漏洞。”
隋老師停頓下來，然後問：“你們知道是什麽漏洞嗎？”
劉軍民舉手說：“編程的人，一定帶有傾向性啊，他們的傾向，就是到的漏洞！”
劉俊豪舉手補充：“工程師們眾籌的道德機器，匯聚了大家的道德，也不能取得道德一致性吧？”
隋老師道：
“你們的迴答都有一些道理。
實際上，在為機器人設定道德條件時，電車難題這個思想實驗根本不及格。
如果硬要把它套進這一領域，特別是在製定政策、引導設計或迴答一些人們關心的問題時，肯定會導致一些有關機器倫理的危險且不完整的結論。
我們千萬別讓功利主義蒙了眼睛。
‘電車難題’1967年誕生時，哲學家菲利帕·富特探討的是人的打算與他們預見的不同。
當時富特拿墮胎打了一個比方，如果產婦難產，是摘掉產婦的子宮放手一搏來救孩子（屬於‘預見’的範疇，成了皆大歡喜，失敗了就一屍兩命），還是直接結束孩子的生命（屬於‘打算’的範疇）來救產婦一命呢？
同樣都是麵對產婦難產，不同的處理方式會帶來不同的道德結論。
富特當時還引申出了許多類似的情況，其中之一就與有軌電車司機有關。
另外一個則屬於法官麵對的難題，她設想如果法官不判處一位無辜群眾的死刑，暴徒就威脅要衝擊法庭。
第二個設想就與電車難題類似，法官要做出選擇，到底是為了正義犧牲多數人的生命，還是為了多數人的利益犧牲無辜者。
經過一番研究，富特在論文中表示：‘大多數選擇犧牲扳道員來拯救更多生命的人，如果碰上法官歪曲黑白剝奪無辜者生命時也會感到震驚。’
於是，她總結稱，一個人做什麽和一個人允許什麽之間是有差別的，因此避免傷害和帶來幫助之間的差別非常重要。
富特的論文雖然簡短，但給現在的讀者提供了一個全新的視角來看待無人駕駛汽車遇到的道德困境，而不是鑽進‘電車難題’的牛角尖裏爬不出來。
從某種程度上來說，這是因為富特遵循了大家所熟知的美德倫理（來自古希臘亞裏士多德）。
大家熟知的美德倫理是什麽呢？”
鄧民中舉手道：“利他主義！”
隋老師鼓勵大家繼續舉手迴答。
榮顏同學舉手迴答：“人生而平等！”
隋老師笑著問：“還有哪個同學迴答嗎？”
同學們都不在舉手。
隋老師說：
“剛才鄧民中、榮顏同學迴答得不夠準確。
美德倫理，是指一個人的道德水平甚至可以和生命劃等號！
不過，在討論無人駕駛汽車時，大多數人會自動忽略美德倫理，他們更重視無人駕駛汽車帶來的最終結果。
在道德哲學裏，這樣的方式是與美德倫理截然不同的，它的學名叫做結果論，而結果論中有個著名的分支——功利主義。
也就是說，秉承這種理論的人在做事前會首先考慮自己行為可能導致的後果。
眼下，功利主義已經成了無人駕駛汽車修辭學中根深蒂固的思想，而在宣傳時大家總是會提到無人駕駛汽車帶來的全方位安全防護。
鑒於米國2006年因車禍喪生的人高達3.7萬名且有94%都是司機犯錯，因此用可靠的機器人替換容易犯錯的人類成了一件有百利而無一害的大好事。
不過問題是，隻關注結果會讓盲目的人們忘記原來無人駕駛汽車也有缺點。
就像富特提出的電車司機與法官的案例在道德上不能類比一樣，無人駕駛汽車在相同情況下可能也會造成不同的道德、法律和公民後果。”