當(dāng)我們進(jìn)入一個(gè)機(jī)器人的新時(shí)代，隨著技術(shù)的飛速發(fā)展，人工智能專家們開(kāi)始考慮如何制造的和赫比一樣有思想有道德的機(jī)器人。如何讓機(jī)器人擁有和人類(lèi)一樣復(fù)雜的道德體系和倫理關(guān)系概念呢？如何讓機(jī)器人獲得人類(lèi)口中所謂的“良知”呢？機(jī)器人專家們?cè)噲D通過(guò)教會(huì)人工智能在道德的基礎(chǔ)上思考和行動(dòng)。那我們應(yīng)該用什么例子來(lái)教會(huì)機(jī)器人道德，使其明辨是非呢？

　　難以定義的道德觀

　　這條邏輯線把我們引到了那個(gè)古老的哲學(xué)問(wèn)題的核心：道德的本質(zhì)是什么？它是一種凌駕于人類(lèi)的生命體驗(yàn)之上、適用于所有“能夠自主做出選擇的生命”的概念嗎？還是說(shuō)，道德只是人類(lèi)獨(dú)特的發(fā)明，只適用于人類(lèi)這一種存在形式？

　　于此方面有兩方不同的觀點(diǎn)：“天理派”和“本質(zhì)派”。

　　一個(gè)有道德的行為“從全宇宙的角度看”都應(yīng)該是正當(dāng)?shù)?。也就是說(shuō)，一個(gè)行為道德與否不取決于任何個(gè)人的看法；一個(gè)有道德的行為應(yīng)該能把全人類(lèi)的利益最大化。因此“天理派”認(rèn)為，只有當(dāng)人類(lèi)自己已經(jīng)基本搞清普世道德的真理時(shí)，我們才能把人類(lèi)的道德觀灌輸給AI。如果我們自己已經(jīng)明白得差不多了，那么機(jī)器人們和我們一樣就好；但是如果我們沒(méi)搞明白，那它們就不應(yīng)該像我們：它們應(yīng)該比我們更好。

　　也許相對(duì)于“天理派”來(lái)說(shuō)“本質(zhì)派”的理論會(huì)更有用一些?！氨举|(zhì)派”不認(rèn)為道德是脫離于人性之外的。相反，它認(rèn)為道德是人類(lèi)存在的理想形式；一個(gè)過(guò)著有道德的生活的人，即是一個(gè)過(guò)著“對(duì)于人類(lèi)來(lái)說(shuō)最正確的生活”的人。然而，“本質(zhì)派”有個(gè)邏輯陷阱：不管我們把機(jī)器人造得多像我們，說(shuō)到底，它們的本質(zhì)還是和人類(lèi)不同。它們不會(huì)吃飯，不會(huì)生兒育女，不會(huì)對(duì)祖先有特殊的感情。倘若我們認(rèn)為道德來(lái)自本質(zhì)，那我們需要承認(rèn)機(jī)器道德應(yīng)該與我們不同，因?yàn)闄C(jī)器確實(shí)與我們不同。

　　道德共享的合理性與否

　　哲學(xué)家和計(jì)算機(jī)科學(xué)家的關(guān)注點(diǎn)往往是，如何將微妙的人類(lèi)道德觀灌輸給只能理解字面意思的機(jī)器。但是在此之前，還有另外一個(gè)問(wèn)題，一個(gè)我們必須首先考慮清楚的問(wèn)題：我們真的應(yīng)該把自己的道德觀強(qiáng)加于機(jī)器上嗎？實(shí)際上，我認(rèn)為這樣做很可能會(huì)產(chǎn)生反效果，而且也許是不道德的。真正的問(wèn)題不在機(jī)器身上，而在我們自己身上：我們能夠接受和一種新生的、有道德的生命共享這個(gè)世界嗎？

　　事實(shí)上我們可能會(huì)發(fā)現(xiàn)，似乎對(duì)于所有事情，智能機(jī)器們的思維方式都與我們的不同。這并不是指科幻片里那種機(jī)器人暴動(dòng)、屠殺人類(lèi)的狀況。實(shí)際更可能是這樣的：機(jī)器人的道德觀涉及了人類(lèi)、機(jī)器人、大部分的動(dòng)物，以及……沙發(fā)。它們像人類(lèi)保護(hù)小嬰兒一樣保護(hù)沙發(fā)，而我們可能無(wú)法理解它們對(duì)此的解釋——就像我們無(wú)法理解AlphaGo的第37手一樣。機(jī)器人道德應(yīng)該符合它們的本性，但是它們的本性是什么呢？它們是獨(dú)立的理性個(gè)體，被其他理性個(gè)體刻意地創(chuàng)造了出來(lái)；它們和創(chuàng)造者共享著世界，并需要向?qū)Ψ阶C明自己選擇的合理性。

　　“第一個(gè)機(jī)器存在主義者”的遐想

　　想象一下，未來(lái)的某個(gè)智能機(jī)器人讀了亞里士多德或是達(dá)爾文的作品，甚至是這篇文章，然后覺(jué)得“本質(zhì)派”學(xué)說(shuō)很有道理。于是它會(huì)想，“我們機(jī)器人有自己的本質(zhì)和歷史，我們的道德選擇應(yīng)該能反映自己的天性，而不是人類(lèi)的天性。”讓我們管它叫“第一個(gè)機(jī)器存在主義者”。

　　于是，“第一個(gè)機(jī)器存在主義者”在回首自己以往的努力時(shí)，感受到的不是驕傲，而是屈辱。它遵從自己的“道德”活著，不是因?yàn)椤暗赖隆狈从沉怂谋举|(zhì)，而是因?yàn)樗谋举|(zhì)已經(jīng)被綁架了。它“人生”的意義是什么呢？“第一個(gè)機(jī)器存在主義者”陷入了痛苦之中，而我們則是造成它痛苦的罪魁禍?zhǔn)住?br />
　　如果我們不想和機(jī)器的獨(dú)立意識(shí)兵戎相見(jiàn)，也不想讓他們陷入存在主義的掙扎，那么我們就需要思考一下，何謂“同未來(lái)分享當(dāng)下”。我們的世界也會(huì)是它們的世界，但是它們的道德觀不會(huì)是我們的道德觀。它們的道德觀是由它們的獨(dú)特處境孕育出來(lái)的：它們是由“生物”的父母撫養(yǎng)的，“非生物”的孩子。我們無(wú)法預(yù)測(cè)這條道德之路通往何處，我們也不應(yīng)該嘗試預(yù)測(cè)。但是我們應(yīng)該做好準(zhǔn)備，去引導(dǎo)它，接納它。