杜嚴(yán)勇：機(jī)器人倫理研究方法論原則

本文系國家社科基金項(xiàng)目“機(jī)器人倫理問題研究”（15BZX036）階段性成果，作者單位：上海交通大學(xué)科學(xué)史與科學(xué)文化研究院

目前，世界各國高度重視機(jī)器人技術(shù)與產(chǎn)業(yè)，制定專門的發(fā)展戰(zhàn)略，投入大量資金，積極搶占世界市場(chǎng)。比如，中國的科技部制定了機(jī)器人發(fā)展專項(xiàng)規(guī)劃，強(qiáng)調(diào)“十二五”期間將重點(diǎn)發(fā)展工業(yè)和服務(wù)機(jī)器人產(chǎn)業(yè)。

在不久的將來，機(jī)器人完全可能像個(gè)人電腦那樣，與我們的日常工作與生活息息相關(guān)，密不可分。但是，機(jī)器人在帶給我們便利的同時(shí)，也可能產(chǎn)生各種風(fēng)險(xiǎn)，甚至對(duì)人類的生存構(gòu)成威脅，來自科學(xué)、技術(shù)、文學(xué)與哲學(xué)等不同領(lǐng)域的學(xué)者以各種方式表達(dá)了對(duì)機(jī)器人發(fā)展的憂慮。如何與機(jī)器人和諧相處，已經(jīng)是一個(gè)日益緊迫的現(xiàn)實(shí)問題，而不是純粹的理論思辨，這也是近10年來西方學(xué)術(shù)界中機(jī)器人倫理研究蓬勃發(fā)展的根本原因。在機(jī)器人倫理研究中應(yīng)該堅(jiān)持貫徹哪些基本原則，是我們首先要面對(duì)和反復(fù)思考的問題。

阿西莫夫的機(jī)器人學(xué)

三原則

在機(jī)器人倫理原則中，阿西莫夫 （IsaacAsi－mov）于1942年提出的機(jī)器人學(xué)三大原則最為著名：第一，機(jī)器人不得傷害人類，或坐視人類受到傷害而袖手旁觀。第二，除非違背第一法則，機(jī)器人必須服從人類的命令。第三，在不違背第一法則及第二法則的情況下，機(jī)器人必須保護(hù)自己。在1985年出版的《機(jī)器人與帝國》一書中，阿西莫夫強(qiáng)調(diào)了“整體人類比單獨(dú)一個(gè)人更重要”的思想，將保護(hù)整體人類作為機(jī)器人學(xué)的本初法則，而第一法則主要強(qiáng)調(diào)的是人類個(gè)體。

阿西莫夫的機(jī)器人法則具有明顯的人類中心主義色彩。在生態(tài)倫理學(xué)中，人們一般認(rèn)為人類中心主義過分強(qiáng)調(diào)人類的利益，忽視或貶低自然界其他生物的價(jià)值，是不合理的。

在生態(tài)問題十分突出的現(xiàn)代社會(huì)，非人類中心主義強(qiáng)調(diào)自然界不是人類的奴隸，其他生物與人類具有同等的道德地位，顯然具有更大的合理性。不過，從根本上講，非人類中心主義乃至生態(tài)倫理學(xué)的最終目的還是為了保護(hù)人類的根本利益。更何況，機(jī)器人本身就是人類制造出來為自己服務(wù)的，跟自然界天然存在的生物有著本質(zhì)的差異。也就是說，阿西莫夫的機(jī)器人法則雖然存在某些不足，但其強(qiáng)調(diào)人類的根本利益這一點(diǎn)應(yīng)該是機(jī)器人倫理的出發(fā)點(diǎn)與落腳點(diǎn)。

從道德哲學(xué)的角度看，人先天地具有道德本能，而不是通過學(xué)習(xí)倫理學(xué)而變得善良。機(jī)器人倫理與人類的道德本能完全相反，機(jī)器人不具有道德本能，它所擁有的道德判斷與行為能力完全是人類應(yīng)用自己的理性進(jìn)行設(shè)計(jì)并賦予機(jī)器人的，是典型的“人類中心主義”。當(dāng)然，與阿西莫夫的本初法則類似，這種人類中心主義的倫理并不是以單個(gè)或少數(shù)消費(fèi)者為核心，而是以保障作為整體的人類安全與道德水平為目的。

方法論原則

從一般的意義上講，機(jī)器人倫理研究需要遵循人們普遍接受的倫理原則。針對(duì)目前的機(jī)器人倫理研究現(xiàn)狀，我們嘗試提出以下幾條機(jī)器人倫理研究的方法論原則。

第一，靈活性與開放性原則。與生命倫理、核倫理等科技倫理不同的是，由于機(jī)器人應(yīng)用非常廣泛，希望某一種或幾種倫理原則可以解決所有問題是不現(xiàn)實(shí)的。同時(shí)，由于文化的多元性與地域性等原因，導(dǎo)致對(duì)于同樣一項(xiàng)機(jī)器人技術(shù)，不同的受眾群體在不同時(shí)期可能會(huì)做出完全不同的倫理價(jià)值判斷，需要具體問題具體分析。為了準(zhǔn)確把握受眾群體的倫理訴求，必須按照一定程序進(jìn)行理性對(duì)話與調(diào)查研究，并建立相應(yīng)的反饋機(jī)制。也就是說，機(jī)器人倫理研究需要在特定的社會(huì)情境中展開。這些都要求機(jī)器人倫理研究要遵循靈活性與開放性原則。

第二，階段性與綜合性原則。雖然機(jī)器人在某些方面遠(yuǎn)超過人類，但限于目前計(jì)算機(jī)、人工智能以及機(jī)器人學(xué)的發(fā)展水平，機(jī)器人在常識(shí)性知識(shí)、學(xué)習(xí)能力等方面還不如人類。而且，由于學(xué)者們關(guān)于在機(jī)器人中實(shí)現(xiàn)哪些倫理原則，以及如何實(shí)現(xiàn)等許多問題尚未達(dá)成一定程度的共識(shí)，所以在研究過程中需要分階段進(jìn)行。已有的研究成果表明，在對(duì)機(jī)器人進(jìn)行倫理設(shè)計(jì)的研究中，可以首先讓機(jī)器人成為“倫理顧問”，然后對(duì)其倫理判斷進(jìn)行綜合評(píng)價(jià)，再對(duì)相應(yīng)的倫理原則與計(jì)算機(jī)程序進(jìn)行調(diào)整，如此反復(fù)進(jìn)行。在已有的機(jī)器人倫理研究進(jìn)路中，主要有人工智能進(jìn)路、心理學(xué)或社會(huì)學(xué)進(jìn)路，以及哲學(xué)進(jìn)路等，在分門別類進(jìn)行詳細(xì)考察的基礎(chǔ)上，最終需要將各種研究進(jìn)路統(tǒng)一起來。

第三，安全性與預(yù)防性原則。在科技倫理當(dāng)中，安全性原則的重要性尤為突出。在機(jī)器人能力越來越強(qiáng)大的時(shí)代背景下，安全性原則應(yīng)該是首要原則。在許多關(guān)于機(jī)器人的科幻小說與影視作品中，大多折射出悲觀主義的立場(chǎng)，認(rèn)為機(jī)器人會(huì)超越甚至戰(zhàn)勝人類，由此更加突顯了安全性原則的重要地位。即使機(jī)器人技術(shù)可能對(duì)人類及其生存環(huán)境形成危害的因果關(guān)系沒有得到充分證實(shí)，只要其可能性存在，我們就有理由對(duì)其開發(fā)應(yīng)用保持足夠的警惕。另外，機(jī)器人的研發(fā)機(jī)構(gòu)對(duì)于機(jī)器人的應(yīng)用可能產(chǎn)生的風(fēng)險(xiǎn)也必須盡到告知義務(wù)，等等�？傊�，從機(jī)器人的設(shè)計(jì)、開發(fā)到使用，安全與預(yù)防原則都必須一以貫之。