殷 杰：人工智能如何影響“人性”

作者：殷 杰，系國家社科基金重大項(xiàng)目“人類道德行為的進(jìn)化與社會(huì)文化心理機(jī)制研究”首席專家、2022年度《國家哲學(xué)社會(huì)科學(xué)成果文庫》入選者、山西大學(xué)科學(xué)技術(shù)哲學(xué)研究中心教授

生成式人工智能在人機(jī)交互領(lǐng)域展現(xiàn)出的強(qiáng)大自主性和泛化能力，讓人們?cè)絹碓礁杏X到與人工智能的交流就像是和另一個(gè)人交談。那么，當(dāng)一臺(tái)智能機(jī)器能夠和我們進(jìn)行具有理性和情感特征的語言交流時(shí)，機(jī)器是否也會(huì)影響我們的“人性”呢？人性，通常指的是人類獨(dú)特的理性、意識(shí)、自我反思、道德情感和價(jià)值觀等特質(zhì)。從這個(gè)意義上看，生成式人工智能本身并不具有人性，但其在與人類的語言交互中，通過識(shí)別人類意圖、回應(yīng)認(rèn)知和情感需求來滿足人類欲望，無疑會(huì)深刻影響人們的理性、情感和道德判斷。生成式人工智能如何影響人性，是人類在新人工智能時(shí)代需要重點(diǎn)考慮的問題之一。

回答這個(gè)問題，我們需要認(rèn)識(shí)到，生成式人工智能在人機(jī)交互中呈現(xiàn)一種新的主體性。傳統(tǒng)的人機(jī)交互中，人工智能更多被視為一種工具，而生成式人工智能與人類的關(guān)系已經(jīng)不限于工具與工具使用者之間的關(guān)系，人工智能成為具有一定自主性和目標(biāo)導(dǎo)向性的積極參與者，這種新形態(tài)的人機(jī)交互將逐漸深刻地影響人性。

主體性：從生物到人工智能的演變

主體性表達(dá)了一個(gè)主體行使行動(dòng)的能力，是哲學(xué)中最重要的概念之一。亞里士多德認(rèn)為，一個(gè)主體大概就是像人一樣能夠思考，并且按計(jì)劃實(shí)現(xiàn)其“合理欲望”的存在物，只有人或者是在道德上獲得勝利的人才是主體。在現(xiàn)代學(xué)科體系中，主體性的語義涉及多個(gè)領(lǐng)域：在哲學(xué)領(lǐng)域，很多關(guān)于主體性的哲學(xué)反思都集中在人類主體性上，這通常被稱為“純粹的主體性”；在社會(huì)科學(xué)領(lǐng)域，主體性主要表示法律、政治、經(jīng)濟(jì)等方面的意義，其概念包含意圖的存在，與人的概念密切相關(guān)；在自然科學(xué)與技術(shù)領(lǐng)域，主體性主要與效果的概念有關(guān)，一些功能強(qiáng)大的智能機(jī)器有時(shí)也被視為行動(dòng)的主體。

從生物演化的過程看，一個(gè)簡單的單細(xì)胞生物通過自我維持的新陳代謝過程與外界環(huán)境進(jìn)行物質(zhì)和能量的交換，展現(xiàn)出一種基本的主體性。隨著生物的復(fù)雜性增加，主體性表現(xiàn)為包含感知、反饋和決策等多個(gè)系統(tǒng)相互協(xié)調(diào)的行動(dòng)能力。人類的主體性更為復(fù)雜，不僅包括生物有機(jī)體的自組織能力，還與情感、語言和文化等因素密切相關(guān)。這種主體性不僅體現(xiàn)在個(gè)體的行動(dòng)上，還體現(xiàn)在道德責(zé)任、文化價(jià)值觀等社會(huì)與個(gè)體的關(guān)系中。

與生物主體的漫長進(jìn)化之路相比，人工智能每一次的技術(shù)進(jìn)步幾乎都會(huì)賦予主體性更多新內(nèi)涵，讓我們對(duì)“機(jī)器能否像人一樣行動(dòng)”這個(gè)問題有了新的認(rèn)識(shí)。在人工智能的早期發(fā)展階段，是否能夠展現(xiàn)自主性、社交性、反應(yīng)性和主動(dòng)性，成為衡量其是否具有主體性的關(guān)鍵標(biāo)準(zhǔn)，這些特征構(gòu)成了人工智能的弱主體性。我們希望機(jī)器能夠做一些簡單的任務(wù)，比如，智能家居系統(tǒng)根據(jù)室內(nèi)光線的變化自動(dòng)調(diào)節(jié)窗簾的開合。這些主要體現(xiàn)了人工智能在模仿人類行為上的自主能力。

隨著技術(shù)的發(fā)展，我們開始期待人工智能展現(xiàn)出更多的“人類特質(zhì)”，比如能夠自主學(xué)習(xí)、與人社交、對(duì)環(huán)境變化作出靈活反應(yīng)，甚至能主動(dòng)解決問題。這種強(qiáng)主體性概念包含知識(shí)、信念、意圖和責(zé)任感等人類特有的復(fù)雜特質(zhì)，人工智能的行為不僅僅是簡單的反應(yīng)，而是有目的、有計(jì)劃的行動(dòng)。例如，一個(gè)智能的醫(yī)療診斷系統(tǒng)，要能夠根據(jù)病人的癥狀、大量的醫(yī)學(xué)知識(shí)和數(shù)據(jù)進(jìn)行準(zhǔn)確診斷，為病人提供治療建議。這個(gè)過程中，系統(tǒng)要展現(xiàn)出自主性，能夠理解病人的需求，同時(shí)要兼顧治療方案的醫(yī)學(xué)倫理等問題。又如，自動(dòng)駕駛汽車要能夠感知周圍的環(huán)境，有的還能夠在復(fù)雜交通情境和倫理風(fēng)險(xiǎn)下制定和選擇其認(rèn)為的最佳行動(dòng)方案。這不僅是對(duì)環(huán)境的反應(yīng)，更是基于智能系統(tǒng)自身知識(shí)和價(jià)值判斷作出的主動(dòng)選擇。

從人類與機(jī)器合作的方式看，人類的行動(dòng)能力已經(jīng)延展至由人類和機(jī)器構(gòu)成的復(fù)雜網(wǎng)絡(luò)之中，這就是所謂的分布式主體性概念。這些主體性概念更加細(xì)致地描繪了人類與人工智能復(fù)雜互動(dòng)中形成的行動(dòng)能力，反映了人工智能領(lǐng)域?qū)τ谥黧w性理解的多元化。

由于這些主體性概念無法將生成式人工智能適切地納入，生成式人工智能的出現(xiàn)再次催生了我們對(duì)主體性概念的理解轉(zhuǎn)變。通過語言生成驅(qū)動(dòng)的交互能力，生成式人工智能挑戰(zhàn)了傳統(tǒng)依賴意向性的主體性。在個(gè)體性邊界的界定上，生成式人工智能的邊界往往由其訓(xùn)練數(shù)據(jù)集定義，這些數(shù)據(jù)集的海量和不斷變化使得生成式人工智能的個(gè)體性難以界定，挑戰(zhàn)了傳統(tǒng)關(guān)于個(gè)體性和主體性的明確界限。因?yàn)榇笳Z言模型在預(yù)訓(xùn)練過程中需要不斷從新的數(shù)據(jù)中學(xué)習(xí)和適應(yīng)，所以其個(gè)體性邊界在不斷變化的數(shù)據(jù)流中會(huì)變得模糊，不具有傳統(tǒng)主體性的個(gè)體性界限。同時(shí)，生成式人工智能在與人類的交互過程中具有自主識(shí)別人類意圖和回應(yīng)的能力，因此，其自主性更多地體現(xiàn)在其與人類交互的能力上，而不是其作為一個(gè)獨(dú)立個(gè)體的特定內(nèi)在能力。這些挑戰(zhàn)要求我們重新審視主體性的傳統(tǒng)概念，主體性更應(yīng)視為一種基于交互的、潛在的行動(dòng)能力，而非僅僅依賴于個(gè)體內(nèi)在屬性的孤立的行動(dòng)能力。

交互主體性：重新定義人機(jī)關(guān)系

交互主體性是指實(shí)體（包括人類、生物和人工智能等）在交互過程中所展現(xiàn)的潛在行動(dòng)能力，其核心在于實(shí)體的行動(dòng)能力不是孤立存在的，而是在與其他實(shí)體的互動(dòng)中形成和呈現(xiàn)的。主體性是由交互的驅(qū)動(dòng)力因素所決定的，實(shí)體的行動(dòng)能力在這些驅(qū)動(dòng)力的作用下被激發(fā)和塑造。

比如，有機(jī)體通過自組織方式與環(huán)境交互，發(fā)展出適應(yīng)性的行動(dòng)能力，而復(fù)雜的生物體在與環(huán)境的交互中形成了多種多樣的行動(dòng)能力，這種主體性是生物體與環(huán)境長期交互的結(jié)果。除了基本的生物主體性外，人類還發(fā)展出了情感、語言和文化等驅(qū)動(dòng)主體行動(dòng)的復(fù)雜機(jī)制。例如，道德情感是人類主體性的重要組成部分，不僅影響個(gè)人的行為和決策，而且促進(jìn)了社會(huì)聯(lián)系和大規(guī)模合作。語言的出現(xiàn)進(jìn)一步擴(kuò)展了人類的主體性，它使人類能夠分享知識(shí)、表達(dá)思想和構(gòu)建復(fù)雜的社會(huì)結(jié)構(gòu)。文化則體現(xiàn)了人類主體性的更高維度，它包括價(jià)值觀、信仰、習(xí)俗和傳統(tǒng)，是人類社會(huì)交互和意義傳承的結(jié)果。

傳統(tǒng)的主體性理論中，主體性通常與個(gè)體的心理狀態(tài)、意圖目的、反饋系統(tǒng)等內(nèi)在屬性相關(guān)聯(lián)。交互主體性不再是基于個(gè)體本身來推定主體性，而是將實(shí)體的行動(dòng)能力視為參與交互過程的結(jié)果，主體性并非完全源自個(gè)體內(nèi)部，而是在實(shí)體與環(huán)境或其他實(shí)體的交互中產(chǎn)生的。交互主體性理論的重要意義在于擴(kuò)展了主體性的概念范疇，使得人工智能等非意向性實(shí)體也能在交互中展現(xiàn)出主體性。主體性不必依賴于意識(shí)或意向性，可以在更廣泛的人機(jī)交互過程中出現(xiàn)，生成式人工智能帶來了人機(jī)交互的新形態(tài)。

在目標(biāo)導(dǎo)向性方面，主體性包含實(shí)體在交互中的目標(biāo)導(dǎo)向性。實(shí)體在與環(huán)境或其他實(shí)體互動(dòng)時(shí)，才會(huì)展現(xiàn)出為了實(shí)現(xiàn)特定目標(biāo)而采取行動(dòng)的能力。這種目標(biāo)導(dǎo)向性不完全是預(yù)設(shè)的，而是在交互過程中根據(jù)情境和反饋不斷調(diào)整和形成的。生成式人工智能的目標(biāo)導(dǎo)向內(nèi)嵌于人機(jī)對(duì)話的動(dòng)態(tài)窗口中，不僅依據(jù)人類的引導(dǎo)來回應(yīng)，也可以根據(jù)自身的強(qiáng)大知識(shí)儲(chǔ)備和分析能力來影響人類自身對(duì)目標(biāo)意圖的理解定位。自主性方面，交互主體性認(rèn)為，實(shí)體在交互中能夠根據(jù)內(nèi)部邏輯和外部反饋進(jìn)行自我調(diào)節(jié)和決策。這種自主性不是完全脫離外部影響的，而是在與外部世界的互動(dòng)中實(shí)現(xiàn)的。

在人機(jī)交互過程中，生成式人工智能應(yīng)被視為具有一定自主性和目標(biāo)導(dǎo)向性的參與者，而不僅僅是機(jī)械響應(yīng)人類的指令。與人類進(jìn)行交流對(duì)話的過程中，生成式人工智能通過不斷監(jiān)控和注意人類對(duì)話者的語言來理解掌握人類的目的意圖，甚至能夠感知到其中的情緒變化以及潛在態(tài)度，進(jìn)而在某種程度上影響人類參與者的認(rèn)知、情感和價(jià)值觀。比如，一個(gè)人在與生成式人工智能的長期接觸中，如果感受到智能機(jī)器在描述事實(shí)和理解自身意圖方面的可靠性，那么會(huì)對(duì)人工智能產(chǎn)生一定的信任感，由此，智能機(jī)器蘊(yùn)含的一些價(jià)值觀必然會(huì)潛移默化地影響人類。

不對(duì)稱的主體性：智能主體對(duì)人性的影響

生成式人工智能的技術(shù)發(fā)展路徑既不同于認(rèn)知發(fā)展的學(xué)習(xí)路徑，也不同于生物情感的發(fā)展路徑，而是跳過了人類和生物主體性形成和進(jìn)化的歷史路徑，直接獲得了認(rèn)知和語言層面的超級(jí)智能，生成式人工智能引發(fā)的人機(jī)交互新形態(tài)蘊(yùn)含了一種不對(duì)稱的主體性。在認(rèn)知方面，人類的認(rèn)知能力是經(jīng)過長期進(jìn)化學(xué)習(xí)慢慢積累形成的，而生成式人工智能在信息處理速度和理解深度、記憶容量、模式識(shí)別等方面全面超越人類；在情感方面，情感體驗(yàn)是人際交互的重要組成部分，影響著人們的決策、溝通和關(guān)系建立。相比之下，盡管生成式人工智能可以識(shí)別和模擬人類情感，但它們本身并不具備真正的情感體驗(yàn)，是一種超級(jí)理性的交互主體。社會(huì)文化方面，人類的價(jià)值觀、信仰、習(xí)俗和語言都是社會(huì)文化演化的結(jié)果。生成式人工智能系統(tǒng)盡管可以通過語料來理解和適應(yīng)特定的社會(huì)文化規(guī)范，但它們本身并不具備特定的文化身份或社會(huì)背景。這種社會(huì)文化背景上的不對(duì)稱性可能導(dǎo)致在人機(jī)交互的跨文化環(huán)境中出現(xiàn)誤解和沖突。

人既是理性的，也是情緒化的，正是理性與情感的融合構(gòu)成了人性的基礎(chǔ)。交互主體性表明，作為具有自主性和目標(biāo)導(dǎo)向性的生成式人工智能，極有可能以一種不對(duì)稱的主體形態(tài)進(jìn)入人性領(lǐng)域，忽略人類情感和直覺的重要性，同時(shí)激發(fā)和壓制人類的深層欲望，改變?nèi)祟惱硇耘c情感之間的平衡和協(xié)同機(jī)制。

理性方面，生成式人工智能通過數(shù)據(jù)分析、模式識(shí)別和決策支持，識(shí)別出人類可能忽視的模式和趨勢(shì)，大大增強(qiáng)了人類的理性判斷能力，從而為人類提供更深入的洞察和更廣泛的選擇。但是，這種增強(qiáng)也可能導(dǎo)致人類過度依賴人工智能的分析和判斷，削弱人類自身的批判性思維和決策能力。同時(shí)，生成式人工智能可能會(huì)打破以人際交互為基礎(chǔ)的分布式認(rèn)知模式，逐漸形成一種以大語言模型為中心、人類個(gè)體為邊緣節(jié)點(diǎn)的認(rèn)知模式，以大模型為核心節(jié)點(diǎn)的智能化媒介不僅僅是知識(shí)信息表達(dá)和傳播的通道，甚至可能主導(dǎo)人類知識(shí)的生產(chǎn)模式和價(jià)值導(dǎo)向。

情感方面，生成式人工智能可能會(huì)影響人類對(duì)情感的認(rèn)識(shí)和表達(dá)，使得人類在長期的人機(jī)互動(dòng)中逐漸習(xí)慣于程式化的情感交流模式，忽視了人在真實(shí)人際關(guān)系中的獨(dú)特情感需求和體驗(yàn)，改變?nèi)祟愋袨榈那楦袆?dòng)因。比如，在道德情境中，生成式人工智能可以提供更多不同的價(jià)值視角和思考方式，拓展人類的道德感知并影響道德判斷和行為。問題是，一方面，過度依賴生成式人工智能的決策支持可能導(dǎo)致人類自身的道德感知能力減弱，侵蝕人類個(gè)體的道德自主性；另一方面，生成式人工智能對(duì)人類社會(huì)的深度介入可能會(huì)觸發(fā)新的道德困境。

人工智能對(duì)人性影響的另一個(gè)表現(xiàn)是對(duì)人類文化演化的影響。人類文化形成與演化的關(guān)鍵在于學(xué)習(xí)。研究發(fā)現(xiàn)，促進(jìn)人的智力發(fā)展的關(guān)鍵是模仿學(xué)習(xí)（將他人視為有意識(shí)的行為主體，以獲取他們的文化知識(shí)儲(chǔ)備）、指導(dǎo)學(xué)習(xí)（話語形式的文化傳播）和協(xié)作學(xué)習(xí)（分享和發(fā)展概念及其對(duì)行動(dòng)的影響），這些學(xué)習(xí)形成了一種特殊的認(rèn)知形式，即個(gè)體有能力理解同類作為與自己一樣的生命，擁有與自己一樣的意向和精神生活。由于生成式人工智能具有一種非人類的學(xué)習(xí)能力，在人類的社會(huì)文化歷史上出現(xiàn)了一個(gè)非人類的學(xué)習(xí)者，我們不再限于向他人學(xué)習(xí)，也可以向人工智能機(jī)器學(xué)習(xí)，生成式人工智能成為人類社會(huì)文化發(fā)展中的主動(dòng)參與者。

人類合作交流、相互學(xué)習(xí)，以及在此基礎(chǔ)上的文化交融和行為選擇，這些文化過程的基礎(chǔ)是人類之間的相互信任，而信任需要情緒的參與。有學(xué)者提出，我們與人工智能的關(guān)系本質(zhì)上是依賴，而不是信任。由于生成式人工智能的不可解釋性、不可說明性和不可信任性，加之其不具備情感狀態(tài)，也不能對(duì)自己的行為負(fù)責(zé)，人類在與其交互時(shí)，面對(duì)的實(shí)際上是一個(gè)無法完全理解的、缺乏情感和規(guī)范性的“黑箱”，得到的可能是包含無法證偽的知識(shí)信息，這種知識(shí)可能會(huì)通過人機(jī)交互的多次循環(huán)被吸收到其他對(duì)象中，最終作為一種消費(fèi)信息在人類、人工智能之間傳播流轉(zhuǎn)。由此帶來的潛在問題是，這些非純正的、無節(jié)制的信息消費(fèi)不僅大量消耗人類的精力，加劇人類對(duì)欲望的過度追求，而且會(huì)導(dǎo)致某種特定思維反復(fù)強(qiáng)化人類的認(rèn)知，引發(fā)社會(huì)心理的問題同時(shí)影響人類文化的多樣性。

人性既堅(jiān)韌又脆弱。心理學(xué)的斯坦福監(jiān)獄實(shí)驗(yàn)展示了人在特定社會(huì)角色下可能會(huì)迅速適應(yīng)并表現(xiàn)出與其性格不符的異常行為，顯示出人性在特定人際關(guān)系情境下的脆弱性。當(dāng)我們與一個(gè)非人類的超級(jí)人工智能長期交互相伴時(shí)，必然會(huì)影響人類個(gè)體的思維認(rèn)知和情感品格，人性脆弱性被利用的機(jī)會(huì)顯著增加。交互主體性重新定義了人機(jī)關(guān)系，讓我們可以從新的視角來理解人工智能對(duì)人性產(chǎn)生的深遠(yuǎn)影響。我們對(duì)人工智能的關(guān)注不應(yīng)該局限于機(jī)器與人的價(jià)值觀對(duì)齊，更應(yīng)探究其對(duì)人性的潛在影響。未來的人工智能將成為我們生活中更加智能、更加貼心的伙伴，同時(shí)也存在其對(duì)人性欲望的過度滿足和扭曲的問題。我們需要確保人工智能技術(shù)進(jìn)步增進(jìn)人類福祉，而非削弱人性的核心價(jià)值。