從蒸汽機(jī)驅(qū)動工業(yè)革命，到電力重塑生產(chǎn)方式，再到信息技術(shù)顛覆社會連接，歷次技術(shù)飛躍都深刻重構(gòu)了人類文明的軌跡。而正在迅猛發(fā)展的人工智能的獨特之處在于：它催生了首個具備自主演進(jìn)能力的智能主體。

　　生成式AI正在以周為單位迭代，人類文明再次站在了躍遷的臨界點。與此同時，疑惑、反思、擔(dān)憂接踵而來：

　　當(dāng)人工智能大量自動化及替代人類工作時，人類與人工智能如何共洽?

　　當(dāng)人工智能像電流一般滲透進(jìn)人類的工作生活，人類文明面臨何種挑戰(zhàn)?挑戰(zhàn)之中人類文明將面臨威脅還是躍升?

　　當(dāng)人工智能變得越來越成熟甚至超越人的智慧，人類如何保全自己的主體性?人類文明將發(fā)生什么樣的變化、又需要何種核心價值觀的支撐?

　　種種嶄新的疑問面前，漸進(jìn)式的討論與思考必不可少。

　　經(jīng)濟(jì)觀察報專訪中共中央黨校社會和生態(tài)文明教研部教授丁元竹，探討人工智能時代的人類文明走向。丁元竹長期致力于人工智能與社會治理、人類文明演進(jìn)交叉研究，在其著作《從篝火到AI：窺見無垠的共同體》中，丁元竹曾對人工智能在未來社會的角色、人類社會關(guān)系網(wǎng)絡(luò)變化的可能趨勢與問題、未來社會的可能特征等進(jìn)行了分析。

　　以下為經(jīng)濟(jì)觀察報與丁元竹的專訪內(nèi)容。

　　人工智能對社會文明帶來威脅還是躍升?

　　經(jīng)濟(jì)觀察報：人工智能是一種新技術(shù)、新智能，你認(rèn)為社會目前對人工智能的接受程度如何?

　　丁元竹：要使人們接受新技術(shù)，需要把各個利益相關(guān)方都納入考量范圍，與社會開展對話，提高技術(shù)的社會接受度?？v觀智人歷史就會發(fā)現(xiàn)，只有引發(fā)社會變革的技術(shù)與適應(yīng)、促進(jìn)技術(shù)發(fā)展的社群協(xié)同發(fā)展、相互促進(jìn)，才能推動社會的發(fā)展。誠然，人工智能在最近兩年的發(fā)展中確實存在很多問題，既存在算力問題，也有模型問題，還有數(shù)據(jù)方面的問題，這都影響人工智能的應(yīng)用和發(fā)展。

　　但必須看到，除了“技術(shù)—經(jīng)濟(jì)周期”之外，社會對人工智能的發(fā)展也有一個技術(shù)的“社會接受”過程，主要表現(xiàn)在三個方面：一是全體社會成員對人工智能技術(shù)的認(rèn)識程度，人們?nèi)绾螐囊延械闹R框架、歷史和經(jīng)驗看待正在出現(xiàn)的新技術(shù)及其社會影響，以及對自己、對社會帶來的正面與負(fù)面影響。新科技在歷史上之所以常常帶來災(zāi)難，并不是科技本身有什么問題，而是人類得花點兒時間才能學(xué)會善用科技。二是人們掌握人工智能技術(shù)和對人工智能發(fā)展現(xiàn)狀的認(rèn)識會影響人們的認(rèn)知。三是人們能不能對人工智能技術(shù)有深刻的理解，它的發(fā)展現(xiàn)狀、規(guī)律等，尤其是那些在社會領(lǐng)域中工作的專業(yè)人員，他們能不能想象出自己生活和工作領(lǐng)域的人工智能應(yīng)用場景，且與技術(shù)人員建立起密切的聯(lián)系、溝通，甚至參與到人工智能技術(shù)開發(fā)過程中，這對加速人工智能場景落地和在經(jīng)濟(jì)社會領(lǐng)域中的廣泛應(yīng)用非常關(guān)鍵。

　　縱觀歷史，新技術(shù)進(jìn)入社會領(lǐng)域的速度不會那么快，因為人們總是沿著某種習(xí)慣的路徑前進(jìn)，盡管對出現(xiàn)的新情況、新技術(shù)抱有熱情、渴望、歡迎的態(tài)度，但真正深刻認(rèn)識并迅速接受新技術(shù)往往不是大多數(shù)成員能夠做到的。

　　經(jīng)濟(jì)觀察報：人們在逐漸接受人工智能這項新技術(shù)的過程中，會面臨哪些挑戰(zhàn)?

　　丁元竹：人工智能技術(shù)以前所未有的速度在落地生根，廣泛滲透到各個領(lǐng)域，它如同一股強(qiáng)勁的力量，開始重塑人類生產(chǎn)方式、生活方式，以及社會運行等。但是，在這場看似璀璨的科技變革浪潮之下，卻潛藏著一系列不能忽視的暗流。盡管人工智能技術(shù)尚未達(dá)到高度自主可控水平，但隨著技術(shù)不斷發(fā)展迭代，未來不排除出現(xiàn)技術(shù)失控的可能性。因此，有必要從現(xiàn)在開始高度重視人工智能技術(shù)落地過程中可能帶來的風(fēng)險與挑戰(zhàn)。

　　以生成式人工智能為例，自然語言處理模型對社會潛在影響廣泛而多樣，幾乎涉及社會治理、公共服務(wù)、社會結(jié)構(gòu)的方方面面。一是就業(yè)和勞動力市場。人工智能和自動化會導(dǎo)致各行各業(yè)的工作崗位流失。然而，它也會創(chuàng)造出更具復(fù)雜性、創(chuàng)造性和技術(shù)技能性的新崗位。二是隱私和數(shù)據(jù)保護(hù)。人工智能系統(tǒng)依賴大量數(shù)據(jù)引發(fā)了人們對隱私和安全的擔(dān)憂，若是監(jiān)管不當(dāng)，會導(dǎo)致數(shù)據(jù)分析結(jié)果的濫用。三是數(shù)據(jù)訓(xùn)練中的偏見和公平問題，人工智能系統(tǒng)無意中會表現(xiàn)出在訓(xùn)練數(shù)據(jù)中存在的偏見，導(dǎo)致在工作招聘、執(zhí)法和貸款審批等領(lǐng)域產(chǎn)生不公平結(jié)果。

　　人工智能的真正挑戰(zhàn)不在于技術(shù)本身，而在于如何把它接入人類社會和文化的體制機(jī)制。未來，發(fā)生在人工智能領(lǐng)域的競爭不僅是算力競爭，更是制度體制和文化適應(yīng)性的較量——就像電動車的成功既依靠電池技術(shù)，也依靠充電網(wǎng)絡(luò)一樣。人工智能之所以特別，以至于有必要調(diào)整私法來促進(jìn)其推廣并挖掘其增長潛力，原因在于它具有許多新的特性，其中兩個尤為重要：自主性和不透明性。

　　經(jīng)濟(jì)觀察報：在這種挑戰(zhàn)中，人工智能會給人類文明帶來威脅還是躍升?

　　丁元竹：不能簡單地談威脅還是躍升，討論人工智能的治理就需要擺脫既往的思考習(xí)慣，必須基于治理與技術(shù)同步的相關(guān)體制機(jī)制研究，探索基于“自主性和不透明性”治理的底層邏輯：AI不是簡單的技術(shù)工具，而是在受人類大腦啟發(fā)基礎(chǔ)上開發(fā)的具有智能特征的物種，管理好人工智能是社會治理的重要內(nèi)容和基礎(chǔ)性工作。

　　未來，大模型實體化、垂直化，具身智能社會化將會涌現(xiàn)，堅持以人為中心的人工智能發(fā)展，使人類成為AI培訓(xùn)師、引導(dǎo)者，實現(xiàn)人機(jī)良性互動將成為人工智能治理的核心問題。因此，人工智能的治理是技術(shù)與制度、體制機(jī)制、社會文化的發(fā)展進(jìn)化和適應(yīng)過程。

　　多元文化背景下的人工智能價值對齊

　　經(jīng)濟(jì)觀察報：你曾提到多元文化背景下的人工智能價值對齊，為什么我們要關(guān)注這個問題?

　　丁元竹：世界文化是多元的，這是人類社會特有的現(xiàn)象，各種文化間的沖突在人工智能出現(xiàn)前就時有發(fā)生。這種文化的多元性也影響到了人工智能，例如程序員都有自己的價值取向，所以在參數(shù)設(shè)定上、向量設(shè)計中就設(shè)計進(jìn)去他們的價值理念。再如來自不同國家的大模型有屬于自己國家的文化價值認(rèn)知，在中國，點頭表示同意，搖頭表示不同意，但是在印度文化里面，點頭表示不同意，搖頭表示同意，在這種情況下，人與人工智能互動時會產(chǎn)生誤解。

　　人類需要的是超越自己的人工智能，還是需要協(xié)助人類提高自己福祉的人工智能?我認(rèn)為是后者，成熟的人工智能既是技術(shù)飛躍，更是人類社會的認(rèn)知延伸和合作助手，它具備的核心特征將涵蓋技術(shù)、倫理和社會。

　　成熟的人工智能本身具備自主性，在不依賴人的情況下可以對系統(tǒng)做出改變，甚至逃避人類。所以，我們需要關(guān)注多元文化背景下的人工智能價值對齊，讓人工智能價值和人類機(jī)制、人類需求對齊，讓人工智能成為人類福祉的一個工具。隨著人工智能技術(shù)快速發(fā)展，價值對齊不僅關(guān)乎技術(shù)安全，更涉及社會、倫理和哲學(xué)等深層邏輯。

　　經(jīng)濟(jì)觀察報：不同文化背景下的沖突歷來存在，這種人工智能價值對齊也會有不少難點，怎么去實現(xiàn)對齊是需要合力解決的問題。

　　丁元竹：價值對齊為什么如此困難?是因為人類價值觀的多元性與矛盾：不同文化對“公平”“自由”有著自己的理解和定義。人工智能價值對齊不僅是對技術(shù)的挑戰(zhàn)，更是對文明存續(xù)的考驗。人工智能造福人類的關(guān)鍵在于把價值對齊視為一個持續(xù)過程，而不是一次性的解決方案，如盡管人們視通用人工智能的出現(xiàn)不可避免，但通用人工智能發(fā)展不僅取決于大模型技術(shù)，也取決于機(jī)械技術(shù)進(jìn)化。

　　回到怎么對齊的問題上，由于不同文化、族群、群體之間對“公平”“正義”的定義和理解存在著差異，價值對齊需要解決在多元文化和多元價值觀中尋求共同價值的共識，避免算法歧視或偏見。解決好這個問題，需要所有利益相關(guān)方的參與協(xié)作，需要科學(xué)家、技術(shù)專家、社會學(xué)者、人類學(xué)者、倫理學(xué)者、政策制定者及公眾共同制定對齊標(biāo)準(zhǔn)，還要建立動態(tài)反饋機(jī)制，通過用戶反饋和問責(zé)審計不斷校準(zhǔn)人工智能的行為。

　　人工智能價值對齊是人類社會的“鏡像”——它要求人們在智能時代重新審視自身的價值觀體系。唯有實現(xiàn)技術(shù)迭代、倫理深思和公眾參與的結(jié)合，才能構(gòu)建既強(qiáng)大又可控的人工智能未來。從長遠(yuǎn)看，解決人工智能的可靠性、可解釋性、數(shù)據(jù)偏見等問題需突破認(rèn)知科學(xué)、生命科學(xué)、能源效率(如降低算力依賴)、人機(jī)協(xié)作等領(lǐng)域的問題。如果以“通用人工智能”或“超級人工智能”為標(biāo)準(zhǔn)，目前的人工智能技術(shù)確實不成熟。

　　人工智能如何影響社會秩序與結(jié)構(gòu)

　　經(jīng)濟(jì)觀察報：人工智能的普及與進(jìn)步將自動化更多的人類工作，你認(rèn)為這會對人類社會現(xiàn)有的用工秩序和社會結(jié)構(gòu)帶來沖擊嗎?

　　丁元竹：人工智能對就業(yè)市場的沖擊也是人們最為關(guān)注的議題之一，我認(rèn)為其替代人類工作的速度和范圍或許會遠(yuǎn)遠(yuǎn)超過以往任何一次技術(shù)革命。目前看，具有高替代風(fēng)險的崗位是那些規(guī)則明確型的工作，諸如制造業(yè)中的裝配線工人、會計流程中的自動化報表人員、法律工作中的合同審核人員等。

　　具有中等替代風(fēng)險的崗位包括部分創(chuàng)意工作，比如像廣告文案人員、平面設(shè)計、新聞寫作、音樂作曲，以及個性化輔導(dǎo)等。那些情感互動性高或復(fù)雜性程度高的決策工作，諸如心理咨詢師、高級管理人員、社會工作者、園藝師、養(yǎng)老護(hù)理人員等目前被替代的可能性和數(shù)量或許不會太大。比爾·蓋茨認(rèn)為，醫(yī)生和教師等職業(yè)將被AI取代，但軟件開發(fā)者(主要指發(fā)現(xiàn)和修復(fù)錯誤、優(yōu)化算法等)、生物學(xué)家和能源專家有望幸存。

　　不容樂觀的是，那些被替代的流水線工人或文員很難快速轉(zhuǎn)型為人工智能訓(xùn)練師或機(jī)器人維護(hù)員，行業(yè)轉(zhuǎn)型并非易事，2022年，美國僅54%的失業(yè)者成功轉(zhuǎn)入新行業(yè)。

　　經(jīng)濟(jì)觀察報：我們需要為人工智能帶來的這種替代而焦慮嗎?

　　丁元竹：從過去的經(jīng)驗來看，一個領(lǐng)域的工作被替代，會產(chǎn)生其他領(lǐng)域的就業(yè)崗位來。比如大模型訓(xùn)練約1萬塊H100的算力中心，每天耗電花費需要75萬美元，差不多相當(dāng)于一個中等城市的電力支持，那么新能源、核能等領(lǐng)域的就業(yè)崗位就會相應(yīng)發(fā)展起來。

　　對此，政府有關(guān)部門需要及早預(yù)測，制定支持勞動力轉(zhuǎn)型政策，例如，編制再培訓(xùn)和終身學(xué)習(xí)計劃等，甚至需要人工智能企業(yè)與政府一道探索全民基本收入等政策，應(yīng)對失業(yè)或就業(yè)不足等潛在風(fēng)險。

　　經(jīng)濟(jì)觀察報：在互聯(lián)網(wǎng)時代，摩爾定律和互聯(lián)網(wǎng)效應(yīng)從底層邏輯上加劇了財富向少數(shù)人手中聚集。那么在人工智能時代，會加劇社會財富甚至社會關(guān)系的不平等嗎?

　　丁元竹：通過提供人工智能生成的內(nèi)容、產(chǎn)品或服務(wù)，企業(yè)可以探索新的收入來源和商業(yè)模式。隨著人工智能技術(shù)的發(fā)展，它正成為科技領(lǐng)域日益重要的一部分。那些忽視人工智能和機(jī)器學(xué)習(xí)的企業(yè)有可能在技術(shù)創(chuàng)新方面落伍。

　　眼下，大型科技公司競相選擇生成式人工智能作為核心業(yè)務(wù)向其他領(lǐng)域拓展或者發(fā)展自己的人工智能，例如，蘋果、亞馬遜和 Meta 都在嘗試將機(jī)器學(xué)習(xí)融入自己的企業(yè)運營。各行各業(yè)也都在加速利用人工智能技術(shù)推動創(chuàng)新、提高效率和增強(qiáng)用戶體驗。問題是，這樣的拓展會不會造成財富的更加過度聚集，甚至出現(xiàn)較互聯(lián)網(wǎng)時代更為凸顯的贏者通吃現(xiàn)象呢?

　　人工智能時代的新型文明觀

　　經(jīng)濟(jì)觀察報：你覺得當(dāng)下的人工智能迎來“奇點時刻”了嗎?

　　丁元竹：我既不是技術(shù)保守主義者，也不是技術(shù)激進(jìn)主義者和人文社會焦慮者?？傮w來看，人工智能技術(shù)還不太成熟。

　　盡管人工智能在過去十年中取得了不可思議的進(jìn)展，但很多研究仍處于起步階段，尤其是機(jī)器人技術(shù)，這項技術(shù)是出了名的難，即使在深度學(xué)習(xí)普及的時代，機(jī)器人技術(shù)的發(fā)展步伐也相對緩慢。

　　一是從技術(shù)發(fā)展階段性看，當(dāng)前的人工智能在抽象推理、常識理解、情感表達(dá)、自我意識、創(chuàng)造性思維等方面還遠(yuǎn)未達(dá)到人類的水平。例如，大語言模型會生成文字流暢但邏輯錯誤的答案，無法真正理解上下文和真實的語義。大模型的準(zhǔn)確性依賴高質(zhì)量數(shù)據(jù)，在面對數(shù)據(jù)資源稀缺、數(shù)據(jù)偏差或動態(tài)變化的環(huán)境時，大模型表現(xiàn)出極大的不穩(wěn)定性，這種情況也出現(xiàn)在醫(yī)療診斷、復(fù)雜決策等過程中。二是從應(yīng)用場景看，目前部分領(lǐng)域的人工智能應(yīng)用已高度成熟。人工智能在特定任務(wù)上已經(jīng)超越人類，如圖像識別，包括醫(yī)療影像分析、語音識別、圍棋對決、推薦系統(tǒng)(包括電商、短視頻)等。許多企業(yè)通過人工智能優(yōu)化業(yè)務(wù)流程，這類“窄人工智能”技術(shù)已成熟到可以規(guī)?；吐涞爻潭?。有些大模型雖然不盡完美，但可以成為生產(chǎn)性工具，進(jìn)入生產(chǎn)過程和市場領(lǐng)域。三是期望與現(xiàn)實之間存在差距。公眾對人工智能的認(rèn)知時常被媒體夸大，造成一定程度的技術(shù)迷茫。技術(shù)發(fā)展快于法律和倫理框架的建設(shè)加劇了人工智能的“不成熟”感覺。

　　技術(shù)表現(xiàn)接近“人類水平”的說法本身，會讓人覺得是臆想，甚至是海市蜃樓。人類的能力維度是豐富多樣的，遠(yuǎn)非任何單一指標(biāo)所能衡量。但我們的缺點和優(yōu)點一樣具有啟發(fā)性。只有更好地了解和認(rèn)識人類自身，才能更好地認(rèn)識人工智能。人的感知能力雖然有種種局限，但與機(jī)器截然相反。我們從整體上看待世界，不僅能識別世界的內(nèi)容，更可以進(jìn)一步理解不同事物之間的關(guān)系、意義、過去和未來。迄今為止，人類對自身的認(rèn)識仍然存在諸多空白。

　　經(jīng)濟(jì)觀察報：那面對人工智能的逐漸“成熟”，社會文明會發(fā)生怎么樣的變化?

　　丁元竹：人們總是在短期內(nèi)高估了技術(shù)發(fā)明，而在長期上忽視了它的價值。尤其是在人工智能技術(shù)連連迭代的時候，長期主義尤為重要。如果在早期就認(rèn)識了問題所在并加以跟蹤，比技術(shù)逐步成熟并深深嵌入體制機(jī)制后再進(jìn)行治理會付出更少的治理代價。

　　人類正站在人工智能時代的新的門檻上，有望達(dá)到前所未有的文明水平，人工智能發(fā)展已經(jīng)勢不可擋，我們要開創(chuàng)人工智能時代的新型文明形態(tài)。這就需要培育人文社會科學(xué)家與科學(xué)技術(shù)人員之間密切合作的文化，這種文化要求人文科學(xué)家要深度了解科學(xué)技術(shù)發(fā)展的特點，科學(xué)技術(shù)人員要深度了解人文社會科學(xué)的基本原理，人文科學(xué)家與社會與自然科學(xué)家之間要達(dá)成默契：大家互相接納、共同配合。

　　經(jīng)濟(jì)觀察報：開創(chuàng)人工智能時代的新型文明形態(tài)，當(dāng)下急迫嗎?

　　丁元竹：必須從現(xiàn)在起培育人類與機(jī)器之間的默契與配合的文化，這種文化是新的人類文明和智能文明時代的文化。

　　人工智能時代的合作，不僅僅是科學(xué)技術(shù)人員的事情，也是人文社會科學(xué)人員的事情，更是全社會的事情。當(dāng)全體社會成員把自己的未來和命運與人工智能技術(shù)開發(fā)結(jié)合起來時，大家才會產(chǎn)生一種自豪感、安全感，人類才會有著更好的未來，這正是新的文明形態(tài)所需要的核心價值。

　　人工智能更聰明后面臨的未來風(fēng)險

　　經(jīng)濟(jì)觀察報：人工智能還在繼續(xù)高速發(fā)展，你如何看待未來人工智能高度成熟后會面臨的風(fēng)險?

　　丁元竹：對于人工智能的未來，人們態(tài)度各異。有人認(rèn)為，如果人工智能無法與人類價值觀、倫理規(guī)則和社會大多數(shù)人的利益保持一致，會引發(fā)個體權(quán)利受到侵害，甚至造成人類文明存亡的嚴(yán)重危機(jī)。的確，人工智能正在迅猛發(fā)展，前Open AI研究員丹尼爾·科科塔伊洛團(tuán)隊發(fā)布了76頁“AI 2027”報告，預(yù)測通用人工智能將在2027年中期實現(xiàn);報告描繪出從2025年最貴AI誕生到2027年Agent-5滲透政府決策的發(fā)展路徑，預(yù)計AI將快速超越人類智能;研究團(tuán)隊預(yù)測超人AI的影響將超過工業(yè)革命，但部分專家質(zhì)疑這種預(yù)測缺乏科學(xué)依據(jù)且過于極端。

　　有關(guān)人工智能未來的風(fēng)險可以歸結(jié)為目標(biāo)錯配問題。人工智能根據(jù)設(shè)定目標(biāo)嚴(yán)格預(yù)設(shè)指標(biāo)，但它無法理解人類價值觀的復(fù)雜性和模糊性。人工智能軍事系統(tǒng)或許會擅自升級沖突，如無人機(jī)做出誤判，視無辜的平民為威脅目標(biāo)并發(fā)動攻擊。超級人工智能企業(yè)通過算法壟斷定價權(quán)，操縱市場，損害消費者利益。美國COMPAS司法系統(tǒng)對黑人被告給出“再犯罪風(fēng)險更高”的誤判，強(qiáng)化了種族之間的偏見，甚至引發(fā)種族之間的沖突。算法的個性化推送制造了“信息繭房”，造成社會輿論的極端化和社會矛盾加劇。

　　過度和長期依賴人工智能會導(dǎo)致人類判斷力、思考力退化，如飛行員會因長期使用自動駕駛技術(shù)造成駕駛技能生疏，在遇到處理緊急情況時措手不及。人工智能生成內(nèi)容會損害人類原創(chuàng)文化及其多樣性。

　　經(jīng)濟(jì)觀察報：除了會冒出更多風(fēng)險，也會有積極的方面。

　　丁元竹：人工智能將會是人類的最后一次技術(shù)革命，會改變現(xiàn)有的教育形態(tài)、科研形態(tài)等等。如前面所說，人類到目前為止并沒有解釋自己的精神世界、內(nèi)心世界是怎么形成的，對人工智能的研究會讓人類反過來更了解自己。

　　經(jīng)濟(jì)觀察報：你是一名教育者，怎么看待人工智能對人文社會科學(xué)教育的沖擊?

　　丁元竹：一旦出現(xiàn)世界模型和數(shù)以萬計的具身機(jī)器人與人類生活在一起，人文教育事業(yè)必將產(chǎn)生深刻變革。未來情境下，世界模型具備經(jīng)驗學(xué)習(xí)能力、具身機(jī)器人廣泛融入人類社會、人機(jī)文明新形態(tài)形成，人工智能社會學(xué)理論架構(gòu)的搭建需要突破傳統(tǒng)范式，構(gòu)建一個動態(tài)適應(yīng)、多維度協(xié)同的跨學(xué)科框架。