今天是“愚人節(jié)”，在流行文化中這通常是個頗為歡樂的日子，但這個“愚人節(jié)”，可能有不少人在思考一個有點心驚的問題：人工智能會把我們變成“愚人”嗎？

這不是聳人聽聞，就在剛剛過去的3月，人工智能領(lǐng)域發(fā)生了一系列重大事件，就連聯(lián)合國都被驚動了。

先是近來大熱的人工智能ChatGPT的更高版本GPT-4發(fā)布，被認(rèn)為是人工智能的“破繭成蝶”時刻；數(shù)日后1000多名業(yè)界專家簽署公開信，要求暫停研發(fā)更強大的人工智能系統(tǒng)；3月30日，聯(lián)合國教科文組織發(fā)表聲明，呼吁各國盡快實施人工智能倫理標(biāo)準(zhǔn)。

雖然，人工智能目前不會直接把人變成愚人，但如果人類在重大問題上應(yīng)對不當(dāng)、出現(xiàn)重大失誤，則會證明自己原本就是“愚人”。

人工智能“破繭成蝶”

先來看看人工智能的歷史。自從1956年一群科學(xué)家在美國達(dá)特茅斯會議上提出“人工智能”這個名詞以來，其發(fā)展經(jīng)歷了若干高潮和低谷。

最近的一波高潮源于神經(jīng)網(wǎng)絡(luò)、深度學(xué)習(xí)等人工智能技術(shù)的發(fā)展，2016年圍棋人工智能AlphaGo戰(zhàn)勝人類世界冠軍李世石，2017年又戰(zhàn)勝當(dāng)時世界排名第一的柯潔，就是這個領(lǐng)域廣為人知的重要成就。

從去年底到今年初，人工智能ChatGPT的崛起又一次震驚世界。

它能以很接近人的方式與人對話，還能通過一些專業(yè)考試，比如谷歌編碼L3級（入門級）工程師面試，據(jù)說該職位年薪18.3萬美元，這個薪資水平估計超過了大部分看到這里的讀者吧。

當(dāng)?shù)貢r間3月14日，開發(fā)ChatGPT的美國OpenAI公司發(fā)布了更進(jìn)一步的GPT-4。它具備多模態(tài)能力，在文字輸入外還能接受圖片輸入。它在諸多專業(yè)領(lǐng)域的能力也更強，有人用它模擬參加了美國大學(xué)先修課程考試等多項考試，在英語、歷史、數(shù)學(xué)、生物等方面都取得了不錯的成績。在模擬美國律師考試中，作為ChatGPT基礎(chǔ)的GPT-3.5得分在后10%，而GPT-4的得分在前10%。

下圖是OpenAI公司官方發(fā)布的GPT-4各項考試表現(xiàn)。此圖發(fā)布后，網(wǎng)友討論的一個問題是，還有沒有哪些或哪位人類個體能夠在如此廣泛的考試中取得這樣的成績。

人工智能領(lǐng)域著名專家、圖靈獎得主杰弗里·欣頓在社交媒體上發(fā)表評論說，毛毛蟲要吸收養(yǎng)分才能變成蝴蝶，在理解文字等方面吸收了大量信息后，“GPT-4就是人類的蝴蝶”。

“愚人”風(fēng)險不可忽視

雖然GPT-4還沒有達(dá)到科幻故事中通用人工智能的程度，但業(yè)界普遍認(rèn)為它把人工智能帶到了可能超過人類的關(guān)鍵點上。

“我們應(yīng)該開發(fā)可能最終數(shù)量勝出、智力超過、淘汰并取代我們的非人類意識嗎？”這是美國生命未來研究所網(wǎng)站3月下旬發(fā)布的一封公開信中發(fā)出的靈魂之問。

公開信列舉了強大的人工智能可能帶來的種種問題，比如可讓各種信息渠道中充斥錯誤信息、替代多種人類工作等，更為可怕的是各家實驗室正在競相研發(fā)連發(fā)明者都不能理解、預(yù)測或可靠控制的人工智能。

OpenAI公司今年2月曾在一份聲明中說，在某個時候，在開始訓(xùn)練未來的人工智能系統(tǒng)之前需要先進(jìn)行獨立的評估。生命未來研究所網(wǎng)站的公開信說：“我們同意。這個時間點就是現(xiàn)在?！?/p>

公開信呼吁所有相關(guān)機構(gòu)將研發(fā)比GPT-4更強大的人工智能系統(tǒng)的工作暫停至少6個月，以商討相關(guān)倫理規(guī)范。目前已有著名科技企業(yè)家馬斯克、蘋果公司聯(lián)合創(chuàng)始人沃茲尼亞克等上千名業(yè)界人士簽名。以下是若干簽名大佬的截圖：

這事甚至驚動了聯(lián)合國。3月30日，聯(lián)合國教科文組織發(fā)表聲明，表示注意到業(yè)界關(guān)于暫停研發(fā)強大人工智能的呼聲，并呼吁各國政府根據(jù)2021年就已通過的《人工智能倫理問題建議書》盡快實施具體標(biāo)準(zhǔn)。

聯(lián)合國教科文組織總干事阿祖萊在聲明中說：“世界需要更強有力的人工智能倫理規(guī)則，這是我們這個時代的挑戰(zhàn)。”

人類關(guān)于這種挑戰(zhàn)的想象早已體現(xiàn)在各種科幻作品中，無論是中國科幻片《流浪地球》中對智能量子計算機MOSS的描繪，還是美國科幻片《2001太空漫游》中對超級電腦HAL9000的擔(dān)心，都顯示出人工智能有可能在兩個層次上讓我們變成“愚人”。首先是在某些具體工作中超越最聰明的人類，圍棋領(lǐng)域AlphaGo等案例已讓我們逐漸習(xí)慣這一點；然后就是大范圍接管各種工作，以至于最終可以影響整個人類的命運。

最為形象的一個科幻場景，可能是動畫片《機器人總動員》中，在飛船中生存的人類越來越胖，甚至難以行走，生活全靠機器人護(hù)理。在歷代飛船船長與身后代表人工智能的方向盤合影中，方向盤越來越大，甚至最終壓過了船長的控制權(quán)。

全球共建“機器倫理”

人類需要因為人工智能的狂飆猛進(jìn)陷入恐慌嗎？答案是否。因為人類仍然牢牢控制著人工智能，不可能發(fā)生某些科幻大片中的失控場面。

但是，從現(xiàn)在開始，必須避免“或者萬劫不復(fù)、或者天下太平”的極性思維。人工智能倫理治理要面對的，是處于兩個極端之間的各種實際可能發(fā)生的情況，包括對就業(yè)、教育的影響。為此，需要相關(guān)各方積極行動，聯(lián)合攻關(guān)，就生成式人工智能可能帶來的主要機遇、風(fēng)險和治理方案達(dá)成共識。

確實，在當(dāng)前全球科技界競相研發(fā)人工智能的形勢下，讓所有人都暫停6個月研發(fā)不太現(xiàn)實，網(wǎng)上有人稱之為“最不可能的?；稹薄Ｔ谶@個時候，堵不如疏，聯(lián)合國教科文組織提出制定詳細(xì)的人工智能倫理規(guī)范，有助于讓人工智能走在我們想要的軌道上。

早在2021年11月的聯(lián)合國教科文組織第41屆大會上，會員國一致通過了《人工智能倫理問題建議書》。根據(jù)該文件，與人工智能相關(guān)的根本性倫理關(guān)切包括多個方面，例如：人工智能技術(shù)可能內(nèi)嵌并加劇偏見，可能導(dǎo)致歧視、不平等、數(shù)字鴻溝和排斥，并對文化、社會和生物多樣性構(gòu)成威脅，造成社會或經(jīng)濟鴻溝。

更為宏觀地說，建議書認(rèn)為人工智能的發(fā)展應(yīng)該“以人的尊嚴(yán)、福祉和防止損害為導(dǎo)向”。今年12月，聯(lián)合國教科文組織全球人工智能倫理問題論壇將在斯洛文尼亞舉行，屆時將發(fā)布相關(guān)進(jìn)展報告。

著名科幻作家阿西莫夫曾經(jīng)提出“機器人三定律”，也許未來在每一個人工智能的底層，都會首先寫下這些代碼：

“機器人不得傷害人類，或坐視人類受到傷害；

除非違背第一定律，否則機器人必須服從人類命令；

除非違背第一或第二定律，否則機器人必須保護(hù)自己?！?