與互聯(lián)網(wǎng)的發(fā)明、普及與使用相比，人工智能對人類社會的影響更甚。在人工智能的時代，人類最重要的就是想象力。

李星 清華大學(xué)電子工程系教授

　　30多年前，清華大學(xué)電子工程系李星本科畢業(yè)赴美留學(xué)，研究生專業(yè)和本科一樣，是信號和信息處理。留學(xué)和工作期間，他第一次接觸到互聯(lián)網(wǎng)，作為一名用戶，他深切感受到了互聯(lián)網(wǎng)的巨大潛力，并對其產(chǎn)生了一定的認識和思考。

　　1991年，李星回到清華大學(xué)教書，深切感受到，沒有互聯(lián)網(wǎng)就無法建設(shè)世界一流大學(xué)。機緣巧合，1993年，他由一名互聯(lián)網(wǎng)用戶轉(zhuǎn)變?yōu)榛ヂ?lián)網(wǎng)研究者，成為中國教育和科研計算機網(wǎng)(CERNET)的設(shè)計建設(shè)者和運營者。面對CERNET建設(shè)初期所遇到的重大技術(shù)決策，他作為互聯(lián)網(wǎng)用戶時所積累的認識和思考發(fā)揮了至關(guān)重要的作用。三十年一個輪回，如今他以人工智能的用戶身份，分享了自己對ChatGPT的認識和思考，以供年輕一代參考。

　　與ChatGPT進行智力游戲

　　“ChatGPT是幫助人而不是替代人?！崩钚墙淌谡f。ChatGPT已經(jīng)在幫助程序員編寫程序方面發(fā)揮了很大作用，雖然它依然無法完全取代人類的編程工作，但它可以給我們帶來很多意想不到的啟發(fā)，并提高了工作效率。

　　以前，程序員需要實現(xiàn)某個輔助功能的算法或函數(shù)時，由于這些功能不是最核心的，對程序員而言，不一定很熟悉，往往就需要花費很長時間進行檢索、尋找和判斷。但是，現(xiàn)在與ChatGPT進行討論后，它可以快速地提供相關(guān)的代碼、語言版本、操作系統(tǒng)等信息，方便我們進行下一步的判斷、選擇和修改。

　　此外，ChatGPT對于科研效率的提升也非常顯著。李星教授提到，過去他在產(chǎn)生一個想法后，往往會先放一放，用一段時間深入思考，之后再用幾天甚至幾周時間編寫代碼進行驗證。然而，現(xiàn)在通過ChatGPT的協(xié)助，僅需幾個小時就可以完成最初的概念驗證(PoC，全稱Proof of Concept)，再以此為基礎(chǔ)推進下一步的工作，如同順水推舟般高效、簡單而方便。

　　當(dāng)然，需要注意的是，雖然ChatGPT能給出答案，但很多時候這些答案并不準確，無法直接采用。因此，在這種情況下，就需要繼續(xù)與ChatGPT進行交互，并通過指引幫助它給出更好質(zhì)量的內(nèi)容。

　　ChatGPT的訓(xùn)練數(shù)據(jù)中包含了豐富多樣的信息，幾乎涵蓋了各個領(lǐng)域的知識。然而，關(guān)鍵是我們?nèi)绾翁岢鲇杏们腋叨认嚓P(guān)的問題。換句話說，提問的能力非常重要。能不能問出有質(zhì)量的問題，是非?？简炄说?。

　　同樣，得益于ChatGPT相當(dāng)全面(但不一定深入和準確)的知識水平，它往往能給出比我們想到的更加全面的答案，幫助我們填補知識的空白。因此，當(dāng)我們產(chǎn)生一些創(chuàng)新性的想法時，可以與ChatGPT進行對話，與它一起進行不斷迭代的智力游戲，詢問它對新的研究想法的看法。ChatGPT也會毫無保留地列出需要考慮的相關(guān)問題和角度，這種全面性是獨立的人類個體所難以匹敵的優(yōu)勢。

　　此外，不論提出的問題多么新奇、奇特或離經(jīng)叛道，ChatGPT總能給出與之相關(guān)的回應(yīng)和答復(fù)，這得益于ChatGPT的泛化能力。

　　據(jù)報道，OpenAI在訓(xùn)練ChatGPT時，考慮的重要因素之一是數(shù)據(jù)的多樣性。首先是“語言的多樣性”。盡管數(shù)據(jù)以英文內(nèi)容為主，但中文和其他國家語言的內(nèi)容也盡可能地被納入訓(xùn)練中。也就是說，如果在中文世界中有問題未能得到解答，但在英文世界中已有人給出了答案，ChatGPT便能夠?qū)烧咦詣雨P(guān)聯(lián)起來，并在需要時靈活應(yīng)用各種語言和文化背景下的知識。

　　其次是“領(lǐng)域的多樣性”。ChatGPT是博才而非專才，它收納了各類學(xué)科領(lǐng)域的知識，使得學(xué)科之間有所平衡和聯(lián)系，實現(xiàn)真正的融會貫通。這就意味著，有時某一學(xué)科的問題，或許ChatGPT可以從另一學(xué)科的知識體系中找到解法，并為我們提供解決問題的線索。ChatGPT的知識量級使它能真正做到了融會貫通與觸類旁通，各學(xué)科知識不再有鮮明的區(qū)隔而是交織相融到了一起。另外，ChatGPT的訓(xùn)練還兼顧了“語體的多樣性”和“觀點的多樣性”，這些多樣性帶來的泛化能力與“思考”的方法是傳統(tǒng)搜索引擎類的問答模式遠不能及的。

　　ChatGPT的不可解釋性

　　目前的一種思路認為，人工智能需要具有“可解釋性”。以自動駕駛為例，如果自動駕駛的原理不可解釋，那人們就無法分析交通事故的發(fā)生原因，因而就很難改進、提升自動駕駛的安全性。因此對于此類科學(xué)技術(shù)來說，可解釋性非常重要。

　　然而，對于ChatGPT這樣的技術(shù)應(yīng)用而言，可解釋性是否依舊重要?李星教授認為，對此必須要打一個問號。

　　他提到，雖然ChatGPT背后也有其遵循的、可理解的科學(xué)理論，但其強大表現(xiàn)的根源在于海量的數(shù)據(jù)和強大的算力。俗話說“大力出奇跡”，正是基于這種巨大的算力和數(shù)據(jù)支持，ChatGPT展現(xiàn)出了迄今為止只有人類身上才會出現(xiàn)的智能行為。盡管我們知道ChatGPT是通過訓(xùn)練得到的，但是訓(xùn)練一個人工智能模型的過程，即模型參數(shù)的優(yōu)化，有時候更像是玄學(xué)中的“煉丹”過程。如何調(diào)參?為什么這樣調(diào)參?到現(xiàn)在也沒有非常精確、完備的理論與方法，而這種隨機性和試驗性正是ChatGPT不可解釋性的來源。

　　因此，李星教授認為，按照傳統(tǒng)思路，我們應(yīng)該先對人造事物進行深入理解，然后繼續(xù)研究和應(yīng)用。然而，ChatGPT打破了這種傳統(tǒng)路徑。對于ChatGPT，我們可以將其視為一種由上帝或自然界本身創(chuàng)造的產(chǎn)物，我們首先接受、使用和運行它，然后進一步研究和理解它，而這與過去技術(shù)發(fā)明中先理解規(guī)律再進行應(yīng)用的過程恰好相反。

　　基于此，李星教授認為，通用人工智能的真正生命力和靈魂在于其不可解釋性。

　　回顧科技發(fā)展史，計算機的發(fā)明是一個明顯的分界線。在計算機出現(xiàn)之前，人們發(fā)明的機器如電話、洗衣機、電冰箱、收音機等，都是具有單一、明確和固定功能的機器。然而，計算機完全不同，雖然它也由CPU、內(nèi)存、硬盤、顯示器、鍵盤等固定組件構(gòu)成，但它可以安裝各種不同的軟件，編寫不同類型的程序，每個軟件都有不同的功能和作用。計算機的使用方式如此豐富多樣，呈現(xiàn)出的結(jié)果如此多樣化，是當(dāng)初設(shè)計計算機的人們所不能全部想到的。隨著時間的推移，人們會開發(fā)出更多的功能，實現(xiàn)更多的創(chuàng)意，計算機的發(fā)展空間依然廣闊而無限。

　　而人工智能出現(xiàn)后，這種功能的不可確定又邁上了一個新的臺階。

　　在互聯(lián)網(wǎng)游戲中，人們可以通過對計算機編程來創(chuàng)造各種機制、類型和規(guī)則的電子游戲。然而，人工智能可以創(chuàng)造自己的游戲，并決定所有的設(shè)定，使之順利地運行，這使背后的原理和機制有可能超出人類的理解能力。

　　不可解釋性的破解之道

　　“面對不可解釋性，我們必須要接受這一事實，接受它的存在，與之共生。”李星教授表示，在接受的同時，我們應(yīng)該努力研究和理解人工智能背后的規(guī)律。

　　他認為，我們已有的學(xué)科體系和知識架構(gòu)中，物理學(xué)和數(shù)學(xué)具有較強的可解釋性，它們由極為精準的數(shù)學(xué)公式與物理定律構(gòu)成，因此我們可以嘗試用確切的公式或清晰的模型去描述它。而生物學(xué)雖然也是一門解釋世界的學(xué)科，但是其清晰性和精準性遠低于物理學(xué)，很多生物學(xué)現(xiàn)象背后蘊藏的機制與規(guī)律，人類到現(xiàn)在也依舊無法清晰、準確、嚴謹?shù)剡M行解釋與描述，也就是說，不同的學(xué)科、不同的事物，其可解釋性的程度也是完全不同的。

　　而由人類從海量數(shù)據(jù)中“煉丹”后產(chǎn)生的ChatGPT，不可解釋性更加突出，它更像是一個有機的生命體。

　　然而，李星教授也提出了另一種可能性，即用來理解人工智能的科學(xué)體系和理論工具，至今尚未被發(fā)現(xiàn)。也就是說，只有一種嶄新的理論工具誕生后，才能去真正揭示當(dāng)下人工智能的本質(zhì)和原理?！昂驮谖⒎e分的發(fā)明之前，我們?nèi)狈σ罁?jù)來科學(xué)地描述力學(xué)三大定律一樣。很有可能，用來研究ChatGPT與人工智能的數(shù)學(xué)工具尚未出現(xiàn)?！?/p>

　　綜上所述，李星教授認為，盡管人工智能的不可解釋性是一個挑戰(zhàn)，但通過探索新的方法和工具，我們可以努力理解和揭示其規(guī)律。這可能涉及借鑒現(xiàn)有學(xué)科的經(jīng)驗，同時也可能需要創(chuàng)造全新的科學(xué)體系和理論工具。只有這樣，我們才能更好地理解和應(yīng)用人工智能。

　　人工智能與人類的距離

　　在對人工智能與人類的距離問題上，李星教授認為，當(dāng)前人工智能在人類視角下仍然是一個可用的工具，但與以往的工具有所不同，人工智能的基礎(chǔ)還是概率推斷，所以具有不可消除的隨機性。因此，它的回答有時是正確的，有時又像“一本正經(jīng)地胡說八道”，對此，我們必須自己進行判斷和決策，不能完全依賴它。

　　那么，人工智能發(fā)展下去會不會成為與人類相似的獨立智能行為者?

　　針對這個問題，李星教授認為，首先，人工智能必須實現(xiàn)實體化并具備主體性。類似于人類需對自己的行為負責(zé)，人工智能也需要一個獨立實體來承擔(dān)責(zé)任。這種實體化并不僅僅是給人工智能一個外形，還要建立人工智能思考和推理機制與實體之間的緊密聯(lián)系，類似于人的身體與頭腦之間的聯(lián)系。

　　其次，人工智能需要具備繁殖的能力。繁殖是生物延續(xù)生命的方式，通過進化和留存不同因素，生命變得愈發(fā)智慧、靈活和強大，同時產(chǎn)生創(chuàng)造力。如果人工智能無法自行繁殖，它的能力只會隨時間流逝而衰減、停滯不前，最終被淘汰。

　　李星教授認為，當(dāng)前的人工智能雖然具備一定的創(chuàng)作力和邏輯推理能力，但這只是人類智能的一部分。人類擁有完整的創(chuàng)造力、想象力和主觀意識，與人工智能的創(chuàng)作能力存在差異。

　　人類創(chuàng)造力與人工智能創(chuàng)作力的區(qū)別，類似于真正的藝術(shù)家與手藝熟練的工匠之間的區(qū)別，即道與術(shù)的區(qū)別。想象力也是如此。物理學(xué)家愛因斯坦在《論科學(xué)》一文中表示：“想象力比知識更重要，因為知識是有限的，而想象力則概括著世界的一切，推動著進步，并且是知識進化的源泉。”目前，人工智能雖看似掌握了“無限”的知識，但只要是知識就擁有邊界，與人類的想象力相比，這種“無限”始終都是一種“有限”。

　　“至于人工智能最終能否模擬出接近人類的創(chuàng)造力與想象力，這一點我們依舊不得而知?！崩钚墙淌谡f。

　　人類社會的動物園化

　　ChatGPT出現(xiàn)后，有一種廣泛的擔(dān)憂迅速出現(xiàn)：人類的工作會被人工智能取代嗎?

　　李星教授認為，極端一點的可能性是，未來人類社會有可能近似于一個超大規(guī)模的動物園，大部分人可能會像動物園中懶洋洋的、等待被喂養(yǎng)的動物一樣，進入“躺平”狀態(tài)，將大部分時間用于娛樂、休閑，只需要在特定時間填飽肚子，就萬事大吉。

　　然而，他也表示，肯定會有一部分人不滿足于這種狀態(tài)?？倳腥艘庾R到，真正重要且有意義的是實現(xiàn)目標的過程，而非目標本身。雖然目標仍然是重要的前提條件，但對于真正的大師級人物來說，最寶貴且精彩的部分不在于達成目標這一結(jié)果，而是在于奮斗、歷練、挑戰(zhàn)自我的過程。

　　因此，即使人工智能發(fā)展得更加強大，人類社會也有可能進入某種“躺平”狀態(tài)，但仍然會存在那些不滿足于此的人，他們將繼續(xù)追求目標，并在奮斗的過程中找到真正的價值和意義。

　　挑戰(zhàn)與機遇并存的偉大時代

　　“人工智能和各種人工智能技術(shù)的意義與互聯(lián)網(wǎng)中TCP/IP協(xié)議的意義類似，甚至可能更為重要，影響更廣泛?！崩钚墙淌谡J為，與互聯(lián)網(wǎng)的發(fā)明、普及和使用相比，人工智能對人類社會的影響更為深遠。

　　然而，人工智能的影響有正面和負面兩個方面。人工智能的缺點給我們帶來了挑戰(zhàn)，但同時其優(yōu)勢也給我們帶來了無限機遇。對于互聯(lián)網(wǎng)領(lǐng)域的研究人員而言，李星教授認為面臨著至少兩個重大挑戰(zhàn)。

　　首先是“分布式”的挑戰(zhàn)。目前大型的人工智能計算模型如ChatGPT都是集中式的，而互聯(lián)網(wǎng)的本質(zhì)是分布式的，也就是說人工智能與互聯(lián)網(wǎng)的設(shè)計原理正好相反。作為互聯(lián)網(wǎng)研究人員，李星教授認為，ChatGPT和人工智能要能夠進行大規(guī)模分布式部署，而非集中化。當(dāng)然，分布式也存在它本身的問題，例如在分布式后人工智能的計算效率是否能夠維持甚至提高?整個體系是否能夠良好地運轉(zhuǎn)?等的問題需要進一步去探索。

　　第二個挑戰(zhàn)是“可信任性”。ChatGPT有時會“一本正經(jīng)地胡說八道”。根據(jù)其隨機性原理，目前可以認為不是故意地胡說八道。然而，未來可能會出現(xiàn)成千上萬種類似ChatGPT的服務(wù)，不排除存在故意提供錯誤信息的情況。因此，可信任性是非常重要的。我們是否可以通過互聯(lián)網(wǎng)的基礎(chǔ)設(shè)施提供某種程度的可信任性?

　　李星教授提到，當(dāng)最初在推廣IPv6時，大家一直在尋找IPv6的“殺手級應(yīng)用”。最初認為，在線視頻和物聯(lián)網(wǎng)可能是IPv6的殺手級應(yīng)用，但后來發(fā)現(xiàn)IPv4也可以滿足這些需求。

　　“所以IPv6的殺手級應(yīng)用到底是什么?我們在做IPv4/IPv6無狀態(tài)翻譯過渡技術(shù)IVI時，提出與IPv4互聯(lián)互通才是IPv6的殺手級應(yīng)用?，F(xiàn)在我覺得，還應(yīng)該加上機器人聯(lián)網(wǎng)(甚至是神經(jīng)元聯(lián)網(wǎng))，也就是人工智能與機器人之間的相連，這應(yīng)該也是IPv6的殺手級應(yīng)用?！崩钚墙淌谡f。

　　“這是最好的時代，這是最壞的時代。”這句話用來描述人工智能的時代，恰如其分。李星教授認為，在人工智能等新事物出現(xiàn)后，我們原有的知識和技能可以與新事物相互匹配、相互融合、互相整合。即使兩者之間存在矛盾，也無關(guān)緊要，因為在摩擦碰撞中可能會產(chǎn)生更具創(chuàng)新性和有趣的東西。這是技術(shù)爆發(fā)時代賦予人類的饋贈，也是我們應(yīng)當(dāng)抓住的機會。

　　本文根據(jù)清華大學(xué)電子工程系李星教授的采訪觀點整理

　　撰文：王雅靜，ChatGPT 對此文亦有貢獻