近年來，以大模型為代表的AI技術(shù)發(fā)展迅猛，掀起一波席卷全球的AI發(fā)展熱潮。關(guān)注AI發(fā)展?fàn)顩r的人不限于AI的研發(fā)者、推廣者和AI發(fā)展的評論者、人文社科研究者，更包括深感生活將被AI深刻影響的普通公眾。AI發(fā)展的問題不再是純粹技術(shù)問題，而是成為某種意義上的公共議題。在最近OpenAI發(fā)布Sora、馬斯克開源Grok等一系列相關(guān)事件中，這一點(diǎn)表現(xiàn)得非常清楚。在各種相關(guān)公共討論中，AI發(fā)展現(xiàn)狀尤其受到關(guān)注，其中的基本問題是：當(dāng)前AI發(fā)展的大方向是否有問題，未來應(yīng)該朝什么方向前進(jìn)。為此，組織計(jì)算機(jī)、經(jīng)濟(jì)學(xué)、馬克思主義理論和哲學(xué)等領(lǐng)域的八位學(xué)者，對AI發(fā)展現(xiàn)狀進(jìn)行跨學(xué)科反思以期拋磚引玉，求教于方家。
本系列文章共8篇，轉(zhuǎn)載自《科學(xué)·經(jīng)濟(jì)·社會》2024年第2期，本文《淺析對智能的誤解與新智能的建構(gòu)》為第2篇。在文中，劉偉剖析目前存在的三種對智能理解的誤區(qū)，即算計(jì)缺失的誤區(qū)、拘泥邏輯的誤區(qū)和忽視人性的誤區(qū)，提出一種可能的新智能模型框架。
當(dāng)前，人們對人工智能的理解過度依賴算法和計(jì)算能力，忽視了人類情感、直覺和創(chuàng)造力等非算法因素對于智能的重要性；過于依賴傳統(tǒng)的邏輯推理和符號推理，忽視了基于經(jīng)驗(yàn)和感知的非邏輯推理能力。忽視了人類的情感、道德、社會價(jià)值觀等因素在智能決策和行為中的重要性。針對以上誤區(qū)，新智能模型框架應(yīng)該考慮將傳統(tǒng)的符號推理與基于數(shù)據(jù)驅(qū)動的機(jī)器學(xué)習(xí)相結(jié)合，引入情感計(jì)算、認(rèn)知計(jì)算等新的概念，構(gòu)建更加全面、綜合的智能模型。這樣的新模型框架將更好地克服傳統(tǒng)智能模型的局限性，實(shí)現(xiàn)更加智能化、人性化的智能系統(tǒng)。
一、算計(jì)缺失的誤區(qū)
通用智能是指能夠在各種不同的任務(wù)和環(huán)境中靈活地適應(yīng)和執(zhí)行任務(wù)的智能也通用智能與特定任務(wù)的智能相反，后者只能在特定領(lǐng)域或任務(wù)中表現(xiàn)出色。通用智能的理論基礎(chǔ)是人工智能領(lǐng)域的通用人工智能（AGI）研究，旨在設(shè)計(jì)出能夠像人類一樣具備廣泛的智能能力的計(jì)算機(jī)系統(tǒng)。
通用智能的實(shí)現(xiàn)面臨著技術(shù)、數(shù)據(jù)、計(jì)算能力、知識表示和人類智能理解等多個(gè)方面的挑戰(zhàn)，如通用智能需要具備在各種不同情境下進(jìn)行靈活思考、適應(yīng)、學(xué)習(xí)等能力，這就需要其具備極為復(fù)雜的算法和系統(tǒng)結(jié)構(gòu)、大量的高質(zhì)量的數(shù)據(jù)來進(jìn)行學(xué)習(xí)和訓(xùn)練、足夠強(qiáng)大的計(jì)算能力和高效的算法、有效的知識表示方法和知識管理系統(tǒng)以及對人類智能進(jìn)行深入的研究和理解，等等。其中最關(guān)鍵的也是最難以克服的是：就像人類的智能一樣，通用智能系統(tǒng)的輸入、處理輸出、反饋諸端大都包含兩部分，一是“共識存在”的部分，二是“非存在的有”部分，機(jī)器的計(jì)算部分集中在第一部分，人類的算計(jì)部分側(cè)重于第二部分。第一、二部分都涉及情緒影響理智的問題，如恐懼可以使理智狹隘或阻塞，情感可以調(diào)節(jié)理性心。
客觀而言，依據(jù)目前可預(yù)見到的形式化方法和手段，單純的機(jī)器智能是很難實(shí)現(xiàn)通用智能的，若可能，很大程度上應(yīng)該是人、機(jī)、環(huán)境交互的系統(tǒng)智能。
人類的通用智能不是類腦就能類出來的（狼孩的人腦并沒有人的智能），也是人機(jī)環(huán)境系統(tǒng)交互產(chǎn)生出來的智能，并常常通過思維鏈的方式呈現(xiàn)出來，思維鏈?zhǔn)侵敢粋€(gè)人在思考或解決問題時(shí)所采用的思考模式和思考過程，它是一種將問題分解為各個(gè)部分并逐步解決的方法，同時(shí)也是一種將各個(gè)部分有機(jī)地連接起來的方法。在思維鏈中，人們通過連接和整合各個(gè)思考過程中的點(diǎn)，以及逐步推導(dǎo)和演繹，最終得出整個(gè)問題的解決方案。思維鏈在解決問題和做決策時(shí)非常有用，它可以幫助人們更好地理解問題、分析問題、找到問題的根源，并逐步解決問題。思維鏈還可以幫助人們更好地組織思路和表達(dá)自己的思想，更好地溝通和交流。
思維鏈中的計(jì)算和算計(jì)（謀算）可以結(jié)合在一起，以幫助人們更好地解決問題和做決策。計(jì)算是指通過數(shù)學(xué)、統(tǒng)計(jì)等方法來分析和解決問題。在思維鏈中，計(jì)算可以用來量化問題，比如通過數(shù)據(jù)分析來了解問題的規(guī)模、影響等。計(jì)算還可以用來預(yù)測結(jié)果，如通過建立模型來預(yù)測某個(gè)決策的后果和影響。計(jì)算可以幫助人們更加準(zhǔn)確地理解和解決問題。
算計(jì)（謀算）是指通過周密的計(jì)劃和思考來解決問題。在思維鏈中，算計(jì)（謀算）可以用來確定解決問題的方法和步驟，還可以用來評估不同的決策選項(xiàng)，并選擇最佳的方案。算計(jì)（謀算）可以幫助人們更好地規(guī)劃和組織思路，從而更好地解決問題。
因此，計(jì)算和算計(jì)（謀算）可以相互結(jié)合，幫助人們更全面地解決問題在思維鏈中，人們可以通過計(jì)算來了解問題，通過算計(jì)（謀算）來把握方向并決定如何解決問題，并通過計(jì)算來預(yù)測不同方案的后果。這種結(jié)合可以幫助人們更好地解決問題和做出更好的決策。
在通用智能或人機(jī)環(huán)境系統(tǒng)智能任務(wù)中，情感可以影響理智的決策和行為。情感可以影響人類對任務(wù)的態(tài)度、信心和意愿，從而影響其決策和行為。例如，如果用戶感到愉悅和滿意就會更愿意繼續(xù)任務(wù)，而如果用戶感到沮喪和挫敗，他們可能會放棄任務(wù)或更容易犯錯(cuò)。情感還可以調(diào)節(jié)用戶的注意力和認(rèn)知，影響用戶對任務(wù)的理解和執(zhí)行。例如，焦慮和壓力可能會干擾用戶的注意力和記憶，導(dǎo)致他們更容易犯錯(cuò)或忽略重要信息。相反，舒適和安心可能會提高用戶的注意力和記憶，使他們更容易理解和執(zhí)行任務(wù)。
因此，在設(shè)計(jì)通用智能或人機(jī)環(huán)境系統(tǒng)智能交互時(shí)，需要考慮用戶的情感和心理狀態(tài)，并嘗試創(chuàng)造一個(gè)積極的用戶體驗(yàn)，以提高用戶的參與度和效率。
不難看出，由于通用智能的特點(diǎn)是具有類似人類的智能水平，能夠在多個(gè)領(lǐng)域進(jìn)行學(xué)習(xí)和應(yīng)用，具有自主學(xué)習(xí)、自主思考、自主解決問題的能力。其不足之處在于：1）目前尚未實(shí)現(xiàn)完全的通用人工智能，現(xiàn)有的人工智能系統(tǒng)仍然局限于特定領(lǐng)域的應(yīng)用，無法跨越不同領(lǐng)域；2)通用人工智能需要大量的數(shù)據(jù)和計(jì)算資源來進(jìn)行學(xué)習(xí)和演化，這對于許多組織和個(gè)人來說是難以承受的；3）通用人工智能的決策過程可能會受到誤導(dǎo)或偏見的影響，這可能導(dǎo)致其做出錯(cuò)誤的判斷或決策；4）通用人工智能可能會對人類社會產(chǎn)生巨大的影響，包括人類就業(yè)、社會生產(chǎn)方式等方面，這需要我們認(rèn)真思考和探討。
二、拘泥邏輯的誤區(qū)
智能是指人或機(jī)器能夠理解、學(xué)習(xí)、推理、解決問題和適應(yīng)環(huán)境的能力。而邏輯是一種推理方式，它是智能的一部分，幫助我們正確地推理和理解信息。邏輯能夠提高我們的思考能力、解決問題的能力和決策能力，但智能還包括其他方面，如感知、記憶、語言、創(chuàng)造力和情感等。因此，邏輯只是智能的一個(gè)方面，智能比邏輯更加廣泛和復(fù)雜邏輯和數(shù)學(xué)有密切的關(guān)系，但它們并不完全相同。邏輯是一種研究推理和思維方式的學(xué)科，它關(guān)注的是如何正確地推理和證明，而數(shù)學(xué)則是一種研究數(shù)量、結(jié)構(gòu)、變化和空間的學(xué)科，它使用基于公理的邏輯體系來證明和推導(dǎo)數(shù)學(xué)定理。邏輯是數(shù)學(xué)的基礎(chǔ)，但是它們之間仍然有一定的差別。意識與人機(jī)環(huán)境系統(tǒng)的關(guān)系是相互作用的。人機(jī)環(huán)境系統(tǒng)是由人、機(jī)器和環(huán)境三個(gè)要素組成的一個(gè)整體，意識作為人的主觀體驗(yàn)和認(rèn)知過程的表現(xiàn)，直接影響人的行為和交互方式，進(jìn)而影響人機(jī)環(huán)境系統(tǒng)的運(yùn)作和效果。同時(shí)，人機(jī)環(huán)境系統(tǒng)也會通過各種方式影響人的意識和認(rèn)知過程，從而進(jìn)一步影響人的行為和交互方式。因此，合理設(shè)計(jì)和優(yōu)化人機(jī)環(huán)境系統(tǒng)的結(jié)構(gòu)和功能，可以提高人的意識和認(rèn)知效能，提高人機(jī)交互的效果和用戶體驗(yàn)。
人類的意識形成是一個(gè)復(fù)雜多面的問題，目前還沒有一個(gè)完全統(tǒng)一的理論解釋。可能影響人類意識形成的因素包括：1）人腦是意識的物質(zhì)基礎(chǔ)，大腦皮質(zhì)是意識的主要神經(jīng)基礎(chǔ)。大腦皮質(zhì)的不同區(qū)域?qū)?yīng)不同的感知、認(rèn)識和思維功能，這些功能通過神經(jīng)元的活動相互作用而形成人類的意識；2）人類的認(rèn)知和行為都受到經(jīng)驗(yàn)和學(xué)習(xí)的影響。人們通過感知、思考、記憶和學(xué)習(xí)等活動，逐漸形成了自己的認(rèn)知體系和價(jià)值觀念，這些都構(gòu)成了人類的意識；3）人類是社會性動物，社會文化環(huán)境對人類的意識形成起著至關(guān)重要的作用。不同的社會文化背景會塑造人們的價(jià)值觀念、認(rèn)知方式和行為模式等，從而影響人類的意識形成；4）人類的意識形成也與遺傳和進(jìn)化有關(guān)。人類的意識可能是通過基因傳遞給下一代的，并在漫長的進(jìn)化過程中逐漸形成和發(fā)展。總的來說，人類的意識形成是一個(gè)綜合性的過程，涉及多個(gè)方面的因素。目前，科學(xué)家們正在不斷深入研究人類意識的本質(zhì)和形成機(jī)制，相信未來會有更加深入的認(rèn)識。
事實(shí)和價(jià)值是兩個(gè)不同的概念，它們之間沒有必然的聯(lián)系。事實(shí)是客觀存在的、可以驗(yàn)證的描述，而價(jià)值是主觀的、具有個(gè)人或社會意義的評價(jià)。因此，由事實(shí)推出價(jià)值或由價(jià)值推出事實(shí)都是問題的錯(cuò)解。事實(shí)可以為我們提供基礎(chǔ)信息，但它本身并不能推出價(jià)值。價(jià)值是基于個(gè)人或社會的信仰、文化、倫理等標(biāo)準(zhǔn)而形成的，而這些標(biāo)準(zhǔn)并不是通過事實(shí)來確定的。例如，一個(gè)人可能認(rèn)為人類的生命價(jià)值高于其他物種的生命價(jià)值，這并不是基于事實(shí)，而是基于其價(jià)值觀念。同樣地，由價(jià)值推出事實(shí)也是不正確的。價(jià)值觀念可能會影響人們對事實(shí)的理解和解釋，但它們并不能改變事實(shí)的存在和本質(zhì)。因此，事實(shí)和價(jià)值應(yīng)該被看作是兩個(gè)相互獨(dú)立的概念，它們之間沒有必然的聯(lián)系。我們需要在理解事實(shí)的基礎(chǔ)上，基于自己的價(jià)值觀念做出適當(dāng)?shù)脑u價(jià)和決策。
智能不是數(shù)學(xué)。智能可以被看作是一種綜合性的能力，它涉及多個(gè)學(xué)科和領(lǐng)域的知識，包括數(shù)學(xué)、計(jì)算機(jī)科學(xué)、神經(jīng)科學(xué)、心理學(xué)、哲學(xué)等。雖然數(shù)學(xué)是智能研究中的重要工具，但智能并不等同于數(shù)學(xué)。智能是指人類或機(jī)器能夠基于輸入的信息，進(jìn)行學(xué)習(xí)、推理、判斷和決策的能力，而數(shù)學(xué)只是一種工具和語言，用于描述和分析智能的過程和結(jié)果。因此，雖然數(shù)學(xué)可以幫助我們理解智能的一些方面，但智能本身是一個(gè)更廣泛、更復(fù)雜的概念，它需要跨學(xué)科的研究和探索。
智能和邏輯是兩個(gè)不同的概念。智能是指人類和動物的認(rèn)知能力，包括感知、思考、學(xué)習(xí)、記憶、判斷、推理、解決問題等多個(gè)方面。而邏輯是研究推理和論證的科學(xué)，它關(guān)注如何正確地推理和證明論斷。邏輯使用符號和規(guī)則來分析和構(gòu)造有關(guān)推理和證明的語言和結(jié)構(gòu)。雖然智能和邏輯之間有一些重疊，例如推理和判斷等方面，但它們的范疇和內(nèi)涵不同。智能是一種廣泛的、復(fù)雜的、多方面的能力，而邏輯是一種狹窄的、專門的、局部的學(xué)科。
邏輯和數(shù)學(xué)之間有很大的重疊和交叉，但它們是兩個(gè)不同的學(xué)科。邏輯使用符號和規(guī)則來分析和構(gòu)造有關(guān)推理和證明的語言和結(jié)構(gòu)。而數(shù)學(xué)則是一種研究數(shù)量、結(jié)構(gòu)、變化以及空間和形式的科學(xué)，它使用符號和公式來描述和解決問題。數(shù)學(xué)是一種實(shí)證科學(xué)，它依賴于實(shí)證數(shù)據(jù)和實(shí)驗(yàn)來驗(yàn)證結(jié)論。雖然邏輯和數(shù)學(xué)都使用符號和規(guī)則來描述和解決問題，但它們的目的和方法不同，邏輯更關(guān)注于推理和證明的正確性，數(shù)學(xué)更關(guān)注于實(shí)際應(yīng)用和解決實(shí)際問題。因此，盡管它們有很多相似之處，邏輯和數(shù)學(xué)依舊是兩個(gè)不同的學(xué)科。我們不能簡單地把數(shù)學(xué)和邏輯等形式化的知識作為智能的全部，因?yàn)橹悄懿粌H僅是形式化的思維能力，還包括非數(shù)學(xué)、非邏輯、人文藝術(shù)、哲學(xué)宗教等多方面的能力。因此，單純依靠數(shù)學(xué)和邏輯等形式化的知識來解釋智能是片面的，而且可能會忽略了智能的其他方面。當(dāng)然，數(shù)學(xué)和邏輯等形式化的知識在智能研究中也是非常重要的工具，但是不能僅僅依賴于它們來解釋智能。
三、忽視人性的誤區(qū)
智能技術(shù)的發(fā)展是基于人類智慧和思維方式的延伸和拓展，人類的智慧和思維方式是智能的基礎(chǔ)，人類是智能技術(shù)的創(chuàng)造者和主導(dǎo)者。然而，人工智能技術(shù)卻與人性并不一致，根本上，人工智能技術(shù)并不具備人類的情感、道德、意識等特征，因此不能完全等同于人性。
將事實(shí)和價(jià)值混合進(jìn)行拓?fù)涫且豁?xiàng)非常有挑戰(zhàn)性的任務(wù)，因?yàn)槭聦?shí)和價(jià)值是完全不同的概念，它們的處理方式也是相差很大的。確定要拓?fù)涞闹悄苤黝}或問題，這可能涉及許多事實(shí)和價(jià)值，因此需要有一個(gè)清晰的理解；列出與主題或問題相關(guān)的所有事實(shí)和價(jià)值，這將有助于用戶了解所有相關(guān)方面，并使用戶能夠更好地理解主題或問題。將事實(shí)和價(jià)值分開也是非常重要的，因?yàn)樗鼈冃枰煌姆绞竭M(jìn)行處理，可以根據(jù)主題或問題的不同方面來分類，也可以根據(jù)其重要性來分類，在某些情況下，事實(shí)和價(jià)值之間可能存在明顯的關(guān)系，但在其他情況下，它們的關(guān)聯(lián)可能并不那么清晰，用戶需要確定它們之間的聯(lián)系，以便更好地理解主題或問題。在智能拓?fù)鋾r(shí)，常常可以使用各種工具和技術(shù)（如圖表、圖示、思維導(dǎo)圖）等，根據(jù)主題或問題的不同方面來組織事實(shí)和價(jià)值，同時(shí)確保它們之間的聯(lián)系得到清晰呈現(xiàn)。將事實(shí)和價(jià)值混合進(jìn)行拓?fù)涫且粋€(gè)復(fù)雜的任務(wù)，需要用戶仔細(xì)思考和分析。最重要的是，需要用戶保持客觀和中立，以確保其分析不會受到任何主觀因素的影響。
價(jià)值對齊和道德物化都是將人類的價(jià)值觀念轉(zhuǎn)化為機(jī)器可以理解和執(zhí)行的形式，但兩者的側(cè)重點(diǎn)不同價(jià)值對齊是指在人與機(jī)器之間存在交互的情況下，讓機(jī)器的決策和行為與人類的價(jià)值觀念保持一致，從而實(shí)現(xiàn)人機(jī)之間的協(xié)同。這種一致性不僅包括道德層面的價(jià)值觀念，還包括文化、社會和個(gè)人等層面的價(jià)值觀念。因此，價(jià)值對齊需要考慮的因素比較多，包括語言、行為、文化背景等。道德物化是將道德準(zhǔn)則、規(guī)范和價(jià)值觀轉(zhuǎn)化為機(jī)器可以理解和執(zhí)行的形式，主要目的是讓機(jī)器能夠按照人類的道德標(biāo)準(zhǔn)來進(jìn)行行為規(guī)范和判斷，從而保障人類的利益和權(quán)益。道德物化更加強(qiáng)調(diào)的是道德層面的價(jià)值觀念，例如公正、誠實(shí)、尊重等。
感性和理性是人類思維的兩個(gè)方面，它們之間的關(guān)系是相輔相成的。感性是指我們的情感和直覺，而理性則是指邏輯和分析能力。要讓感性和理性對齊，可以采取以下幾種方法：1）感性和理性不是對立的，而是相輔相成的。我們需要建立平衡觀念，認(rèn)識到兩者之間的互補(bǔ)關(guān)系；2）加強(qiáng)學(xué)習(xí)和思考提高自己的知識水平和思考能力，更好地理性地分析和解決問題；3）直覺和創(chuàng)造力是感性思維的關(guān)鍵，通過培養(yǎng)直覺和創(chuàng)造力，可以更好地應(yīng)對復(fù)雜和未知的情況；4）實(shí)踐和經(jīng)驗(yàn)積累是感性和理性結(jié)合的重要途徑，通過實(shí)踐和經(jīng)驗(yàn)積累，可以更好地運(yùn)用感性和理性思維，解決問題。簡而言之，要讓感性和理性對齊，需要建立平衡觀念，加強(qiáng)學(xué)習(xí)和思考，培養(yǎng)直覺和創(chuàng)造力，實(shí)踐和經(jīng)驗(yàn)積累等多方面的努力。
意圖與動機(jī)的根源常常與感性有關(guān)。人類的行為往往受到感性因素的影響，人們的意圖和動機(jī)不僅僅是理性思考的結(jié)果，還受到情感、直覺、經(jīng)驗(yàn)等感性因素的影響。這也就是為什么同樣的行為，不同的人可能有不同的動機(jī)和意圖。感性因素對人類行為的影響非常重要，因?yàn)槿耸乔楦袆游铩Ｇ楦泻椭庇X可以幫助我們做出更快、更準(zhǔn)確的決策，但同時(shí)也可能導(dǎo)致我們做出錯(cuò)誤的決策。因此，在分析人類行為時(shí)，需要綜合考慮感性和理性因素。頭痛醫(yī)頭，指當(dāng)身體發(fā)生疾病或不適時(shí)，應(yīng)該針對具體病癥進(jìn)行對癥治療，比如頭痛就應(yīng)該看頭痛的病因，不要隨意亂用藥物或治療方式。頭痛醫(yī)腳，指在一些情況下，身體疾病的根源可能并不在頭部，而是在其他部位或系統(tǒng)，這時(shí)候就需要綜合考慮整個(gè)身體的狀況，查找病因，進(jìn)行相應(yīng)治療。比如，有些頭痛可能是由于頸椎病引起的，這時(shí)候就需要治療頸椎病才能緩解頭痛。
戰(zhàn)略決策是各方博弈的結(jié)果，從來都不單純是理性的，很多時(shí)候并不能用大數(shù)據(jù)來解釋，更不可能用大數(shù)據(jù)來生成。也就是說，戰(zhàn)略決策不僅僅是一個(gè)單方面的決策，而是各方面利益和影響力的博弈結(jié)果。這種博弈不僅僅涉及各方的經(jīng)驗(yàn)和知識，更關(guān)鍵的是各方的情感、信念和價(jià)值觀念等因素。因此，大數(shù)據(jù)并不能完全解釋和預(yù)測這樣的決策結(jié)果。此外，戰(zhàn)略決策涉及未來的不確定性和風(fēng)險(xiǎn)，這些因素也不太可能被大數(shù)據(jù)捕捉到。所以，雖然大數(shù)據(jù)在很多領(lǐng)域都有很好的應(yīng)用前景，但在戰(zhàn)略決策中的作用還是有限的。在制定戰(zhàn)略決策時(shí)，需要綜合考慮各方面的因素，包括數(shù)據(jù)和非數(shù)據(jù)因素，做出更加全面和準(zhǔn)確的決策。
只有時(shí)空的對齊，沒有價(jià)值的對齊，智能就是智障。即智能并不是單純地按照時(shí)間和空間的對齊就可以實(shí)現(xiàn)，還需要考慮到價(jià)值觀的對齊。如果只是簡單地按照時(shí)間和空間的對齊，而忽視了價(jià)值觀的對齊，那么智能就沒有意義，甚至可能會帶來負(fù)面的影響。這句話強(qiáng)調(diào)了人機(jī)環(huán)境系統(tǒng)融合智能技術(shù)發(fā)展的必要性和重要性，但也提醒我們在發(fā)展智能技術(shù)的同時(shí)，需要考慮到人類的價(jià)值觀和道德標(biāo)準(zhǔn)，避免對人類社會造成損害。因此，發(fā)展智能技術(shù)不應(yīng)該只是追求技術(shù)本身的進(jìn)步，還應(yīng)該注重倫理和社會責(zé)任，充分考慮智能技術(shù)對社會的影響。