劉偉
1997年電腦“深藍”戰勝世界棋王卡斯帕羅夫，掀起了本輪人工智能的研究熱潮。但在現有數學體系和軟硬件的設計模式基礎之上，人工智能在智能水平和能力 范圍上與人類智能相比仍存在極大差距。究其原因，人類智能和人工智能之間還存在無法跨越的界限，人工智能是邏輯的，人類智能卻未必是邏輯的。依賴于“符號 指向對象”的機器只能在封閉環境進行形式化計算，人類卻可以實現開放環境中的意向性算計。在這種背景下，實現人機優勢互補、倡導“智能向善”顯得尤為重 要。
(資料圖片僅供參考)
人工智能的瓶頸：用邏輯手段解決非邏輯問題
哲學家休謨曾說：“一切科學都與人性有關，對人性的研究應是一切科學的基礎。”任何科學都或多或少與人性有些關系，無論學科看似與人性相隔多遠，它們最終 都會以某種途徑再次回歸到人性中。從這個角度來看，人工智能“合乎倫理的設計”很可能是黃粱一夢。倫理對人而言還是一個很難遵守的復雜體系，對機器而言則 更加難以理解。在人工智能領域，“合乎倫理的設計”或許是科幻成分多于科學成分、想象成分多于真實成分。
當前的人工智能及未來的智能科學研究具有兩個致命的缺點，即“把數學等同于邏輯”和“把符號與對象混淆”。人機混合的難點和瓶頸也因此在于（符號）表征的非符號性（可變性）、（邏輯）推理的非邏輯性（非真實性）和（客觀）決策的非客觀性（主觀性）。
真正智能領域的瓶頸和難點之一是人機環境系統失調問題，具體體現在跨域協同中的“跨”與“協”如何有效實現的問題，這不僅關系到解決各種輔助決策系統中 “有態無勢”（甚至是“無態無勢”）的不足，還涉及到許多輔助決策體系“低效失能”的朔源。也許需要嘗試把認知域、物理域、信息域構成的基礎理論域與陸海 空天電網構成的技術域有機地結合起來，為真實有效地實現跨域協同打下基礎。
如何理解和研究智能問題？
智能是一個非常遼闊的空間，它可以隨時打開異質的集合，把客觀的邏輯與主觀的超邏輯結合起來。智能不是人腦（或類腦）的產物，也不是人自身的產物，而是 人、物、環境系統相互作用的產物。正如馬克思所言：“人的本質不是單個人所固有的抽象物，在其現實性上，它是一切社會關系的總和”，事實上，真實的智能同 樣也蘊含著人、物、環境這3種成分，隨著科技的快速發展，其中的“物”卻也逐漸被人造物——“機”所取代，簡稱為人機環境系統。
研究智能這樣的復雜問題是困難的，但把它分解成人機環境系統問題就相對簡單一些。人要解決的是“做正確的事（雜）”，機要解決的是“正確地做事（復）”， 環境所要解決的是“提供做事平臺（復雜）”。正如郭雷院士所言：“復雜性和智能化是系統科學發展的兩個永恒主題。復雜性主要體現的是系統科學認識世界的一 面，而智能化主要體現的是系統科學改造世界的一面。”所以，未來各國在人工智能領域角力的焦點不僅僅是人、機、環境每一或所有單項人工智能的領先優勢，更 重要的是人、機、環境系統混合智能的整合。
在真實的人—機—環境系統交互領域中，人的情景意識、機器的物理情景意識、環境的地理情景意識等往往同構于統一時空中，在人的行為環境與機的物理環境、地 理環境相互作用過程中，人的情景意識、行為特征并非由人的元素單獨決定，而是取決于人—機—環境系統整體，在充滿變數的人—機—環境交互系統中，存在的邏 輯不是主客觀的必然性和確定性，而是與各種可能性保持互動的同步性，是一種得“意”忘“形”的見招拆招和隨機應變能力，而這種思維和能力恰恰是人工智能所 欠缺的地方。
人機混合智能是未來發展方向
未來數字世界中，人與機器如何分工？人與機器的邊界又將如何劃分呢？
實際上，當前人機關系主要是功能分配，人把握主要方向，機處理精細過程，而未來的人機關系可能是某種能力的分工，機也可以把握某些不關鍵的方向，人也可以 處理某些縝密的過程。人機的邊界在于“應”和“變”，即如何實現適時的“彌”（散）與“聚”（焦）、“跨”（域）與“協”（同）、“反”（思）與“創” （造）。
人機智能是人—機—環境系統相互作用而產生的新型智能系統。其與人類智能、人工智能的差異具體表現在3個方面：首先，在混合智能輸入端，它把設備傳感器客 觀采集的數據與人主觀感知到的信息結合起來，形成一種新的輸入方式；其次，在智能的數據／信息中間處理過程，機器數據計算與人的信息認知相混合，構建起一 種獨特的理解途徑；最后，在智能輸出端，它將結果與人的價值決策相匹配，形成概率化與規則化有機協調的優化判斷。人機混合智能是一種廣義上的“群體”智能 形式，這里的人不僅包括個人，還包括眾人，機不僅包括機器裝備，還涉及機制機理；此外，還關聯自然/社會環境、真實/虛擬環境、網絡/電磁環境等。
人機混合智能也存在著一個難題，即機器的自主程度越高，人類對態勢的感知程度越低，人機之間接管任務順暢的難度也越大。有經驗的人常常抓關鍵任務中的薄弱 環節，在危險情境中提高警覺性和注意力，以防意外，隨時準備接管機器自動化操作，也可以此訓練新手，進而形成真實敏銳地把握事故的兆頭苗頭、恰當地把握處 理時機、準確地隨機應變能力，并在實踐中不斷磨礪訓練增強。即便如此，如何在非典型、非意外情境中解決人機交互難題仍需要進一步探討。
人機混合智能是人工智能發展的必經之路，其中既需要新的理論方法，也需要對人、機、環境之間的關系進行新的探索。隨著人工智能的熱度不斷加大，越來越多的 產品走進人們的生活之中。但是，強人工智能依然沒有實現，如何將人的算計智能遷移到機器中去，這是一個必然要解決的問題。我們已經從認知角度構建認知模型 或者從意識的角度構建計算—算計模型，這都是對人的認知思維的嘗試性理解和模擬，期望實現人的算計能力。計算—算計模型的研究不僅需要考慮機器技術的飛速 發展，還要考慮交互主體即人的思維和認知方式，讓機器與人各司其職，互相混合促進，這才是人機混合智能的前景和趨勢。
引領倫理治理，倡導“智能向善”
科技向善對西方而言是個有問題的提法，科技是物質世界的客觀存在，向善則是倫理道德的必然要求，從客觀存在能否推出必然要求，這是目前西方仍在爭議的話題。
科技本身沒有對錯善惡之分，能利人利己，也能害人害己；而設計、開發、使用、管理、維護、運行的人會有對錯善惡混合之分，科技向善本質是指“人”的向善。 故在監管上需要堅持倫理先行的理念，建立并完善人工智能倫理問責機制，明確人工智能主體的責任和權利邊界；在研發上需要確保先進科技手段始終處于負責可靠 的人類控制之下，預防數據算法偏見產生，使研發流程可控、可監督、可信賴；在使用上需要確保個人隱私和數據安全，預先設立應急機制和兜底措施，對使用人員 進行必要培訓等。
黨的二十大指出，中國積極參與全球治理體系改革和建設，踐行共商共建共享的全球治理觀，堅持真正的多邊主義，推進國際關系民主化，推動全球治理朝著更加公 正合理的方向發展。作為人工智能領域的先驅者之一，中國正在用實際行動為人工智能全球治理體系注入東方智慧，展現了大國形象和擔當。2021年9月，中國 國家新一代人工智能治理專業委員會發布了《新一代人工智能倫理規范》，強調應將倫理融入人工智能全生命周期，并針對人工智能管理、研發、供應、使用等活動 提出了6項基本倫理要求和4個方面的特定倫理規范。今年3月，中國發布《關于加強科技倫理治理的意見》，提出應加快完善科技倫理體系，提升科技倫理治理能 力，有效防控科技倫理風險，不斷推動科技向善、造福人類，實現高水平科技自立自強。近日，中國向聯合國提交《關于加強人工智能倫理治理的立場文件》，從構 建人類命運共同體的高度，系統梳理了近年來中國在人工智能倫理治理方面的政策實踐，積極倡導“以人為本”“智能向善”理念，為各國破解人工智能發展難題提 供了具體解決思路，值得國際社會高度重視與深入研究。
（作者系北京郵電大學人機交互與認知工程實驗室主任）