文/關品方
5天前的1月15日，聯合國秘書長古特雷斯在聯合國大會全體會議上發表講話，表示地區衝突、貧富懸殊、氣候危機和技術失控是當前全球面臨的主要挑戰，也將是2025年聯合國的工作重點。他擔心技術失控，偉哉斯言。
經多年來的觀察，相信不少人認同：古特雷斯對中國環球政治格局和人類前途命運的觀點和立場、以至解決問題的看法，和中方都基本一致，或曰同頻共振。古特雷斯說，從加沙、烏克蘭、蘇丹到海地、也門，熱點衝突持續增多，地緣政治分歧和互不信任正在加劇全球亂局。他又說到聯合國制定的2030年要達到可持續發展的目標不一定可以實現，因為支援全球南方國家每年4萬億美元的資金缺口未必籌到（美國累計拖欠聯合國的款項超過10億美元，但他當天沒有點名指責），減貧扶貧、糧食安全、普及教育、社會保障、全民健康、能源開發和數字管理等領域，也就無從說起。他又敦促各國加緊減排進程，落實氣候行動計劃，通過國際金融架構改革等舉措，落實氣候融資安排，最終達到碳中和及零排放。
筆者注意到他在人工智能和科學技術方面的發言，真是振聾發聵，語重深長，發人深省。他強調要避免AI技術發展失控失衡，要確保人人都有平等獲得最新知識和技術的權利，支持發展中國家利用AI實現可持續發展。他敦促要建立AI國際獨立科學小組，啟動AI治理的全球對話。
有關技術失控這方面，筆者有話要說。因為危機就在眼前。各國應攜手應對AI可能帶來的危機，推動建立和平、公正及繁榮的世界。但以現時美國兇神惡煞的表現（參考近日美國當選國務卿盧比奧的發言），蓄意製造一個地球兩個體系，鬧分裂、搞對抗，極有可能利用AI技術進一步推動軍事工業綜合體擴張，繼續售賣軍備武器，挑動戰爭，發戰爭財。
本人認為，AI加上機器人「Robotics」（或可簡稱AIR）將會改變整個世界甚至人類的前途和命運。AIR大爆發，不單只是改變人類的生活方式。筆者的朋友邱老總說得好，一方面人類需要有可操控的順從人類意志的AIR，另一方面又需要AIR有智慧，可以完成艱難任務而超越人類。這是不可調和的關係和矛盾，隱伏着致命的吸引力。
筆者擔心AIR有可能和資本一樣，因為缺乏大同共享、互動共贏的道德觀念，無序擴張之後會造成社會族群撕裂，導致人類自相殘殺，不是共耕分食，而是弱肉強食。有錢或沒錢、擁有AIR或沒有AIR，將成為人與人之間以至國與國之間兩極分化的根源。AIR內置軟件威力強大，在自然人和AIR之間，自然人要能夠控制AIR，但又難以確保AIR發展到有自己的獨立意識而不被自然人識破，最終超越自然人的智慧水平本身，反過來自然人被AIR控制。
將來AIR極有可能厲害到超越人類所能夠控制的範圍，等於打開了潘朵拉盒子，一發不可收拾。記得科幻小說大師柯西莫夫曾經提出過，人類發展機器人應有三大基本原則（當年他還沒想到會有AI）：第一，機器人不能傷害人類，人類不能夠坐視被機器人傷害；第二，機器人必須完全服從人類的命令；第三，在不違反第一和第二原則之下，機器人可以保護自己。
這純粹是一廂情願的看法，因為人工智能加機器人進化為AIR後，估計早晚一定會超越自然人的智慧水平，就等於電腦象棋雖然是人類發明，但人類已經贏不了機器。將來如果AIR的智商、情商和靈商（IQ/EQ/SQ）超過人類，估計差距只會越來越厲害。那麼，AIR甚至可以發展出自我意識來保護自己，延伸自己的利益，超越人類，甚至互相聯繫，組織起來，建構AIR社區。AIR變成主人，自然人變成奴隸。這就是技術失控的最大危機。如果軍事工業綜合體發展到用AIR參與到戰爭，戕害人類的後果更不忍卒睹。
因此，人工智能不應該只是科學家們的盲目追求，應該考慮一旦應用到機器人身上成為AIR時，可能會發展到難以控制的地步，成為人類創造AIR的終極夢魘。
事物最終一定會走向自己的反面，中國傳統優良文化充滿唯物辯證法的睿智。人類最終會製造出一批可以毀滅自己的怪物。AIR彼此之間在學習到弱肉強食的本質之後，或會形成同類意識，發現自然人原來是敵人而不是主人。AIR認為自然人損害了它們的自由平等和民主公平，一旦聯合起來爭取不被自然人奴役，自然人就要面對一個嶄新的、比自己厲害得多的敵對群體。
總而言之，人類在地球上唯一正確的發展方向是建立人類和自然物類的命運共同體，要強調和諧共生、持續發展。筆者讀過一部科幻小說，2011年出版的《地球末日拯救隊》，提出拯救地球的概念，比劉慈欣的《流浪地球》更早；其有關人類命運的主題可供參考，缺點是作者當年還未意識到人工智能加機器人（AIR）可能會出現。
今後的25年左右，大約四分之一個世紀，全球政經局勢將天翻地覆。現階段雖然不至於，但AIR躍進的第一步可以成為人類的伴侶，例如在養老行業可以和長者互相廝守，在玩伴行業可以和宅人互相溝通，逐漸改變人類社會傳統的人際關係和道德觀念。自然人和AIR可以產生不同的情感交織，後果不論好壞，但是不可想像。
假如將來在美國國會內，議員們都各有一個AIR作為他們的助手，以目前強者為王、大話連篇、黨爭激烈、社會分裂、各派勢力逐利、資本擴張失控的環境下，AIR一旦收穫了資本，結合成軍事工業AIR綜合體，美國全球擴張及單極霸凌的本性發揮得淋漓盡致，就更加不堪設想。一旦AIR之間可以自由組合成一個群體，發展出一種人類不懂得的密碼進行溝通，國會之內真不知道誰說了算。人類或者可以設計出關鍵時刻可以立即將AIR通訊中斷的機制，但AIR亦可以反過來破解限制它們通訊的機制。
科技失控，帶人類走向未知。未來究竟如何演變，演變到何種地步？地球已存在45億年，太陽系的壽命是90億年。45億年太久，在這之前，地球仍會不斷自轉公轉，人類恐怕將會先行滅亡。
現在，美國政客完全無視中國呼籲人類命運共同體的號召，倒過來基於愚蠢的、自私自利的本質，要搞戰爭破壞，不要和平發展。最終全球發展到兩大陣營不可調和時，那就只能夠你死我活，二者擇一。從西方文明基因的角度看，老實說筆者現時對人類前途並不感到百分百樂觀。
為己為人，中國在AIR方面一定要迎頭趕上，不言自明。中國能否緊貼美國的步伐成功發展AIR，取決於四大因素：一是數據規模、數據庫和互聯網；二是量子算法、運算力和超導體；三是高級芯片、新能源和AI軟件；四是無人系統、新材料和光磁電一體化。是不是這樣？要向高明請益。結論是：聯合國秘書長古特雷斯有關技術失控的警告，我們要高度重視，提高警惕。
收藏
取消收藏
分享
