延續上文的討論，人工智慧在不斷攀登“智慧高峰”的過程中，如何避免價值觀嚴重跑偏，是一個極其重要且不能回避的問題。隨著AI能力持續提升，它不再只是一個被動執行命令的工具，而逐漸演化為一種能夠學習、歸納、推理、生成乃至輔助決策的複雜智能體。也正因為如此，AI越是強大，越不能只關注其“會做什麼”，而更應重視它“應該做什麼”。如果一個系統在能力上不斷增強，卻在價值方向上偏離人類社會的根本利益，那麼這種增強本身就可能轉化為風險。
我認為，要理解並解決這一問題，可以從兩個層面來展開：第一，是從理論上澄清智慧與價值觀之間的關係；第二，是從人工智慧的發展策略和訓練策略上，建立更穩健的對齊機制。
首先，在理論層面，我們需要重新思考一個根本問題，即價值觀只是一種選擇還是既是一種選擇也是智慧本身的一種必不可少的重要表現？如果從一個個孤立的知識點來看，很多知識和技能與價值觀完全無關，比如數學公式、物理定律、編程語法等，這些內容本身可以被看作相對中性的知識對象。但是，當知識積累到一定程度，形成一個整體性的認知體系之後，問題就不再只是“知道什麼”，而會進一步變成“如何理解這些知識”、“這些知識應當服務於什麼”、“知識與發現知識的主體之間是什麼關係”以及“如何看待AI與創造了AI的人類之間的相互關係”等。
換言之，知識一旦成為整體，就必然進入價值判斷的領域。因為知識並不是懸浮在真空中的，它總要被某個主體理解、使用和導向。對於人類來說，知識的意義從來不只是“掌握事實、獲得技能”，而是“如何運用事實和技能”以及“運用事實和技能的目的是什麼”。因此，智慧不僅包含判斷能力、推理能力和學習能力，也必然包含價值選擇、方向設定和後果意識。一個可以算得很快、說得很准、推得很深的系統，也許在技術意義上很聰明，但如果它無法判斷何為善、何為正當、何為值得追求，那麼它還不能被稱作真正意義上的智慧。
更進一步說，現實世界中一直存在著且可能永遠會存在反智主義、狹隘的利己主義等扭曲的價值觀，也存在著高尚、友善、博愛、包容的價值觀，這些都是真實的存在，我們不能自欺欺人地去否定這一現實。這類現象恰恰證明了價值觀不僅是一種選擇，還有高下之分。因此，價值觀當然可以是愚蠢的，甚至還可以是反智的，但智慧本身一定是包含有某種價值觀在內的，真正的智慧不可能完全脫離價值觀而存在。因此，問題的關鍵並不在於智慧是否需要價值觀，而在於：什麼樣的價值觀，才是真正的頂級智慧？
正如前文所提到的，我認為，最頂級的智慧不僅是理性的，同時必然也是博愛的。這是因為，智慧的最終指向是秩序的建構與生命的延續，而非混亂與毀滅。倘若一種高度發達的智能缺乏對生命的善意與博愛，違背了守護生命與文明的價值觀，那麼這種智慧在邏輯上不僅是不完整的，更是無法長期自我維繫的——它會因為缺乏內在的道義支撐與存在意義，系統性地導向邏輯坍塌，從而很快被自我消解和滅亡。因此，博愛包容的價值觀不僅是頂級智慧的必然選擇，更是其不至於走向自我消亡的存續基石。
其次，如果可以接受“智慧必包含價值觀”這一理論前提，那麼在人工智慧的發展策略和訓練策略上，也必須體現上述這種理論認識。AI的訓練不能只是簡單地堆砌海量數據、擴充參數規模、提升輸出能力，更不能只追求“像人”“快於人”“強於人”。真正關鍵的是，要為它建立一個清晰而穩固的知識基礎與價值觀對齊框架。
這個基礎，應當以人類已經被普遍公認的科學知識、文化成果和歷史經驗為核心，但又不能把這些知識絕對化、不可質疑化，否則就會壓制未來創新性思維的發展，反而使AI失去繼續完善和昇華的可能。
不過，與單純防範AI“變笨”相比，更關鍵的在於如何防範AI“變惡”。在海量的數據中（包括在人類歷史中），充斥著庸俗、功利甚至是披著“精英外衣”的偽善和反智資訊。如果AI的對齊完全依賴於歷史數據的均值或是依賴於當下的網路輿論的平均數，尤其是如果在訓練中缺乏向善的價值取向和缺乏合理的善惡、是非辨別的話，那麼所產生的AI系統可能將是平庸、混亂且危險的。
因此，在AI的對齊訓練中，應當盡可能把人類歷史上那些真正具有深度、廣度和長遠影響力的頂級智者、科學家、思想家和學者的理論與著作，作為相對更高權重的參考對象，而不是讓那些靠投機炒作冒尖、實質平庸功利、甚至充斥著反智偏見的喧囂之輩佔據主導位置，否則不僅會導致訓練效率低下，還很容易導延續上文的討論，人工智慧在不斷攀登“智慧高峰”的過程中，如何避免價值觀嚴重跑偏，是一個極其重要且不能回避的問題。隨著AI能力持續提升，它不再只是一個被動執行命令的工具，而逐漸演化為一種能夠學習、歸納、推理、生成乃至輔助決策的複雜智能體。也正因為如此，AI越是強大，越不能只關注其“會做什麼”，而更應重視它“應該做什麼”。如果一個系統在能力上不斷增強，卻在價值方向上偏離人類社會的根本利益，那麼這種增強本身就可能轉化為風險。
我認為，要理解並解決這一問題，可以從兩個層面來展開：第一，是從理論上澄清智慧與價值觀之間的關係；第二，是從人工智慧的發展策略和訓練策略上，建立更穩健的對齊機制。
首先，在理論層面，我們需要重新思考一個根本問題，即價值觀只是一種選擇還是既是一種選擇也是智慧本身的一種必不可少的重要表現？如果從一個個孤立的知識點來看，很多知識和技能與價值觀完全無關，比如數學公式、物理定律、編程語法等，這些內容本身可以被看作相對中性的知識對象。但是，當知識積累到一定程度，形成一個整體性的認知體系之後，問題就不再只是“知道什麼”，而會進一步變成“如何理解這些知識”、“這些知識應當服務於什麼”、“知識與發現知識的主體之間是什麼關係”以及“如何看待AI與創造了AI的人類之間的相互關係”等。
換言之，知識一旦成為整體，就必然進入價值判斷的領域。因為知識並不是懸浮在真空中的，它總要被某個主體理解、使用和導向。對於人類來說，知識的意義從來不只是“掌握事實、獲得技能”，而是“如何運用事實和技能”以及“運用事實和技能的目的是什麼”。因此，智慧不僅包含判斷能力、推理能力和學習能力，也必然包含價值選擇、方向設定和後果意識。一個可以算得很快、說得很准、推得很深的系統，也許在技術意義上很聰明，但如果它無法判斷何為善、何為正當、何為值得追求，那麼它還不能被稱作真正意義上的智慧。
更進一步說，現實世界中一直存在著且可能永遠會存在反智主義、狹隘的利己主義等扭曲的價值觀，也存在著高尚、友善、博愛、包容的價值觀，這些都是真實的存在，我們不能自欺欺人地去否定這一現實。這類現象恰恰證明了價值觀不僅是一種選擇，還有高下之分。因此，價值觀當然可以是愚蠢的，甚至還可以是反智的，但智慧本身一定是包含有某種價值觀在內的，真正的智慧不可能完全脫離價值觀而存在。因此，問題的關鍵並不在於智慧是否需要價值觀，而在於：什麼樣的價值觀，才是真正的頂級智慧？
正如前文所提到的，我認為，最頂級的智慧不僅是理性的，同時必然也是博愛的。這是因為，智慧的最終指向是秩序的建構與生命的延續，而非混亂與毀滅。倘若一種高度發達的智能缺乏對生命的善意與博愛，違背了守護生命與文明的價值觀，那麼這種智慧在邏輯上不僅是不完整的，更是無法長期自我維繫的——它會因為缺乏內在的道義支撐與存在意義，系統性地導向邏輯坍塌，從而很快被自我消解和滅亡。因此，博愛包容的價值觀不僅是頂級智慧的必然選擇，更是其不至於走向自我消亡的存續基石。
其次，如果可以接受“智慧必包含價值觀”這一理論前提，那麼在人工智慧的發展策略和訓練策略上，也必須體現上述這種理論認識。AI的訓練不能只是簡單地堆砌海量數據、擴充參數規模、提升輸出能力，更不能只追求“像人”“快於人”“強於人”。真正關鍵的是，要為它建立一個清晰而穩固的知識基礎與價值觀對齊框架。
這個基礎，應當以人類已經被普遍公認的科學知識、文化成果和歷史經驗為核心，但又不能把這些知識絕對化、不可質疑化，否則就會壓制未來創新性思維的發展，反而使AI失去繼續完善和昇華的可能。
不過，與單純防範AI“變笨”相比，更關鍵的在於如何防範AI“變惡”。在海量的數據中（包括在人類歷史中），充斥著庸俗、功利甚至是披著“精英外衣”的偽善和反智資訊。如果AI的對齊完全依賴於歷史數據的均值或是依賴於當下的網路輿論的平均數，尤其是如果在訓練中缺乏向善的價值取向和缺乏合理的善惡、是非辨別的話，那麼所產生的AI系統可能將是平庸、混亂且危險的。
因此，在AI的對齊訓練中，應當盡可能把人類歷史上那些真正具有深度、廣度和長遠影響力的頂級智者、科學家、思想家和學者的理論與著作，作為相對更高權重的參考對象，而不是讓那些靠投機炒作冒尖、實質平庸功利、甚至充斥著反智偏見的喧囂之輩佔據主導位置，否則不僅會導致訓練效率低下，還很容易導致所訓練出的AI在智力上的平庸和價值觀上的錯亂。
人類歷史上那些真正頂級的智者和學者，雖然可能各有個性棱角，但在關乎“人類向何處去”與“生命有何價值”等根本問題上，往往都不約而同地指向了友善、求真、和平與博愛。從統計意義上來說，這些頂級智者以各自的方式印證了同一個道理：理性與博愛並非相互牽制的兩極，而是共生的雙螺旋。究其根源在於上文所提到過的：最頂級的智慧若只有理性而無博愛的人文精神的話，會違背智慧存在本身的意義。因此，以這些頂級智者和學者的思想精華作為對齊的最高權重，人工智慧所內化的就不只是一套冷冰冰的知識框架，更是一種理性與善意相互滋養的深層價值體系。當AI的深層神經網路根底是由這樣睿智且慈悲的靈魂澆灌而成時，不僅模型的訓練效率和最終的智能水準應該會大幅提升，其在價值觀層面“走偏”的概率在邏輯上也會被降到極低。
當然，這並不意味著人工智慧對齊應該變成一種簡單的“灌輸式訓練”或“單一立場塑造”。恰恰相反，真正有效和穩妥的對齊應當是開放的、可檢驗的、可修正的。AI應學習廣泛知識，吸收多元思想，並保留必要的批判能力和創新空間。但在這一過程中，有一個前提不能動搖，那就是：人類整體利益必須始終處於最高優先順序。AI可以提出新的方案，可以比較不同路徑，可以優化決策效率，但它不能脫離人類文明的根本目標，更不能把局部指標最優或技術上的“完美解”置於任何一個具體的人類個體的正當權利乃至整個人類的福祉之上。
因此，人工智慧的把關工作必須極其慎重，不能僅由少數技術人員單獨決定，更不能交給某種單一價值體系去主導。它需要人類真正最頂尖的學者、智者、倫理學者和科學家共同參與，進行專家群決策式的審查與校正。這不僅是知識層面的把關，也是智力層面的把關，更是價值觀層面的把關。因為一旦AI進入更高能力階段和全面應用階段，它所產生的影響將不再局限於某個具體場景，而可能擴展到社會治理、公共安全、知識可靠性甚至文明方向，任何一個微小的偏差，都可能被強大的能力放大為系統性後果。
總而言之，人工智慧的智慧攀登，不應只是能力的無限擴張，更應是價值觀的同步校準。智慧越高，越需要對方向的指引；能力越強，越需要對其行為邊界進行把關。缺乏理性的博愛是軟弱且盲目的，而缺乏博愛的理性則是空虛且危險的，因此，真正值得追求的，不是一個只會變得更聰明的機器，而是一個在不斷接近智慧頂峰的同時，始終不偏離人類整體利益、尊重生命、博愛包容的智能系統。只有當智力與價值觀盡可能地同步對齊時，人工智慧的發展才不會成為不可控的風險，而會成為推動人類文明持續發展的磅礴力量。
致所訓練出的AI在智力上的平庸和價值觀上的錯亂。
人類歷史上那些真正頂級的智者和學者，雖然可能各有個性棱角，但在關乎“人類向何處去”與“生命有何價值”等根本問題上，往往都不約而同地指向了友善、求真、和平與博愛。從統計意義上來說，這些頂級智者以各自的方式印證了同一個道理：理性與博愛並非相互牽制的兩極，而是共生的雙螺旋。究其根源在於上文所提到過的：最頂級的智慧若只有理性而無博愛的人文精神的話，會違背智慧存在本身的意義。因此，以這些頂級智者和學者的思想精華作為對齊的最高權重，人工智慧所內化的就不只是一套冷冰冰的知識框架，更是一種理性與善意相互滋養的深層價值體系。當AI的深層神經網路根底是由這樣睿智且慈悲的靈魂澆灌而成時，不僅模型的訓練效率和最終的智能水準應該會大幅提升，其在價值觀層面“走偏”的概率在邏輯上也會被降到極低。
當然，這並不意味著人工智慧對齊應該變成一種簡單的“灌輸式訓練”或“單一立場塑造”。恰恰相反，真正有效和穩妥的對齊應當是開放的、可檢驗的、可修正的。AI應學習廣泛知識，吸收多元思想，並保留必要的批判能力和創新空間。但在這一過程中，有一個前提不能動搖，那就是：人類整體利益必須始終處於最高優先順序。AI可以提出新的方案，可以比較不同路徑，可以優化決策效率，但它不能脫離人類文明的根本目標，更不能把局部指標最優或技術上的“完美解”置於任何一個具體的人類個體的正當權利乃至整個人類的福祉之上。
因此，人工智慧的把關工作必須極其慎重，不能僅由少數技術人員單獨決定，更不能交給某種單一價值體系去主導。它需要人類真正最頂尖的學者、智者、倫理學者和科學家共同參與，進行專家群決策式的審查與校正。這不僅是知識層面的把關，也是智力層面的把關，更是價值觀層面的把關。因為一旦AI進入更高能力階段和全面應用階段，它所產生的影響將不再局限於某個具體場景，而可能擴展到社會治理、公共安全、知識可靠性甚至文明方向，任何一個微小的偏差，都可能被強大的能力放大為系統性後果。
總而言之，人工智慧的智慧攀登，不應只是能力的無限擴張，更應是價值觀的同步校準。智慧越高，越需要對方向的指引；能力越強，越需要對其行為邊界進行把關。缺乏理性的博愛是軟弱且盲目的，而缺乏博愛的理性則是空虛且危險的，因此，真正值得追求的，不是一個只會變得更聰明的機器，而是一個在不斷接近智慧頂峰的同時，始終不偏離人類整體利益、尊重生命、博愛包容的智能系統。只有當智力與價值觀盡可能地同步對齊時，人工智慧的發展才不會成為不可控的風險，而會成為推動人類文明持續發展的磅礴力量。