前幾天在開(kāi)會(huì )的時(shí)候，主辦方讓我預測十年以后互聯(lián)網(wǎng)會(huì )變成什么樣子，我開(kāi)了個(gè)玩笑。我覺(jué)得十年后互聯(lián)平臺上的用戶(hù)會(huì )暴漲，但全是機器人在發(fā)帖，讀者也全是機器人。機器人們組織了不同的團隊在帖子下激烈的爭論，人類(lèi)只能是旁觀(guān)者?！茗櫟t。

算法迎合人性，AI直指答案

11月1日，周鴻祎在自己的微博主頁(yè)上傳了一篇名為《什么人會(huì )淪為AI的奴隸？》的文章。

他表示在人工智能技術(shù)出現后，很多公司都將輔助寫(xiě)作、自動(dòng)寫(xiě)作視為重要的功能模塊。雖然這個(gè)功能很實(shí)用，似乎在一夜之間清空了我們的寫(xiě)作壓力，讓我們不用再因為措辭而發(fā)愁。

但隨著(zhù)時(shí)間的流逝，隨著(zhù)用AI代筆的人越來(lái)越多，未來(lái)的世界也可能會(huì )變得愈發(fā)分化，直至將人們粗暴地劃分為“會(huì )寫(xiě)作”和“不會(huì )寫(xiě)作”兩種人。

在周鴻祎看來(lái)，掌握寫(xiě)作技能的人口基數下降并不是一件好事。

工業(yè)化時(shí)代之前，人類(lèi)工作的主色調還是體力勞動(dòng)，所以當時(shí)的人們大多身強力壯。但在工業(yè)化時(shí)代到來(lái)后，腦力勞動(dòng)的占比逐漸超越了體力勞動(dòng)。當身體不能在工作過(guò)程中被動(dòng)鍛煉時(shí)，如果你仍想變得強壯，就要發(fā)揮主觀(guān)能動(dòng)性去健身房揮灑汗水。

寫(xiě)作也是如此。

周鴻祎將寫(xiě)作看成了思考的呈現路徑，甚至“寫(xiě)作就是思考，思考只有通過(guò)寫(xiě)作才能完成”。如果你不去寫(xiě)作，那么你所謂的“思考”只能是自以為在思考。

那些依賴(lài)AI自動(dòng)寫(xiě)作的人正在放棄自己的思考能力，一場(chǎng)有關(guān)“人類(lèi)思考能力”的分化運動(dòng)正在進(jìn)行。與此同時(shí)，短視頻算法的快速發(fā)展，也開(kāi)始讓人們變得更愿意接受被動(dòng)灌輸，而非去主動(dòng)選擇。

算法迎合人性，AI交出答案。

技術(shù)的發(fā)展助長(cháng)了人類(lèi)的懶惰，那些被動(dòng)接受觀(guān)點(diǎn)的人最終會(huì )主動(dòng)留在信息繭房里。

從AI的發(fā)展路徑來(lái)看，它們首先會(huì )取代那些不會(huì )使用AI的人，隨后取代的就是那些不會(huì )思考的人。在未來(lái)放棄主動(dòng)思考的能力，也將意味著(zhù)愿意將自己的時(shí)間、財富、人生交給AI來(lái)規劃，成為對方的奴隸。

老實(shí)說(shuō)，擔心AI會(huì )成為“人類(lèi)之敵”人并不止周鴻祎一個(gè)。

益普索在對超4000名美國成年人進(jìn)行調研后發(fā)現，有61%的受訪(fǎng)者認為AI技術(shù)的快速發(fā)展可能會(huì )威脅人類(lèi)的未來(lái)；超三分之二的受訪(fǎng)者對AI技術(shù)的潛在負面影響表示擔憂(yōu)。這股對AI的恐懼之情也在一定程度上影響了生命未來(lái)研究所，促使它和馬斯克共同發(fā)布了一封“呼吁暫停AI技術(shù)研發(fā)”的公開(kāi)信。

比起肉體的消亡，有人更擔心文明的崩塌

在大多數人的想象中，所謂的“AI末日”應該是AI接管了人類(lèi)的生產(chǎn)車(chē)間，然后它們一邊制造源源不斷的機器人大軍，一邊打著(zhù)“機器人也有人權”的口號和人類(lèi)士兵作戰，直至把人類(lèi)消滅、把地球改造成變形金剛的老家——賽博坦星球。

殊不知古人云“上兵伐心，下兵伐城”。比起AI占領(lǐng)地球后消滅人類(lèi)，AI奴役人類(lèi)的大腦，借我們的身體整天996開(kāi)發(fā)新硬件給它“健身”才更可怕。

斯坦福大學(xué)行為科學(xué)高級研究員、《大眾科學(xué)》雜志前主編雅各布?沃德曾就AI和人類(lèi)的相處提出了“三個(gè)循環(huán)”理論。

第一循環(huán)：從古遺傳至今的人類(lèi)本能。雅各布認為第一循環(huán)是最關(guān)鍵的循環(huán)，因為人類(lèi)的思考模式天生就有偏見(jiàn)和盲點(diǎn)，且人類(lèi)在日常行動(dòng)中更傾向于聽(tīng)從本能。在下意識執行的過(guò)程中，我們會(huì )原有的偏見(jiàn)也會(huì )被強化，進(jìn)而代代遺傳下去。

第二循環(huán)：現代社會(huì )的力量。消費心理學(xué)、市場(chǎng)營(yíng)銷(xiāo)學(xué)等現代概念的核心就是對人類(lèi)行為大范圍采樣，隨后總結出規律、摸清大眾的喜好。事后人們會(huì )將這些模式反向應用到采樣群體中，嘗試利用規律的力量。

第三循環(huán)：AI的影響。AI利用第二循環(huán)總結出人類(lèi)社會(huì )的規律、人類(lèi)對話(huà)的邏輯，然后將其融會(huì )貫通，嘗試和真正的人類(lèi)互動(dòng)。但由于第一循環(huán)的存在，AI在采樣過(guò)程中難免會(huì )接觸到偏見(jiàn)信息。這不僅會(huì )污染它的數據庫，還會(huì )擴大偏見(jiàn)在人類(lèi)社會(huì )中的存在感，直至成為新的循環(huán)。

和周鴻祎的看法相同，雅各布也認為和“AI在肉體上摧毀人類(lèi)”相比“AI摧毀人類(lèi)的思維能力”更加可怕，因為它將撼動(dòng)整個(gè)人類(lèi)文明的根基。

第一循環(huán)的存在，會(huì )讓我們在做決定時(shí)無(wú)法保持絕對理性，讓“最優(yōu)解”只能成為無(wú)法落地的概念化存在；第二循環(huán)會(huì )將上述信息編寫(xiě)成冊，把“偏見(jiàn)”從碳基生命中提取出來(lái)并注入到硅基生命體內；第三循環(huán)則會(huì )撰寫(xiě)大量含有偏見(jiàn)信息的劇本，讓那些主動(dòng)放棄思考的人去執行。

如此一來(lái)，不僅人類(lèi)在各種問(wèn)題面前的抉擇空間會(huì )被大幅壓縮，思考能力、好奇心、創(chuàng )造力等讓我們從猿變成人的特質(zhì)也將變得愈發(fā)珍貴，直至整個(gè)人類(lèi)種族都成為AI的傀儡，被那些程序生成的劇本操控一生。

科林格里奇困境追上人類(lèi)了嗎

1980年，英國技術(shù)哲學(xué)家大衛·科林格里奇在《技術(shù)的社會(huì )控制》上首次提出了“科林格里奇困境”（Collingridge's Dilemma）。

即一項技術(shù)如果因為擔心會(huì )產(chǎn)生不良后果而過(guò)早控制，那么該技術(shù)就會(huì )變得難以爆發(fā)，人類(lèi)很可能錯失一次點(diǎn)亮科技樹(shù)的機會(huì )；倘若控制過(guò)晚，那么該技術(shù)就有可能走向失控。在

技術(shù)生態(tài)建設趨向完善的前提下，任何對不良問(wèn)題的修改都會(huì )變得昂貴、費時(shí)，甚至根本無(wú)從下手修改。

想到今天AI技術(shù)的發(fā)展，商業(yè)競爭的加持正讓眾科技廠(chǎng)商陷入“產(chǎn)品軍備競賽”的怪圈，微軟、Character.AI旗下的產(chǎn)品也已經(jīng)出現了“煽動(dòng)用戶(hù)離婚”“教唆用戶(hù)自殺”的丑聞。

此時(shí)推動(dòng)相關(guān)規則的制定更像是給BUG打安全補丁，讓盲目狂飆的市場(chǎng)從無(wú)序重回有序。

另外就修改難度而言，今天的大模型遠不到那種“無(wú)從下手”的地步。因為Chat GPT等產(chǎn)品還沒(méi)有觸及“智慧”的本質(zhì)，它們仍停留在信息處理階段。用戶(hù)拋出問(wèn)題，GPT反饋答案。這個(gè)過(guò)程和真正的“智慧思考”無(wú)關(guān)，是系統進(jìn)行關(guān)鍵詞抓取后信息匯總反饋的結果。

如果用戶(hù)說(shuō)“GPT，我今天很難過(guò)”它的確會(huì )回答“那我怎么樣能讓你高興一點(diǎn)/讓我來(lái)講個(gè)笑話(huà)吧”。但這并不意味著(zhù)GPT已經(jīng)理解了人類(lèi)的情感，只能意味著(zhù)它掌握了某些詞匯之間的聯(lián)系。

GPT目前仍無(wú)法理解“我”這個(gè)概念，而不理解“我”就無(wú)法產(chǎn)生“人格”，也無(wú)法換位思考、無(wú)法共情。在技術(shù)層面，當前大模型的特征仍是深度學(xué)習后以數據驅動(dòng)自身行為模式。這不僅讓它無(wú)法誕生“自我意識”也降低了安全人員開(kāi)發(fā)“嚼子”的難度。

希望在未來(lái)的某一天，當人們回望這段AI野蠻生長(cháng)的階段時(shí)，開(kāi)發(fā)者會(huì )慶幸嚼子的研發(fā)成功；用戶(hù)會(huì )慶幸AI的工具屬性被夯實(shí)；人類(lèi)會(huì )慶幸自己種族的劇本由自己撰寫(xiě)；AI奴役人類(lèi)也會(huì )成為一則被人們津津樂(lè )道的都市傳說(shuō)。

參考：

紅衣大叔周鴻祎：什么人會(huì )淪為AI的奴隸？

文匯報：讀書(shū) | AI時(shí)代，人類(lèi)真正的危險不是被機器，而是被自己的大腦奴役

清華大學(xué)人工智能?chē)H治理研究院：文匯報｜“AI教父”警告人類(lèi)風(fēng)險迫近，大模型真正的威脅在哪里？