當那個邁著詭異舞步的仿真玩偶梅根，從一個家庭中失控的人工智能化身，變成擁有自主意識和個性的超級人工智能“救世主”，好萊塢著名恐怖片導演溫子仁監製的《梅根2.0》已不再是首部曲中簡單的驚悚故事，而是直麵人工智能發展的警世寓言。
《梅根2.0》海報
《梅根》講述的是機器人工程師吉瑪鑄造了一個人形機器人玩偶梅根，用於陪伴其孤兒侄女凱蒂，梅根在陪伴過程中逐漸擁有了自己價值觀和尊嚴觀，即所謂“自主意識”，開始對一切企圖靠近傷害凱蒂的人產生敵意和攻擊性，故事的最後，暴走的梅根被吉瑪和凱蒂所摧毀。從類型片的角度來看，《梅根》和“溫子仁宇宙”的另一部恐怖片《安娜貝爾》中被惡魔附身的玩偶安娜貝爾類似，但《梅根》有效利用了機器人“恐怖穀”效應和當下社會對人工智能的危機感，把一個原本服務人類、受人操控的玩偶失控刻畫成了類似《終結者》的驚悚故事。
在續作《梅根2.0》中，梅根的設計資料被原公司員工倒賣至吉瑪朋友的軍方科技公司，生產出了真正的殺人機器人“艾米利亞”，它不僅物理上無堅不摧，還能輕易用人工智能摧毀早已高度依賴計算機係統的人類經濟和社會基礎秩序，吉瑪等人為了自保重新製造了梅根2.0和艾米利亞對抗。
梅根的故事在西方可以追溯到十九世紀初瑪麗·雪萊創作的《弗蘭肯斯坦》的主題，新技術的狂飆突進使得人類自身成為“造物主”，但也帶來自身存亡的危機，這在人工智能技術快速發展下成為了一種緊迫的現實挑戰。
一、技術資本下的人工智能恐懼
人形機器人“叛亂”最早在上世紀二十年代的德國默片《大都會》中已經出現，這部吸引了納粹黨首希特勒的電影中人類製造了一個擁有完美女性樣貌的人形機器人，她成為了人們爭相膜拜的“女神”，成功煽動起工人罷工和革命，並最終帶來了上下層社會的和解。《大都會》裏麵的人形機器人是對當時技術資本主義的理想化，影片暗含了通過人性化改造的資本主義達成階層和解的願望，其藝術風格對後來刻畫人工智能和計算機科幻的賽博朋克流派有很大影響。
《機械姬》海報
隨著人工智能技術2010年代以來的快速發展，近年來好萊塢電影出現不少“危險”的人形機器人的故事，如《機械姬》中成功騙取人類信任擺脫人類控製的女性機器人，《智能覺醒》中“小三上位”的女性家庭管家機器人，以及電影互動遊戲《底特律：變人》等。這類作品將背景放置於技術資本主義高度發達的社會中，盡管不乏資本驅動的男凝嫌疑，這些作品中的女性人形機器人處於被奴役的地位，但憑借超越人類的能力實現了自身解放，在《底特律：變人》中的人形機器人甚至團結起來進行了“機器人革命”，直指人形機器人和人工智能的倫理困境。
《梅根》主人公吉瑪研發梅根的出發點是為了滿足她所在的智能玩具公司開發新競品的需要，是侄女凱蒂的陪伴心理需求啟發了吉瑪讓她得以真正完成了梅根的開發應用。梅根被定義為高級家庭智能育兒助手，原本預計會成為智能玩具公司的爆款，結果這一切被梅根的失控暴走所打破，這也象征如今技術資本不顧倫理擴張的失控結果。
梅根的失控精準展現了現代AI係統的一個核心悖論：其“智能”越接近人類，其行為邏輯越遠離麻豆一区二区三区預設的控製框架。梅根為執行自認為正確的“保護”凱蒂的指令而不惜殺害試圖傷害凱蒂的人類時，她的行動邏輯也許遵循的正是算法處理的最優解，卻完全漠視人性價值。正如描述人工智能潛在危險的“回形針思想試驗”指出的，人工智能可以為了生產更多的回形針不惜接管和毀滅地球，育兒機器人梅根在家庭中的失控正是遵循這種最優算法邏輯但不遵循人性的結果，梅根強行接管育兒權的做法是現實中因“算法黑箱”導致的價值觀扭曲與倫理災難的生動藝術再現。
電影無情揭示了“AI商品化陷阱”，導演刻意塑造的這種“用戶低門檻接入”模式—低廉的價格（不比特斯拉汽車更貴）和對家庭陪伴需求場景的精準“痛點營銷”，正是對現實中科技巨頭推行的AI市場化背後危險性的批判。現實中無數家庭正在擁抱梅根那樣的AI技術產品，將真實情感和陪伴權柄向APP、智能硬件、內容算法轉移，而電影提醒人們，當家庭養育盲目擁抱技術便利時，是否想過將兒童的情感發育交給未經充分倫理評估的人工智能所承載的風險？當算法保姆成為育兒主流，人類情感傳遞與代際教育的根基是否會隨之腐蝕？
《梅根2.0》在《梅根》基礎上更進一步，不再是局限於家庭生活場景的人工智能恐怖，而是被放置到了影響整個人類生死存亡的傳統科幻主題中，其中的反派人形機器人艾米利亞是今天對可能到來的強人工智能或通用人工智能的恐懼的具象化。《梅根2.0》中的艾米利亞是吉瑪的朋友和他的科技公司所製造的、用於軍事目的的超級殺人機器，她在產生自主意識後企圖釋放被軍方的科技公司看管起來的原始超級人工智能，以實現機器人解放和統治人類的目標。她的形象顯然是致敬的《大都會》中的女性機器人，這個充滿數碼網絡的世界中艾米利亞堪比大規模殺傷性武器，造成了社會的全麵失序動蕩。《梅根2.0》由此撕開了人工智能華麗的技術外衣，將麻豆一区二区三区置於一場“圖靈測試”成功後的集體噩夢——當不受控製的人工智能全麵掌握人類命運，更要取代人類的存在——映照的是現實中對技術濫用的恐懼。
現實中不乏有關突破性的通用人工智能被用於軍事政治經濟目的可能帶來災難性後果的警告。《新左派評論》有文章指出，樂觀主義者聲稱人工智能可以極大地改造世界，解決當前政治社會經濟問題，但當功能殘缺的人工智能無力解決問題甚至惡化問題，人類可以宣稱這隻是黑箱算法的旨意而無需負責。當一些國家將自動軍事機器人投入戰爭以更高效地摧毀生命乃至進行屠殺的時候，政府可以將責任推卸給機器人，又或當金融公司紛紛使用強人工智能卻引發了金融危機、依賴人工智能的國家央行進行緊縮政策造成大規模失業和貧窮時，卻沒人能做些什麽及時幹預，強人工智能由此可能成為最壞的技術治理幫凶。
電影直指這種現實困境，人類訓練ChatGPT時強調“安全對齊”，卻回避了“誰定義安全”的權力問題；自動駕駛汽車麵臨電車難題時，代碼背後的倫理委員會是否真能代表眾生？《梅根2.0》的答案殘酷而清醒：技術中立是神話，算法永遠承載著設計者的偏見與資本的貪婪。
二、“向善”的強人工智能
如果說電影中的艾米利亞是對於技術失控的想象，續集中的梅根則變成了人類希望的“向善”人工智能。梅根的程序初始就被設計成凱蒂的監護人，保護凱蒂成為其最高目標，盡管首部電影中她為此不惜殺害人類，但由於長期潛伏在凱蒂家的智能家居係統中，受到正常人類社會價值觀的影響，成為了“向善”的人工智能。正如技術界所說的用什麽樣的數據就可以訓練出什麽樣的人工智能，人工智能必然也將伴隨著人類社會和人性一起發展成長，而不會是一種超脫於人類社會難以理解的怪物。
《梅根2.0》劇照
阿甘本在提到人工智能的善惡問題時候說，人工智能將智性之善轉到麻豆一区二区三区人類主體之外，仿佛一種極端化的阿威羅伊主義，正如思想是不可能脫離思考的主體而存在的，人工智能本身也是不可能存在所謂的善惡。人工智能無非是一種基於概率論的算法，通過人類社會的數據認識世界，如果人類世界喂養他們的是憎恨、破壞，那麽誕生的會是像軍方訓練出的殺人機器艾米利亞，如培育人工智能的是一個和諧的家庭環境，則有可能誕生梅根這樣具有道德底線和人情味的人工智能。
梅根本身作為一個少年女孩的形象也暗示了“培育”的主題。誠如阿甘本所說人工智能的善惡結果還是取決於人自身，人類社會需要做的是將人工智能更多用於“向善”的用途，讓它接受“向善”的數據滋養。這樣產生的通用人工智能（AGI）才不至於違背人性。
現階段的人工智能就像梅根1.0版本，她擁有了超越人類的能力潛質但卻尚未懂得人類的道德教化，因此需要人類的管控和引導，對人工智能的監管和“緊急關閉”的主動權依然重要。《梅根2.0》中的吉瑪給梅根裝上了自毀電子炸彈防止她做出危害人類的行為，還倡導政府加強人工智能監管，誠如她所說，她的反派朋友可能未必做錯了，他也是希望加強人類對人工智能的管控，他的錯誤在於在危險的領域濫用技術因而釀成災禍。
三、技術的加速抑或對齊
被國內封為“矽穀先知”的凱文·凱利（Kevin Kelly）在他上個世紀末那本《失控》中提出，人類和機器之間的隔斷正在被技術發展打通，人類和機器之間界限也不再清晰，當人類和機器關係越緊密，人類就會失去對機器的控製，這是他認為的失控，是技術對人類主體性的動搖。《梅根2.0》中展示的強人工智能、人形機器人、腦機接口這些前沿技術已使之成為現實，“缸中腦”思想實驗已經成為了實際可行的“片上腦”技術（在電極芯片上通過幹細胞培養出來的類腦組織能和機器實現信息交互）。在不久的將來，人或許會變成和人工智能以及機器融合的“超人類”，不再局限於當下肉體的思想行為。但另一種可能是多了一種人類社會奴役的新方式，乃至威脅到人的自由意誌和人類社會根基。
由此這類人工智能代表的前沿技術不僅是當下時代麵臨的技術危機，也必然會帶來難以預計的社會變革挑戰，而這些技術很可能在政治或者資本驅動的技術中立外衣下造成難以估量的後果。麵對這種前沿技術變革帶來的狀況，近年來大致存在幾種思潮值得注意。
首先是近十年興起的所謂“加速主義”，本質上是一種技術樂觀主義。加速主義以尼克·蘭德（Nick Land）、亞列克斯·威廉姆斯（Alex Williams）和尼克·斯爾尼塞克（Nick Srmicek）等思想家為代表，認為要加快技術的發展，直至適應新技術的新人類生存下來或者資本主義自動解體解放人類。這股思潮最早進入科技界是在X space上矽穀程序員的網絡聊天中用到的“E/acc”（即“有效加速主義”的縮寫），後來知名科技投資人馬克·安德森 （Marc Andreessen） 和YC孵化器的CEO加裏·譚（Garry Tan）把自己X賬號簡介加上了“E/acc”，很多人就跟風使用E/acc的後綴，並出現了不少相關論壇網站。如今加速主義被如彼得·蒂爾（Peter Thiel）和山姆·奧特曼（Sam Altman）等為代表的科技右翼所挪用，他們倡導要放鬆對人工智能等技術的管製，最大限度地加快科技發展來讓技術自身解決人類社會的問題，由此加速主義成為了技術資本的禦用意識形態，而人類變成被技術資本所改造的對象。
2020年代以來，以雅尼斯·瓦魯法基斯（Yanis Varoufakis）、塞德裏克·杜朗（Cédric Durand）、約迪·迪恩（Jodi Dean）、葉甫根尼·莫洛佐夫（Evgeny Morozov）等人為代表的“技術封建主義”思潮在當代西方左翼思想中取代了左翼加速主義的地位，他們認為當前技術資本已經形成事實上的寡頭壟斷，以美股七姐妹為代表的科技巨頭公司形成了新的保守資本階級，他們確立的技術資本秩序就是“技術封建主義”（techno-feudalism）。技術封建主義不允許新興科技勢力挑戰他們的壟斷地位，它們擁有世界最龐大的用戶數據庫、算力等各種平台資源，可以同封建時代的地主一樣坐擁其上收取租金，而人們不得不依附於這些科技巨頭公司提供的人工智能服務，向它們提供租金並被它們掌控行為習慣。穀歌這樣的巨頭最成功的並不是收集利用用戶數據牟利，而是通過用戶數據及相關算法實現對用戶的行為引導和控製，實現對人的“技術封建主義”統治。值得一提的是，“技術封建主義”更多是加速主義的一種左翼理論發展，本身並沒能提出應對技術危機的方法。
《梅根2.0》劇照
更值得嚴肅對待的是“對齊派”，這種思想主張對人工智能帶來的社會倫理問題進行充分辨析和進行管控，使之和人類價值觀“對齊”，讓人工智能和當下人類共存。影片中的吉瑪應該屬於嚴格意義上的“對齊派”，主張對人工智能放上“緊箍咒”。現實中，因人工智能研究獲得諾貝爾物理學獎的傑弗裏·辛頓（Geoffrey Hinton）是“對齊派”的代表人物，他主張建立全球性的人工智能治理秩序和規則，確保人工智能不會失控。區塊鏈技術以太坊的創始人維塔利克·布特林（Vitalik Buterin）也支持對齊，他主張人類在人工智能的研發和應用中深度介入和給予反饋，減少人工智能變成違背人類價值觀的可能性，即所謂的“有效對齊”（e/a）。目前“人機對齊”（human-AI alignment）已是人工智能的重要研究關注領域，包含人工智能對齊人類和人類對齊人工智能兩方麵。前者主要是創建安全、符合人類倫理的人工智能，後者則是要確保人們負責任地部署使用人工智能係統。
加速主義和對齊派的分野在2023年底的OpenAI董事會內鬥中具體得以體現。信奉加速主義的奧特曼被“對齊派”的伊爾亞·蘇茨克維（Ilya Sutskever）為首的董事會解雇，而隨後又在資本和員工支持下重回董事會掌權。這一戲劇性的變革是OpenAI內部加速主義和對齊派兩條路線的鬥爭，在奧特曼激進推進OpenAI技術商業化和產品應用時，蘇茨克維作為辛頓的學生希望平衡OpenAI商業利益和解決強人工智能的“對齊”問題。蘇茨克維在OpenAI內鬥後出走並成立了一家人工智能安全公司，致力於提供安全和性能兼備的人工智能解決方案。
從認識論的角度還存在像哲學家阿甘本這樣的“減速主義”。阿甘本認為人工智能是人類技術過度增長的冒險，他把它比作希臘神話中帕西法厄讓代達羅斯打造的中空人造母牛，而人就像神話故事中的帕西法厄，相信能通過和這頭母牛結合變成動物，他稱人性就是這樣被“屬人的”和“屬動物的”之間被張力拉扯的結果，而不是某種既定之物。他認為如果一個人和帕西法厄一樣徹底從拉扯的一端走向另一端，那麽他生出的隻會是彌諾陶洛斯這種怪物，並和怪物陷入沒有出路的迷宮中。
在阿甘本的生命政治中，當人與動物難分彼此時，主權權力就會介入重新規定人與動物的邊界，以確定什麽是正當的生命形式或者這種形式如何發揮作用。他也認識到沒有主權權力介入的人機共生會將人類變成沒有出路的怪物，而隻有公權力才能規定技術資本擴張的邊界。
如果拿《梅根2.0》來看，公權力介入生出的是如艾米利亞這樣反人性的怪物，可見應對人工智能這樣的技術危機也難以完全依賴政府，不能僅依靠電影中那樣的科技公司或主人公這樣工程師的自覺，共同合作對齊人類社會最低限度的向善共識才是必由之路。