中國作家協會主管

近日，美國開放人工智能研究中心OpenAI發布首個視頻生成模型“Sora”。該模型通過接收文本指令，即可生成60秒的短視頻。一年前，這家研究中心發布的AI語言模型ChatGPT，讓文本撰寫和創作、檢查代碼程序等工作變得易如反掌。谷歌公司旗下的人工智能模型“巴德”，可以根據輸入的多個詞語迅速生成短篇小說或詩歌。AI究竟有哪些“本領”？為何每一次迭代升級都能引發全球熱議？3月23日，陳楸帆、小白、黃昱寧三位作家來到上海圖書館，就“從小說到sora：我們如何虛構世界”的主題進行對談。講座內容已獲上海圖書館授權發布。

陳楸帆：在過去的兩年中，人工智能技術的飛速發展，尤其是OpenAI推出的ChatGPT模型，不僅在技術上取得了突破，也在文化和藝術創作領域產生了深遠的影響。這幾年，我也和AI有很多淵源。在日常工作中，我廣泛使用AI工具輔助創作，包括文本生成圖片和視頻的工具，不僅提高了工作效率，也讓我深入思考人類與機器在創作上的本質區別和界限。隨著AI技術的進步，我們不可避免地面臨著工作被機器人取代的可能性，同時在探索的過程中更深刻的理解人與機器的區別，以及人與機器在創作上的界限。我們是否在非常近的未來面臨巨大改變？在當下的時代背景，教育的改革、職業選擇的指導以及鼓勵孩子們進行何種探索，都成為了亟待討論的重要話題。

今天，我們將圍繞“AI在多大程度上能夠替代目前的工作”這一問題展開討論。我先拋出一個問題，你們覺得AI在多大程度上能夠替代現在所從事的工作，比如說寫作、翻譯、出版、編劇等。小白對AI工具的實際操作有著深刻的體會和見解，我們期待他的分享。

AI在多大程度上能夠替代人類目前的工作

小白 ：我初次接觸的生成模型是一個漢化版本的ChatGPT2.5。我曾與該模型合作，嘗試利用分層模型進行小說創作。然而，我在實際操作后發現僅依靠該模型完成創作是不現實的。我利用該模型撰寫了一篇一兩千字的短篇故事，以及一個中篇小說的兩個章節。我注意到，模型在控制創作方向上存在不足，它無法理解作者的意圖和創作目的，而是隨機生成內容。這些先進的模型可能會對寫作和創意領域產生重大影響，甚至可能導致該領域的工作被替代。我這樣認為并非出于悲觀或樂觀的態度，而是覺得這是一個值得深思的有趣問題。在我看來，在可預見的未來（比如5年或10年內），我目前所從事的工作有被替代的可能。這是一個值得關注和討論的趨勢。

黃昱寧：相較于楸帆和小白在技術應用上的深入實踐，我目前的認識可能還停留在較為傳統的階段。

談及AI與寫作、出版和翻譯的關系，我尚未感受到像小白那樣強烈的危機感。盡管去年OpenAI連續發布新模型時，整個行業包括寫作界確實經歷了一段不安的時期，一些業界領袖在各種報告會上提醒大家思考自己的職業未來。在翻譯領域，尤其是技術類和法律類文本，AI的替代速度較快，準確率也較高。例如，英、德語等西方語種之間的翻譯，現有的翻譯軟件已經能夠做到相當準確的對應。對于只懂英語的人來說，通過Google等平臺的翻譯服務，已經能夠基本理解其他小語種的內容。然而，中文與英語之間的轉換仍存在挑戰，語料庫的不完善可能是一個限制因素。在文學翻譯方面，目前我還沒有感受到AI能夠完全替代人類翻譯的可能性，因為文學理解本身就存在諸多歧義，跨語種的轉換更是增加了錯誤和文化障礙的風險。至于在出版領域應用的AI技術，如Kimi等，為人類提供了新的可能性，例如，能夠快速為書籍生成摘要，并有潛力減少人力資源的投入。然而，我對于AI技術的具體瓶頸和未來的發展仍持觀望態度。原因在于，在我有限的經驗中，我發現AI有時候會“胡說八道”，即提供不準確或不相關的信息。這就需要花費同樣多的時間核實和校對，以確保內容的準確性。由于AI的輸出結果在不同人看來可能截然不同，這使得對機器的信任變得更加困難。在目前階段，我還沒有足夠的樣本來全面檢驗AI的可靠性。盡管AI提供了便利，但其準確性和可靠性仍需經過嚴格的檢驗。在能夠完全信任AI之前，我們必須謹慎對待其輸出的結果。

陳楸帆：關于AI模型在處理不同語言時的能力差異，由于像GPT模型的訓練語料庫中，英文內容占據了絕大多數，而中文等其他語言的內容相對較少，導致在使用過程中，模型在處理“英譯中”時可能不如“中譯英”準確。這種語言處理能力的不對稱性，正是AI技術在多語言環境中需要克服的挑戰。

我自己從2017年開始接觸AI并嘗試構建自己的模型。盡管最初的嘗試非常原始和簡陋，但在整個過程中，我深刻體會到技術進步的非線性特性。AI的發展不是勻速的，而是在數據量和參數規模達到一定程度時，會出現能力的飛躍，這種現象在業界被稱為技能涌現。這意味著AI模型的潛力遠超過最初的設計預期，就像孩子天生具備多種潛能，隨著成長會展現出不同的技能。我逐漸認識到，盡管AI在處理結構化信息和生成套路性內容方面表現出色，但人類創作中最寶貴的是非理性的、個人化的元素——那些與個人記憶、生活體驗緊密相連的直覺、審美和身體感受，是AI所不具備的。

因此，我認為AI能夠幫助完成許多任務，特別是需要高效率和模式化生產的工作。然而，對于那些需要深度個性化和創造性的工作，AI目前還無法取代。例如，AI可能無法完全理解和模擬人類的情感復雜性和文學創作的極端瞬間。在這個時代，對于創作者來說，更重要的是向內挖掘，遵循創作規則，而不是簡單地模仿套路。

短反饋文化易扼殺創作想象力

小白：陳楸帆提出的問題涉及到了AI技術發展的根本性問題。隨著算力的增強、服務集群的擴大以及算法的優化，AI模型能夠處理的數據量呈指數級增長，從而涌現出超出設計預期的能力。這一點在模型的發展中已經得到了驗證。

然而，在這一邏輯基礎中，我始終懷有一個疑問。因特網最初的底層邏輯源自控制論，其核心目標在于實現控制。因此，人們致力于構建一種能夠實現快速反饋的短反饋機制。然而，隨著因特網的發展，這種短反饋機制在某個特定階段發生轉變。這一轉變是由于美國一些大學和研究機構的科學家們倡導網絡無政府主義的理念，將因特網塑造成一個自由開放的空間，但其底層邏輯本質上仍是為了控制人類行為。最終，因特網演變成了眾多大型平臺，這些平臺如今構成了因特網的主體。

這些大型平臺積累了大量的數據資源。這些數據量如此之大，以至于有一種說法：僅僅通過在微信上點贊三次，就能夠勾勒出一個人的性格畫像。更何況，用戶每天在這些平臺上所有的瀏覽行為、在電影院的表情動作、在街上的體感互動等，都成為了可收集的數據。現在，技術已經發展到可以感知人的心跳、捕捉所有生理和行為數據，包括基因數據等。面對如此龐大的數據量，傳統的數據處理方法顯得無能為力。其復雜性和數量級使得個人或傳統方法難以有效分析和利用數據。

然而，正是在這種背景下，數據分析和算法優化的發展催生了一系列衍生技術和模型。本質上是為了更有效地處理和分析海量數據。在這一過程中，人們發現，通過優化算法，不僅可以處理數據，還能生成智能。因此，當我們談論人工智能能夠替代人類執行某些任務時，其背后的原因不僅是技術的進步，更是因為現有的數據量和復雜性的要求。這種替代性并非偶然，而是數據處理需求和算法優化發展的必然結果。通常認為，在寫作過程中，我們所依賴的是個人獨特的經歷和情感。然而，目前麻省理工學院（MIT）正在進行一項研究，隨機選取大量參與實驗的閱讀者，在他們的大腦上連接電極，詳細記錄參與者在接觸到不同句子和情感表達時的大腦反應，收集了大量相關數據。這項研究暗示了一個可能的未來，即在文學創作中能夠觸動人心、引發情感共鳴的元素，有可能通過算法實現。換言之，我們曾認為是人類獨有的、充滿樂觀主義的創作特質，未來或許能夠通過技術手段得以復制和再現。

不得不提及，根據最新研究，敘事的概念可能早在尼安德特人時期就已存在。如果將時間線縮短，從現代人出現或者從新石器時代算起，一直到大約16世紀，人類的敘事趨勢主要是面對面的交流，具有即時的反饋特性。在這樣的反饋機制中，文學作品的形成有其特殊性。例如，荷馬史詩是口頭文學的代表。從中國古典文學名著《水滸傳》《三國演義》等成書過程，到歐洲中世紀的傳說故事，所有的敘事文學都是在短反饋的互動中形成的。說書人在表演時，會根據觀眾的反應即興創作，如添加人物動作等新元素，觀眾的即時反饋正是即興創作的基石。然而，在16世紀，人類的虛構能力經歷了一次大爆發。印刷術發明后的結果便是劇場反饋機制消失了。隨著文學創作形式的轉變，作者開始在單一的環境中創作，完成作品后交由出版商印刷發行，因此讀者的反饋變得間接和不確定。這種創作方式使得作者的創作越發天馬行空。

創作者的自我成就了當下現代藝術、現代小說的發展，文學流派和形式越發豐富。而一旦進入大模型算法，情況又當如何？隨著技術的發展，在可見的未來，大眾的所有數據都將被收集和分析，創作者能夠獲得即時且短距離的反饋，從而準確預測受眾的反應。在這種情況下，創作者將根據數據的指引決定創作內容，因為算法的本質在于處理和吸收大量的數據，從而提煉有用的信息和模式。這種基于數據驅動的創作模式，意味著創作者將不再需要天馬行空地自由想象。

在這種創作模式下，實際上我們面臨著一種轉變。過去，作家們擁有無限的創作空間，能夠開拓新的文學領域，自由地塑造獨特的風格和世界觀。世界文學的版圖隨著新作品的誕生而不斷擴展。作家們可以盡情發揮想象力，創作出深奧難懂如《尤利西斯》的作品，盡管可能挑戰讀者的理解，但它們仍然成為世界文學版圖上的重要標記。

然而，一旦某種機制形成，文學的疆域似乎被固定在一張既定的地圖上。作家們的創作似乎必須遵循某種既定的規則和模式，不再敢于突破邊界；觀眾也可能不再期待或欣賞那些超越常規的作品。在當下時代，創作者在創作時往往需要考慮來自不同社交平臺的反饋，這些評論對創作者產生了顯著影響，限制了他們的創造力。一旦創作內容偏離了受眾的預期或偏好，可能會遭到批評，認為作品質量不佳。這種現象導致了一種短反饋機制的形成，創作者能夠迅速獲得受眾的反應，并據此調整作品。甚至為了抓住更廣泛的下沉市場，選擇制作那些能夠吸引大量觀眾的內容。

在短反饋機制的影響下，創作者可能會創作那些更為安全、更有可能獲得市場認可的作品，避免冒險嘗試那些富有創造力但可能失敗的創作。觀眾也可能缺乏耐心培養感知能力，以深入理解和欣賞需要多花時間體會的作品。他們可能更傾向于快速作出評價，如簡單地評0分或1分。這種短反饋文化可能導致創作環境的退化，回到敘事藝術發展緩慢的時期。這時，真正具有創新性和影響力的作品將寥寥無幾，文學和藝術的多樣性和豐富性可能受到限制。

黃昱寧：在討論關于人工智能與創作的問題時，我同意小白的許多觀點，盡管我們在某些細節上，特別是關于未來展望的樂觀或悲觀程度上有所不同。我個人認為，這既包含好消息也包含壞消息。好消息是，我相對樂觀地認為，在可預見的未來，人工智能無法達到與人類相同的感受能力。原因在于，AI缺乏實體身體，沒有疼痛感，不會經歷諸多情感體驗。文學的本質與生命的有限性緊密相連。一個知曉自己終將死亡的人所創作的作品，與一個不知道自己會死亡的工具所創作的作品，是截然不同的。人類的真實感受和即時性體驗仍然非常寶貴，難以被機器人完全復制。然而，我也有一個與小白相似的壞消息。在市場的壓力下，出版商可能會傾向于利用數據分析和AI技術來預測和創造暢銷作品。這種趨勢可能會影響文學作品的多樣性和原創性，導致市場上充斥著相似的作品，缺乏真正的創新和深度。

如果沒有讀者對新事物的渴望和需求，作者也就缺乏創造新內容的動力。反之，如果讀者僅僅滿足于重復舊有的套路，作者也就難以產生創作新作品的動機。維持作者與讀者之間健康的關系，鼓勵創新和多樣性，對于文學的繁榮至關重要。

短視頻無處不在，難以抵擋。一旦觀眾觀看一個視頻多于一秒鐘，算法就會記錄下來，并迅速推送更多類似的內容。不斷的強化過程導致這些內容內化為個人的需求，這種短反饋機制使得信息繭房現象愈發嚴重。繭房越來越小，越來越緊密，而人們卻感到滿足，因為時間被利用，日子似乎過得也不錯。更令人擔憂的是，信息繭房提供的都是個人偏好的內容，使人誤以為自己的觀點和興趣是普遍的，情緒價值很快就得到滿足，當然對新的創意新的套路失去興趣，而這些一定會馬上反饋給創造者。

《尤利西斯》在這個時代出現，光看文本就會被槍斃？

黃昱寧：阿爾法狗（AlphaGo）在圍棋領域戰勝人類頂尖選手的事件，無疑是人工智能發展史上的一個里程碑。這一成就不僅展示了人工智能在特定領域超越人類智力的可能性，也引發了廣泛的思考和討論。由此，我想到了一個有趣的假設：如果機器人與人類在寫小說這一領域進行比較，將會是怎樣的情形？

在創作一部小說時，我最初設想了一個有趣的設定：一場小說家、真人和機器人之間的寫作比賽。但隨著寫作的深入，我意識到關鍵不在于誰寫得更好，而在于讀者如何評判這些作品。因此，小說的焦點轉向了作者與讀者之間的關系。我在《文學病人》中探討了這種關系。小說的結尾設定了一個荒誕的情景：機器人和讀者被放在一個島上，機器人通過比賽來激發真人作者和讀者的新靈感，目的是希望人類能創作出新穎的內容，因為如果人類創作停滯不前，機器人也無法獲得新的創意。這是一個隱喻，我想借此傳達一個信息：如果我們繼續重復舊有的創作模式，連機器人都會感到厭倦。

陳楸帆：最近，日本芥川文學獎獲獎作品就是通過人與AI的共創完成，這種合作方式在文學界已經逐漸被接受。這顯示了AI在文學創作中的潛力，同時也提出了一個問題：在AI和人類創作的界限越來越模糊的今天，如何定義文學的價值和美的標準？隨著AI的高效率創作，它可能會迅速占據所有的平臺和時間，影響受眾的審美和選擇。科學實驗也表明，人類的自由意志可能比想象中更容易被操控。

在這樣的背景下，科幻小說創作變得更加困難，現實生活本身已經充滿了科幻元素。面對這樣的挑戰，我們如何創作現實主義作品和科幻小說，如何虛構當下世界？是否有辦法逃脫被算法和外部影響控制的宿命？這可能無解，因為即使人類認為自己在自由選擇，實際上可能已經被無形的力量左右。在現如今，寫作不僅是藝術創作，也是對自由意志和人性的深刻探索。

小白：我前兩天提到，我們應該在“（寫作）地圖”被完全劃定之前盡量拓展創作的疆域。趁著現在不用擔心豆瓣、短視頻等平臺對作品的評價，應該大膽地發揮創造力，不受限制地去寫作。這樣能夠在失去自我之前，盡可能地擴大自己的創作空間。

陳楸帆：這樣會很容易失控。

黃昱寧：對，要擴大創作的范圍，首先得有足夠的經濟基礎。現實中，我們受到很多條件的限制，比如出版社的規定和市場的需求。作為編輯，我們不能隨意決定翻譯和出版的內容。我們每天都在開會討論各種選題，分析讀者可能喜歡的內容。雖然我們的分析能力不如計算機，但我們還是努力地去理解市場和讀者的喜好。這往往意味著我們需要做一些妥協，去適應市場的需求。

陳楸帆：如果《尤利西斯》在這個時代出現，你們會出版嗎？

黃昱寧：不可能，如果光看到文本絕對槍斃……這里面包含很多附加條件，比如作者喬伊斯在創作《尤利西斯》時已屬于知名作家，而非無名小卒。

陳楸帆：當初是因為他在巴黎。

小白 ：有一群文人控制了一大批同人的雜志。

陳楸帆：這是一個權力結構。

黃昱寧：都柏林作為一個文學中心已經建立了聲譽。當時的文學思潮也需要這樣的地方進一步發展。從商業角度來看，都柏林提供了可能性它能夠影響讀者，讓讀者逐漸相信這是他們自己所追求的。媒體和影響力集團就像磁場作用于讀者，塑造他們的閱讀喜好和需求。

小白：那時候的資本市場是一個“看不見的手”。

黃昱寧：一切都更直接。

小白：在過去，資本市場的特點在于敢于冒險，但現在的資本市場已經不同了，當我知道你們喜歡什么，為什么還要冒險呢？專注于頭部項目不是更好嗎？為什么還要嘗試那些不確定的事物呢？整個體制結構已經發生了變化。這種變化在大型平臺出現后逐漸加劇。所有算法本質上都是從平臺產生的，平臺收集數據，然后利用這些數據創建算法和模型。這就是底層邏輯的發展過程。

陳楸帆：這是平臺資本主義可能導致的局面。我認為，這對于新興作者和年輕作者而言特別不利。我幫助過很多從未正式發表過作品的年輕作者向雜志投稿，反饋通常是，即使新人寫得再好，要讓讀者和市場接受和認識他們，也需要投入更多的資源。這意味著投入的認知成本更高，很多機構可能不愿意付出額外努力。結果就是，馬太效應越來越明顯，資源和注意力越來越集中在頭部作品上，內容變得同質化，新人越來越難以嶄露頭角，整個生態系統逐漸變得不健康。

黃昱寧：即使新人作者有機會嶄露頭角，他們的成功往往也是基于平臺算法的套路和預測。新人作者并非沒有機會成功。現在的讀者越來越傾向于將文本與作者本人等同起來，不太愿意承認作者的虛構能力。他們更傾向于認為文學作品是作者自述的體現，認為作品中的一切都是作者的真實寫照。這種趨勢甚至在一些平臺上變得理所當然。最終作品成為文本和作者形象捆綁在一起的商品。很多新作家就是通過這樣的方式出現。

人類與AI的關系應當成為共生體

陳楸帆：有一種觀點認為，任何職業的發展可以分為三個階段：首先是作為一份職業（Career），然后是成為專業人士（Professional），在這個層次上，你已經具備了一定的專業水平，成為某個領域的專家。最后是達到傳奇（Legendary）的境界，這時你不僅在專業上有所成就，還要將自己塑造成一個故事、品牌，甚至成為一種可以自我銷售的商品。在AI時代，這種將自己變成故事和品牌的能力可能是不容易被AI取代的，因為它涉及到個人獨特的經歷、情感和創造力。這種能力要求創作者在自我表達和市場定位之間找到平衡，創造出既真實又具有吸引力的個人形象。戲如人生、人生如戲的狀態就是分不清哪部分是真的，哪部分是假的，哪部分是虛構的，哪部分是非虛構的，我覺得當下時代非常具有挑戰性。

黃昱寧：太悲觀了。

陳楸帆：在文化產業領域，我們需要保持樂觀，積極暢想光明的未來。AI可以被視為一面鏡子，反映人類的優勢和不足。當看到AI創作的內容時，我們會被激勵創作更獨特、更出人意料的作品。AI時代的關鍵是要成為工具的主人，發揮人類的主觀能動性與AI互動。如果使用得當，AI可以提升人類的創造力、效率和自我認知。人類與AI的關系可能成為共生體，信息在彼此之間流動，我們輸入信息給AI，AI再回饋信息。如果能形成正向的反饋循環，人類的能力將不斷提升。反之，如果我們使用AI時懶惰、被動、消極，它也可能會削弱我們的主觀能動性。人類已經生活在“人機共生”的時代，很難抵抗這種趨勢。

小白：保持樂觀很重要。我自己也一直在使用AI工具，發現確實非常有用。比如前兩年，我需要為一個學術報告會準備一些理論性較強的書評，大約要在10天內完成3篇。那時，我利用AI工具整理和提煉信息，效果非常好。雖然所有的思路和結構都是我自己的，但AI幫助處理了大量資料，我只需要幾天時間就完成了通常需要更久的工作，效率很高。從個人角度來看，社會結構的重大變化就像一場牌局結束后的洗牌。我們可以將這種變化視為一個新開始，一個重新布局的機會。關鍵在于個人如何看待這一時刻、如何抓住機會。所以，我們可以樂觀地看待這種變化，就像重新發牌一樣，每個人都有機會重新規劃和構建自己的未來。這種樂觀的態度有助于我們積極面對變化，尋找新的可能性和機遇。（校對：陳夢霏、李菁）