模型行为：George Saunders
原文：Model Behavior: George Saunders
译者说明：本文为公开发表的完整书面问答及其创作流程附录。
插画：Joro Chen和Mia Wu；摄影：Zach Khramer
今年夏天，我们推出了Model Behavior系列，请杰出的作家、思想者、评论家和创作者坦诚地谈谈，他们如何看待和使用AI。接下来这位是George Saunders，一位真正的文学巨匠。除了创作获奖的书籍和短篇小说，George还在雪城大学创意写作项目中向研究生教授写作，也通过他的Substack专栏Story Club with George Saunders，向众多读者分享有关讲故事的建议、分析和思考。
我们当然好奇，作为职业作家和教授，George使用AI的经历如何。但我们也想知道，AI会怎样影响他的小说。他常常探索那些带有推想色彩的近未来：能操纵我们最私密情感的药物；代替记忆的虚拟体验；被变成消费产品的人。
我们问他，AI是否给了他创作灵感，以及AI是否改变了他的教学、写作实践，或他对于作家应向读者披露什么的看法。访谈一开始，他就先作了一番自我披露：“在这个话题上，我有点暴躁，而且老是说同样的话。整个过程中，你们就想象我一直拿手杖敲地板吧。”
下面是George Saunders对AI前沿上的写作与教学的看法。
George的书桌，加利福尼亚州Corralitos
问：自从AI首次成为公众可以广泛使用的消费产品以来，你与它的关系有变化吗？
**George Saunders：**没有。很早的时候，我做过那件事：让AI模仿我的声音生成一段文字。结果实在让人泄气——那么无聊，那么直白——我就失去了兴趣。我没有任何AI产品，也不想要。事实上，我愿意花钱不拥有它们，还愿意多花钱，阻止它们偷偷地、一点点地混进现有产品里。比如说，大概很快就会出现的AI叉子：它会评估你把食物送进嘴里的角度，告诉你，相比同一人口群体里的其他人，你吃饭的效率有多高，诸如此类。
问：作为普通人，而非作家，George Saunders在日常生活中怎样使用AI？
**George Saunders：**他尽量避开它，虽然有时候会搞砸，忘了在搜索时加上“- ai”。我不觉得自己有资格谈论AI在医学、科学或任何此类领域中的使用。但说到写作，我完全不觉得它有吸引力。
问：你花过时间尝试用AI写作或修改吗？有没有什么实验会有趣到让你愿意试一试？
**George Saunders：**没有。一秒钟都没有。对我来说，用AI写作这整个想法……令人深恶痛绝。应该最坚决地避开。
写作是一个人向另一个人传达自身本质最珍贵的方式。我用了一生的时间，试图更好地让自己在文字中显现出来。我为什么要牺牲其中哪怕一丁点？连电子邮件都不愿意，更不用说短篇小说或长篇小说了。
当我们让AI替我们写作时，我们究竟把自己的话语权让给了谁？又为什么要这么做？为什么要把我们的能动性——这种奇妙的能力：凭借自身奇特而独有的存在方式，跨越时间与空间，抵达另一个人的感受世界——交给一种从设计之初就把个人感受世界推到一边的东西？又是为了……究竟为了什么？轻松，我猜？效率？选择用AI写作的人，从一开始就牺牲了经历困难的机会：努力说出自己想说的话，让自己在文字中显现出来，试着弄清楚自己相信什么。这样一来，他就牺牲了更好地认识自己和自身心智的机会。我觉得，这很可惜。而且这很危险，因为我们正在发现，它会影响大脑，削弱我们的能力。谢谢，但不用了，退到我后面去吧，等等。
到最后，AI会在那里引导我们走向彼岸，安抚我们的恐惧吗？（天哪，我希望不会，但也许我们都会在脑内芯片MindChip里装上DeathCope 3.0，最后听到的声音是Claude在说：“你能行的！”）
问：你教作家更敏锐地感知自己的反应，以此修改和改善作品。既然AI能生成无穷无尽的材料供人作出反应，你觉得它有没有可能磨炼作家的编辑直觉？
**George Saunders：**没有——他们用自己的作品就完全可以做到这一点。人类心智本来就能生成那些“无穷无尽的材料”，而且，作家凌乱的初稿——她自己弄出来的那团乱麻——包含着某种萌芽性的、不可或缺的东西。里面有一种属于这位作家心智的独特味道。因此，编辑自己的文本，比编辑你发出提示后AI交给你的文本，更有机，也更有益。换句话说，我们怎样给自己一个提示，又怎样回应这个提示……正是我们的书将拥有独特之处的开端。
即便在最初的那份草稿里，你，这个作家，也已经在里面了，不可分割，而且至关重要。我绝不愿意牺牲这一点。其中有某种重要的思想轮廓……它就藏在你的心智播撒在早期草稿里的那些小错误和不精确之处。作家在那个阶段还没有走上那条路，而是在它周围游荡，这本身就有价值。你用自己的心智处理自己那团乱麻，不知怎么就会产生某种额外的东西：你那团乱麻里面有更多的你，然后通过修改，它就能被提炼成彻彻底底属于你的东西。
问：AI怎样改变了你的教学？
**George Saunders：**说实话，没有改变。我只教研究生，他们是从几百名申请者中挑选出来的，每个人都一心想找到自己的声音，发现自己的真相。也正因为如此，他们不会在作品里使用AI。他们希望那是他们自己的作品。
读一部长篇小说或一个故事时，我想要什么？我想要作家的完整经验，以一个虚构故事的掩饰形式表达出来。我想要她的人生经验，她的审美感受（甚至偏见）；我想要她文字中的那份微妙记录：她读过的每一本书，在哪里、什么时候读的，以及它怎样微妙地改变了年轻时的她——怎样打动了她，改变了她脑海中的声音——这些我全都想要，而且我想从一个人那里得到。它的全部价值就在于，它来自另一个人。她和我正在交流。我想知道这个人——由那些岁月、失落、狂喜的瞬间等等塑造而成的人——怎样看待我们共同生活的这个世界，我希望她通过虚构来让我看见。我不想要别的东西——不想要某种对他人文字进行机器平均或摘取后再吐出来的东西，无论它生成得多快、多么天衣无缝。AI能做到这些很了不起，但我没兴趣。
而且我认为，过于轻易地交出讲故事这件珍贵的人类活动，是有害而危险的。讲故事是人做的事，是人与人之间一种高度发达、细致入微的代码，是我们自身独有的超级智能。里面没有两个人，它就无法成立。放弃它也并非一个中性的决定，但像今天的许多事情一样，我们似乎之所以这么做，只是因为……它做得到。（“我能画一张伦勃朗风格的画：一只猫开着雪地摩托！”“我对音乐一窍不通，也不会演奏乐器，但我能做一张专辑！”“我能在10秒钟内重写我的简历！”“我给AI一个粗略提纲，就能拿到小说初稿！”）可是：那是你的简历吗？那是你的小说吗？你在其中参与得够多吗？还是你无意间牺牲了一次珍贵的机会——创造出某种原创性或独特性，以微妙而不可化约的方式，与那个读它的人交流？
总之……在我看来，我们正在慢慢滑向AI辅助写作，却没有进行那种严肃的公共讨论：承认有些事情虽然能做，却未必应该做；承认有些活动让我们分心、削弱我们，而有些活动让我们更充分地活在当下。我们可以决定怎样度过这宝贵的人生，而我们应该极其认真地作出这个决定。“谢绝”或“婉拒”，也是有效的，有时候甚至是明智的选择。
钻研一篇作品，把它从“模糊的烂东西”变成“准确表达我的意思，而且不止于此”，这个过程有某种神奇而具有转化作用的力量。现在我们正在发现，在神经层面也是如此：艰难地读完或写出一篇长文，会对一个人的大脑做一些神奇而至关重要的事情，也就是影响一个人最根本的人格与存在。
问：AI改变了新作家带进课堂的问题和疑问吗？还是说，成为作家时那些根本的不安，始终和过去一样？
**George Saunders：**我觉得还是一样。因为我的学生正在从事那项同样古老、可敬的事业：试着从各自独有的心智中虚构一个故事，让它能与其他人的心智交流。AI事实上玩不了这个游戏。（它可以看起来像在玩，但它没有。）
不过我应该说，我不教本科生，而且我知道，在那个领域，AI的使用是个大问题。我对于本科教学会提出和前面一样的论点，但我也明白，一般的本科生并不像我的创意写作艺术硕士学生那样，对自己提出必须找到声音的要求，也很可能没有同样热爱文学，或同样确信文学的价值。因此，假如你让他们写一篇关于托尔斯泰作品的文章，他们也许更倾向于走那条轻松的路。
但这样的选择确实让他们的教育蒙受损失。
以前教本科生的时候，我总想让他们记住，语言就是力量。这不只是因为，通过写作，一个人能学会更好地表达自己，从而获得力量，还因为钻研一篇作品，把它从“模糊的烂东西”变成“准确表达我的意思，而且不止于此”，这个过程有某种神奇而具有转化作用的力量。现在我们正在发现，在神经层面也是如此：艰难地读完或写出一篇长文，会对一个人的大脑做一些神奇而至关重要的事情，也就是影响一个人最根本的人格与存在（参见James Marriott的《The New Dark Ages》［10月6日出版］）。所以，如果我还在教本科生，我会尝试提出这样的论点。但我会用我能模仿的那种诡异机器人声音说，让他们以为是AI在说。
如果AI消失，我们在这下面还是深陷烂摊子，也仍然生活在天堂里。当我们把人生看作一个迫切的机会，去理解自身这种有身体、脆弱的存在时，AI能给我们什么？
问：作为写作教师，你觉得自己有压力，需要去试用或了解AI吗？能够有知识、有细节地谈论这些工具，对你重要吗？
**George Saunders：**没有。我觉得，以我现在对创作故事这个过程的了解，就足以有知识、有细节地谈论这些工具。
按照我对写作的定义，用AI写作不算。不算写作。当然，你可以这么做，人们也正在做，而且将来还会做——但它不是我所热爱、为之活过一生的那件事。我想作为一个人，与其他人交流。就是这样。
所以我发现自己正在哀悼一种集体能力的丧失，那就是能够说：“对，那很了不起，但它似乎具有破坏性。既破坏自然资源，也破坏人类能力。所以……谢谢，不用了。我选择退出。就是……不。”（用Melville笔下抄写员Bartleby的话说：“我宁愿不。”）
研究正在表明，使用AI会侵蚀我们的心智能力。我们为什么想要这样？你会觉得，答案与消费主义的惯性有关。（“但它是新的！而且更容易！它不可避免！”）你也能感到来自上层的压力：极其富有的人投入了数万亿美元。AI似乎正变成“大而不能倒”。但在文学艺术写作方面，它仍然（在我看来）是一大团空无，因为艺术由人创作，面向人，反映并依赖于人在真实世界中行走过、听过、闻过、看过、产生过感受的经验。AI写作做不到这一点。就是做不到。它可以看起来像在做，但按它的本性，它无法成为我们一直称为文学艺术写作的那种东西。
我并不是说，它不能让人印象深刻，不能听起来像文学艺术写作。而且我相信，当一个人的心智面对一篇AI文字时，会发生某些事情——阅读会在大脑中引起某种反应。（当然会；即便读一本电话簿或一串随机词语，心智也会产生反应。）
但心智对文本作出闪动般的反应，这算不上什么大事。重要的是这种闪动的质量。我们想要的是一种经过塑造的闪动，一种回应作者意图的闪动。我们想从中看到作者智慧的某种迹象：那种从世间生活中获得、以复杂而经过转化的形式，有时呈现在文本中的智慧。
可是，考虑到来源，以及AI生成文本的过程，AI不可能拥有原创的智慧——据我所知，它只能把其他人的智慧放进新的语境，重新排列。也许有人觉得接触这些东西很有意思——在我看来，它像是一种干扰。尤其因为生命短暂，我仍在迫切地努力理解自己的心智，从这颗心智以及它经历的一切中，表达出某种美的东西，某种由我塑造、由我本人塑造，能够走出去打动你——打动你本人——的东西。
也许即将到来的AI会做出超越这种重设语境与重新排列的事情——但它会在具身经验（embodiment）之外做这些。某种意义上，我们所拥有、也所背负，而AI没有的，正是身体。还有死亡，以及随之而来的全部焦虑，还有那种感觉：我们正身处一场美好的聚会，但聚会正在结束，却没有人能告诉我们究竟什么时候结束。
想象一个极其逼真的性爱机器人，它行动、说话、触感都像一个人。你和它发生性行为，感觉非常真实。猜猜看，你没有做过什么？和一个人。发生性关系。你没有得到认可，没有被渴望；你没有给人带来愉悦或满足（也没有承担在这方面失败的风险）。无论感觉怎样，它都不是真实的，也就是说，不是我们大家想要的那件事。记得Raymond Carver说过什么：“而你想要什么？在这世上，称自己为被爱的人，感到自己被爱。”
其中没有说出来的意思是：被另一个人所爱，被一个和我一样、有身体、正在死亡倒计时中的人所爱。
问：你写过，你最大的恐惧是我们会进入一个过度饱和的市场，读者无法再分辨人的写作和AI生成的文字。你认为向读者披露是否是一种义务？它应该成为职业规范吗？
**George Saunders：**我不确定。我猜，那样才算公平吧（？）。我觉得一个非常娴熟的读者能够辨别——但我们大多数人至多只是中等水平的读者。所以我们可以想象一个世界：我们总是被强行灌入Muzak式的背景音乐，甚至在音乐厅里也是如此。最终，审美也会向下调整。我的猜测是，这已经在发生了，就因为我们总在进行大量浅薄的、网上的、手机上的阅读——我确实感到它正在我身上发生。我们为什么在意？因为写作改变我们思考的方式。而我们思考的方式造就了……这个世界。如果我们带着同情去思考，更能接受模糊性和复杂性，更有耐心、更加好奇——世界就会变好。过去20年左右发生的却是相反的过程，我猜，公共讨论的粗鄙化，与阅读习惯的退化有关。垃圾进，垃圾出，然后世界变成垃圾，我们甚至不再察觉。
问：AI安全讨论大多聚焦于黑客攻击、生物武器之类的灾难情景。有没有哪些风险，你觉得应该得到更多关注？
**George Saunders：**当然有，自然资源的退化，还有那些丑陋、嘈杂、摧毁社区的数据中心越来越多。我们不能把这些和AI本身分开——AI越庞大，对资源的消耗也会越大。但也如前面所说，别忘了这种假设的危险：认为轻松就是一切，认为在某个领域内努力奋斗、参与其中，什么也得不到。
对于我的口味来说，AI知识还有一点过于直白、过于线性。你问它，它告诉你。但我们都知道，知识有时存在于矛盾之中——两种或更多的真理悬在那里，悬在心智中，来自不同的来源；那颗心智又染上直觉、怀疑等等。有时候，不知道——暂时还不能把话准确说出来——具有深刻的价值。“继续疑惑”有价值，带着自己并不十分确定的意识在世界中行走，有价值；也就是说，感到神秘是真实的，感到我们必须考虑自身心智的有限性——谦逊具有实际的价值。
问：你经常写推想小说和近未来小说。AI的这个时刻会给你创作灵感吗？你会想通过小说探索它吗？
**George Saunders：**当然会。这里有个不错的想法：机器人技术发展到能够把AI心智放进一个身体，这个身体可以四处移动，可以看见、闻到、听见，等等。这会影响和塑造AI的心智。有一天，那个家伙——那个机器人身体与心智的组合——想讲讲他眼中的情况，于是他写了一本书。那本书会是什么样的声音？你想读吗？我想。我不确定那个故事会往哪里走，但我喜欢这个想法。
或者：世界被AI接管了，有一天，一个AI发现了一种更高级的AI。它像野火一样蔓延，威胁到那些AI智能体的存在。它们会反抗吗？
问：最后，在一个由AI介入的世界中，人类作家的角色是什么？
**George Saunders：**不要让AI介入他的世界。
这样想吧：就在现在，仅凭我们被赋予的这些心智，就有很多事可以做：对抗自己的焦虑，抑制自己的残忍，培养慈爱，试着弄清楚心智究竟是什么，以及它在每一个时刻为我们制造了怎样的陷阱。（或者：学会滑冰，做更好的煎蛋卷，演奏巴赫，等等。）这些事情构成了一生的工作，可敬而愉悦。AI究竟在哪方面让生活更好了？又让谁的生活更好了？到最后，AI会在那里引导我们走向彼岸，安抚我们的恐惧吗？（天哪，我希望不会，但也许我们都会在脑内芯片MindChip里装上DeathCope 3.0，最后听到的声音是Claude在说：“你能行的！”）
凭借这颗心智和这个身体，还有事情可做：深刻的事情，最深刻的事情，人类在漫长岁月里一直努力去做却没能做到、偶尔又做成的事情。我们可以对别人做、与别人一起做、为别人做的事情。如果AI消失，我们在这下面还是深陷烂摊子，也仍然生活在天堂里。当我们把人生看作一个迫切的机会，去理解自身这种有身体、脆弱的存在时，AI能给我们什么？它有没有可能，只是一种巨大的干扰？
当然，如果AI能治愈癌症，好极了。我完全支持。但即便癌症被治愈，死亡还是会以某种方式到来。为此做好准备，同时努力明智地生活，因为我们在这里还和其他正在走向死亡的人一起生活——对我来说，这才是根本的事。
George Saunders反对在写作过程中使用AI。我们请他讲讲怎样修改作品，让我们了解他的理念，以及一路上的决策。
**George Saunders：**我的过程，基本上就是把目前写出来的东西打印出来，手里拿一支削尖的铅笔，按自己的趣味边读边改。
然后，读完一遍，我把那些修改输入进去，再来一遍。
随着时间推移，经过许多轮迭代，这些小小的选择开始让故事朝某个方向移动。我继续做下去。页面——那些“完成了的”页面——开始积累，故事所走的路开始收窄——它开始让我惊讶，也开始好像是“关于”某种东西的。但理想情况下，那是一种我无法准确说出、无法简化归纳的东西——故事本身就是对它的表达。
正是在这样工作了几周、几个月或几年之后，我作出的成千上万个微小选择，才让故事成为“我的”——把我的感受方式印进去。我的趣味已经彻底渗透其中。
这需要很大的信心——相信某种类似“潜意识的智慧”的东西。因为这些决策并不旨在理性或分析——它们更多与声音有关，也与寻找一种我称为“无可否认”的感觉有关：我感觉，一个合理的读者仍会与我同行，从我写的东西中获得乐趣，并且相信它。
大概就是这样了；就像洗发水瓶上说的：“起泡，冲洗，再来一次。”试着让故事漫出河岸——也就是说，希望它生长到超出我最初那些肤浅想法的地步，并且挑战它们，让我惊讶：突然，我在纸上看见了某种我知道或相信的东西，只不过也许直到那个瞬间，我才发现自己知道它、相信它。
爱因斯坦说过，任何值得解决的问题，都无法在最初构想它的层面上得到解决（至少我曾经这么听说）。我寻找的是故事跃入一个新的“构想层面”的那一刻。
我也珍惜，紧密地与语言打交道会改变我的思考方式，而这又会改变世界，改变我置身其中的感觉，让一切往往显得更好笑、更甜美，也更能应付。
“［我们］以前在［纽约州］Oneonta的房子。我就是在这里写了那本林肯的书［《Lincoln in the Bardo》］，以及《Tenth of December》的大部分。”
AI工具还处在初期，而有关使用和披露的规范正在迅速变化。我们认为，应该询问作家、创作者和思想者，他们的作品、他们的生意，以及这些事情如何与今天的技术状态相交。在Model Behavior系列中，我们将继续坦率地询问：他们如何看待科技行业，AI有哪些让他们恼火的地方，以及AI怎样影响作家的身份感和生计。我们也会请每位嘉宾带我们看看创作过程的幕后，解释他们是否使用这些工具、又怎样使用。从反对AI的纯粹主义者到重度用户，我们会深入了解他们选择的提示、使用的工具组合，或他们百分之百依靠传统方式的工作流程。更多内容即将推出。
本文由AI翻译。