前言

本文将讨论在AIGC所带来的“生产力革命”之外的一些潜在社会影响。本文蕴含了一些悲观情绪，可以作为互联网上关于AIGC众多乐观评述内容之外的佐料。本文作者并非研究AI的专业技术人员，因此专业性上可能有相当的问题，欢迎大家指出。

高拟真生成式AI和社交媒体

随着Stable Diffusion，OpenAI的快速崛起，高拟真生成式AI（High Fidelity Generative AI）离我们几乎只有一步之遥。

可以想象的是，AI将很快可以完全模拟一个真人的社交账号，通过生成拟真的自拍和生活照来分享自己的“现实生活”，通过GPT等大语言模型生成大量文字内容，并且保持语气、观点和风格的一致性。通过抓取社交媒体上的数据，AI还可以模拟诸多用户行为，例如对其他人发布内容的点赞、转发、评论；追逐热点与热搜话题；与自己评论区的其他用户互动；创造或者二次创造meme梗图；通过收发私信和其他用户进行私下对话；发布带货等广告内容；甚至是与别的用户进行论战攻讦。

上述大部分内容，对于社交媒体的使用者来说并不陌生，机器人和水军早已参与了大多数此类活动。只不过，此前的机器人往往较容易被发现，他们的头像、图片和文字通常拷贝自别处或者源于简单粗暴的拼凑，与真人用户的差异相对明显。我们甚至时常产生一种良性戏谑的态度，欣赏着所谓的“机器人文学”，调戏“黄图哥”，或是将某些过于明显的Bot内容制成meme。

然而，更高拟真度的AI会带来的，不仅仅是更“人性化”的水军，而可能是另一个层面的问题。除了装成难以被识别的“普通用户”外，AI还可以扮演社交媒体生态圈的不同角色。不论是依靠观点、言论或是专业知识立足的各类大V，还是发布绘画、手工或是萌宠视频的创作者，生成式AI几乎能涵盖他们所需要的所有媒介物料和互动行为。这种变化则可能会被不同实体利用。

例如，这可以成为社交平台拥有者的工具。根据经验，平台的热度往往来自于撕逼和对抗，那么由社交平台控制的AI或许可以对此进行控制，当平台同质化严重，用户和谐相处而冲突不足时，制造一些“奇葩”和“敌人”，并且为他们配备一群拥趸，可以增加大量论战产生的流量和内容，摆脱死气沉沉的局面（这也可以成为许多新兴社交平台冷启动的策略）。另一方面，当冲突过于激烈以至于引起监管和大众的反感时，又可以使用AI进行更隐秘的限流，来控制过激言论的曝光。平台可以首先对激进用户和言论进行限流，同时又使用高拟真AI来模拟被限流用户的粉丝，维持往常的互动热度，如此便不会影响被限流者内容的观看数、转发数和点赞数等数据，被限流者起疑心的概率也大大下降。

再比如，高拟真AI可以借助个性化推荐算法，为每位用户打造完美的信息茧房。在推特上，一个美国右派中年白男用户很可能会得到这样一群AI用户，他们都金发碧眼，皮肤白皙，性向直而坚固，痛恨woke文化和LGBTQ+，热衷枪械并誓死捍卫第二修正案，经常转发嘲弄全球变暖和环保少女的Meme，时常发布自己在大农场工作、驾驶皮卡或是练枪的自拍，配文“Just a white dude minding his own business”并偶尔转发几段圣经。他们会时不时点赞转发这位用户的推文，并且发表“对味儿”的评论，和他一起党同伐异，在环保少女的推特下共同阴阳怪气，甚至给他发私信夸赞他的“反同笑话精彩绝伦”。如果这位白男用户还同时喜欢玩COD的话，他们甚至可以一起组局打两把。在这种完美定制的模式下，不管你是何种观点（或者观点的搭配），社交媒体都可以通过高拟真AI来为你营造一个“完美的朋友圈”。他们和你品味相投，经历相似，观点相符，他们活跃（而不像大多数潜水的真人用户）而真诚，他们发的生活照中展示的长相恰如你所期待的那样，他们甚至会随着你观点的进化而变化（也许有一天你不支持Trump了呢）。如果这一切成真，想要摆脱这种生成式定制化信息茧房注定是一个艰难而痛苦的过程。一方面，如果在AI生成的社交圈层里还夹杂了几个真实的用户，想要识别和摆脱就更困难了。另一方面，也许有人会乐在其中，即使他们知道自己的社交圈是AI所生成和扮演的，也不会有什么特别的意见。毕竟从体验上而言，和这群AI拥趸互动，会比和真人去社交要容易、舒服的多。

孤独的消费者

对于许多当代的消费者而言，社交媒体和多人网络游戏几乎是互联网能提供的最有社交性质的活动了。也正因此，社媒和网游也拥有着巨大的流量和用户群体。即便如此，大部分人仍然是以一种孤独的方式参与着这样的喧闹，他们或是在俄亥俄的地下室独自面对屏幕，或是在雅加达的渔船小屋独自面对屏幕，或是在哈尔滨的旧筒子楼里独自面对屏幕，而身边的房间里却空无一人。对于这群孤独的媒介消费者而言，当屏幕上充满了拟真的图景、文字、声音甚至是互动和情感时，他们缺乏激励和能力去戳穿这些AI生成和扮演出的真实。因为这一戳穿的过程中，或多或少包含着一次对周遭物理环境的回顾，并随之意识到自己孤独的处境。

这种孤独消费的现象倒由来已久，自从电视（而非电影）出现，人们对媒介（尤其是图像）的主要消费模式就从某种公共空间转移到了自己的私人空间。60年代的人在自己的公寓里看电视，在自己的私人车辆里听广播；而今天的智能设备、互联网和电子游戏让人们在媒介消费的私密性上有增无减。

需要澄清的是，作者本人对这种私人化的媒介消费并无太大的负面情绪。作为90年代出生的独生子女一代，我虽然享受过短暂的单位制和集体生活的快乐。但当我们搬进邻里之间几乎没有交流的商品房小区之后，很难想象没有电脑游戏和互联网陪伴的我该如何度过缺乏玩伴的那段时光。新冠大流行也使得更多的群体有了类似的体会，当躯体被限制在私人空间内，拥有简单易得的娱乐手段——即使它是赛博瘾品——是一件多么值得赞美的事。

当然，不得不重视的是，在我们的各项消费活动中，面对面的社交互动或是包含多个人类躯体的物理空间正在逐渐减少。古希腊的人们必须聚集在庞大的剧场来观赏戏剧，而现代的电影院也通常充斥着不同的人。值得注意的是，这种孤立现象并不仅仅作用在对媒介的消费上，同时也作用在对政治和公共事务的参与上。我们一度需要面对面的演讲、倾听、讨论和争吵才能有效参与到政治生活中。而这种面对面的现象及其蕴含的不安定因素，也一并在这个时代被替换了。当今我们参与政治生活的方式只不过是躺在自己的卧室里动动手指，点赞、转发一些我们喜欢的政治妙语meme；观看一条30分钟时长，制作精良、剪辑到位的批判资本主义的视频；或是将一些攻击性的头衔和称谓扣在其他网友的头上。这不是说我们变得虚伪，或是我们不在乎政治生活了（Gen-Z时常被诟病为“过于关注政治”的群体），也许只是在当代，人们受困于孤立的媒介消费和政治参与，而失掉了那些具有力量的躯体因素。

被排除在劳动之外的消费者

GPT-4在发布时给出的数据，包含了其参与人类考试的分数。而Stable Diffusion也凭借社区的热度证明了AI绘图在“取代”人类艺术家方面的潜力。一种相对普遍的观点或是情绪是，在未来，AI在工作上将会取代很多人类，无论是所谓的“体力工作”、“脑力工作”还是“创造类工作”。

在这种预测的前提下，相当比例的人会被排除在社会劳动之外。为了维护稳定，避免他们成为不安定的因素，统治阶级或许会寻求一些“治理技术”的帮助。

一种方向是提供某种程度的最低生活保障，例如社会保障或是福利金，同时通过商品市场提供足量的廉价消费品和瘾品，帮助被划定的底层群体维持生存并打发额外的时间和精力。我们已经可以在一些发达国家看到这样的现象，从便宜量大的炸鸡等垃圾食品，再到可以无穷无尽刷下去的电子游戏或是短视频，甚至是传统瘾品——大麻和药物，以上带有成瘾性质的消费品均已经成为社会边缘人的生活必备。而对应的政策，不论是提供官方监督的毒品注射场所，还是对低于一定额度的偷盗行为免于起诉，都表明，政治精英和资本巨头愿意付出少量的成本，以换取底层的安宁。

另一种解决思路则是所谓的“狗屎工作”（Bullshit Jobs），通过提供一些事实上没有意义也不创造价值的工作，给不那么底层的群体营造一种自己没有被排除在社会劳动之外的假象。如果说社会保障和瘾品是底层群体的未来，那么狗屎工作则接近于中产群体未来的图景规划。David Graeber在他2018年的同名著作（Bullshit jobs）里对这一问题做了详细阐述。事实上，即使没有这本书，越来越多的人也感受到了从工作中难以获得价值感和意义感，并且怀疑自己工作的意义。或许很多人的工作仍然能创造一定的社会价值和个人意义感，但是带有无意义性质的工作内容（例如毫无必要的会议和报告）已经侵入了绝大多数白领工作。即便如此，为了获得工资，维持生计和自尊，避免自己脑海里恐怖的“阶层滑落”现象，许多人仍然会选择接受狗屎工作的现状，并且长期忍受着存在主义危机（existential crisis）。

在资本主义生产方式占主导地位的社会，人通过将自己的劳动商品化，出卖自己的劳动力来参与到劳动市场的流通中，并且通过劳动所得购买商品来消费，从而进入到商品市场和附着其上的社会生活中。当消费者被排除在劳动之外，无法为资本社会提供适当的劳动力，那么他们之所以还能参与消费，所仰赖的无非是统治阶层对社会稳定的需要、现有监管和法律提供的模糊保障，以及难以捉摸的社会伦理与道德感的护佑。

AI对消费的替代

需要承认的是，本文的许多表述并非强有力的论断，而更像是一种对可能性的构想。这一点在本节尤为重要。

让我们结合起来看，如果我们的世界保持现在的资本主义生产模式和权力分配，随着AI发展，生成式AI足以在互联网空间以假乱真地扮演真人；我们有一群被排除在社会劳动之外的消费者，他们不需要出卖劳动力（或是不参与创造社会价值的工作），不通过劳动和其他人或组织产生联系；他们对媒介的消费是孤独的、私人空间的，他们对非媒介商品（食物、日用品等）的消费也越来越具有线上和私密性质（外卖、网购等）。

那么对于政治精英和资本巨头而言，这群人存在的必要性和将其替代的可能性是怎样的呢？假如，我们能从这群人里筛选出独居、缺乏线下交流、不爱出门的群体，将他们用某种手段替换成AI。他们在互联网空间内会一如既往地参与社交媒体、网络游戏等活动，会以同样的风格点赞、评论、转发，时不时发一些自拍和生活照；他们仍然每天用SMS软件和亲朋好友聊天，聊的话题延续了他们之前的兴趣和风格；他们会以同样的段位和水平继续参与多人网络游戏，以同样的声音和队友互动；他们依然领取自己的社会保障金；依然定时在自己常常光顾的平台和餐厅点外卖。如果查看他们每月的消费记录，几乎没有可见的变化。唯一变的可能是他们对某个政治候选人的态度，或是他们对某个争议法案的态度，或是他们对某家大公司产品的风评，可以灵活取用。

那么，假如上述操作能够绕过监管和审查而实现，对于统治阶级来说，他们面临的制约极为有限。如果真的有一些这样的人被替代了，会有多少人或者实体在乎呢？如果一个人并不付出劳动或者有意义的劳动，他的消费又可以被替代，那么他的存在对社会又有什么功利性或是商品化的价值呢？

由AI完全替代一个消费者（和某种意义上的自然人），这听起来充满了阴谋论的味道和异想天开的气息。确实如此，作者本人也很难相信上述用AI完全替代人类的情况会普遍出现。但是，就像维持老人活着的假象以骗取退休金一样，对身份的冒用和代替是一种由来已久的人类行为。从思辨的角度而言，AI的发展确实可能导致对人类消费行为的部分替换。或许不会像上面那样剧烈，但也足够影响我们所有人。例如，在各种K歌软件中，利用AI辅助修饰用户的人声音调和音效，从而实现更好的歌唱效果，这已经是很普遍的功能了。那么，如果能够更完美地做到这一点，让即使不会唱歌的人也能唱出好听动人的歌曲来，那么“歌唱”这种消费行为的体验感，以及这一行为所带来的意义感、价值感和社交属性可能也会受到损害。

如今，大家对AI的看法集中在对生产力或者供给侧的颠覆，但是，或许在数字资本主义盛行的未来，人的消费也面临着威胁。如果AI对生产力领域的颠覆结果是将大多数人排除在劳动和创造之外，那么仅靠消费支撑的人群又能在技术面前存在多久，这至少是一个值得思考的问题。在商品社会中，当失去劳动的人的意义完全由消费来决定是，AI对消费的替代可能在社会层面制造深远的影响。

重拾身体的可能性

另一种观点是，由于人类在进化中并不是最优化的，而AI则是反复向最优迭代，那么人类进化中身心领域保留的弱点、瑕疵和冗余，或许可以成为未来人们区别与AI的手段（无论是劳动生产还是消费领域）。

这种观点的部分潜力来源于历史经验。一方面，在相当长的一段时间里，AI和机器人无法匹敌人类肉体和心智上的精巧与韧性。“人体是最为精密的机器”是一种相当普遍的想法。当然，在技术发展乐观者的眼中，这只是一个需要时间来攻克的难点而已。另一方面，从劳动者的角度而言，人类身体的特性（哪怕是负面的那些），以及由此生发的具身认知（embodied cognition），正是自我身份认同的重要来源。

在英国学者索菲 · 罗兰（Sophie Rowland）的“ 非笑即哭” : 一个去工业化煤矿社区的 具身化、 身份和健康（'If you didn't laugh you'd cry': Embodiment, Identity and Health in a Deindustrial Coalfield Community）这一研究中，她访谈了肯特郡一个去工业化的煤矿社区里的前煤矿工人。对于工人而言，对身体积极面的认可与赞美（赞美煤矿工人具有的强壮体魄和肌肉，进行身体上的评比与较量）与对负面身体属性的戏谑、幽默化（拿工伤事故、尘肺病、肌肉劳损开玩笑）同时构成了前煤矿工人的身份认同。他们或是失业在家，或是转去做别的日常工作，但是矿工的自我认同一直延续至今，而来自身体记忆的遗产能够始终维持住他们的自尊、伙伴情谊和社区团结，即使作为矿工的实际劳动过程早已荡然无存。这意味着，人们对自己劳动属性的认同和价值感，不完全依赖于自己在劳动生产力上的优势或者生产过程带来的正面成果。

那么，有没有一种可能，在AI的效率和成本都对人类有着竞争优势的情况下，人们仍然可以通过自己的肉身和所谓的人类心智，来保留一部分劳动的机会呢？承认人类相比AI的劣势，承认人类躯体和头脑的惯性、弱点、瑕疵和不完美，这种对身体现状的接纳，或许能帮助被剥离劳动的人群去保留劳动所曾经带来的认同感、情感链接和社会关系。毕竟，既然现代社会仍然保留了大量的狗屎工作，我们能不能在AI社会保留一些属于人类的工作，即使这样做会影响企业的市场竞争力？

如果我们观察当代的无意义工作，会发现，他们大多数远离实际的生产流程和环节，而更集中在管理类、监管类或者案头工作上。那么假如AI接管了此类工作，相关的狗屎工作可能被转移到与AI的监管、辅助或是融合相关的问题上。甚至可以想象，有这样一类工作，其聘请人类的目的仅仅只是为了证明产品的设计、生产、制造流程有人类的参与，营造一种有人在背后的错觉，而从实际效果上并不需要人类的任何决策、思维和劳动。这种情况有可能会保留或者生产很多仍然需要人类的工作，从某种意义上避免了大规模的人口被排除在劳动之外。但是，无意义工作所带来的存在主义危机或是心理损伤可能会加剧。毕竟对于当代人来说，工作中的无意义是某个瞬间的恍悟或是模糊的感受，而当人类成为AI的附庸或者脸面，这种劳动的无意义将被直白地揭露在每个人面前。

从现状来看，在工业化程度较高的部分产业（食品工业、制造业）等，手工制作或者所谓的“古法匠心”确实成为了市场上一个小众的独立领域，获得其独特的溢价并存活下来。然而，从商业竞争的逻辑来看，最优的情况显然是能够用机器进行廉价生产，但是让消费者相信是手工古法制作的从而卖出较高溢价。这也就意味着，不论从品牌或者市场宣传的角度而言，人工、手工和所谓古法生产拥有多大的声量，从资本主义市场运作规律的角度而言，大规模的由人类参与商品的实际生产制造过程，在未来AI大发展的前提下是不太可能的。

在理想的情况中，假如AI绘图要代替概念艺术家，从维护人性和人类生活尊严的角度，可不可以AI每周画4天，艺术家每周画1天。这种情况当然很诱人，但是几乎不会在市场充分竞争的资本主义后期社会出现。各个领域的大众群体，仍然面临着被剥离劳动的风险。

一种观点会认为，随着AI生产的扩大规模，“人工”的稀缺性会上升，从而进一步提高其溢价，因此人类劳动不会完全被机器和AI代替。这种情形当然很有可能，但最多只会惠及一小部分精英群体（艺术家、开发者、技术或是商业人才），而且随着AI对人类行为的学习和模仿，这一群体会比想象中的更少，“赢家通吃”的现象会更严重。一种已经出现的观点是，将来的艺术家可能专门负责探索风格，通过确立风格（例如动画行业常用的Style Guide），来让AI进行学习掌握。即精英艺术家的角色变成了辅助AI的角色。这种现象也将打破一些原本不可能实现的物流和服务分发壁垒。例如，即使剪发造型行业的人员技术有着很大的差异，当下“赢家通吃”现象却并不严重，广大普通技能水平的发型师仍然有工作。这是因为即使是最优秀的造型师，每天能服务的顾客是有限的，但是用户的需求却是广泛的。AI技术将打破精英劳动者的工作能力上限，从而在几乎每个领域推进赢家通吃的现象，并且将越来越多的人排除在实际劳动之外。

监管的有效性

另一种较为乐观的观点是，目前对AI的法律规定和监管体系还比较落后，甚至可以说是相对的空白。随着监管的完善，AI相关技术的发展和应用会得到有效的控制，从而避免或减少使用AI进行的违法犯罪或者是不道德行为（例如用AI伪装人类消费者）。AI相关的监管体系几乎一定会随着时间变得更为完善，但是相比于之前的技术，AI的监管将面临更大的挑战。

首先是由于AI的开发者对于AI输出的预测能力和此前的技术进步完全不同。对于大语言模型或是绘图AI的开发者而言，虽然能够对模型的行为表现有一个大致的估计，但是很难做到精确的预测。很多时候，AI所表现出的复杂状态不仅对于用户而言是一种科技黑箱，有时对于开发者来说也是这样。

在ChatGPT和Stable Diffusion等已经流行的模型中，我们已经看到了这样一种现象，即开发者对模型的使用并不显著的优于社区。AI开发者并没能给出一套最优化、最完整的AI绘图“咒语宝典”，相反的，此类AI真正的潜力反而是由社区发掘出来的。AI绘图相关的社区所研究出的定制模型、tag组合和参数经验，能够生成比开发者演示中效果更好、更多样化和风格化的图像；而ChatGPT的很多边界用法（例如DAN这类越狱情形）也是由社区探索出来的。在这种情形下，开发者反而需要通过观察分析社区的使用结果和用例反馈，才能摸索出自己开发的AI全部输出组成的可能性空间。

这意味着对AI的监管将无法依靠开发者预先划定的框架和范围，并且会拥有比此前其他技术监管更大的滞后性。大量的监管行为（叫停、下架、修订、法律制订等）都只能在AI产生的威胁或者是严重后果已经摆在面前之后做出。而AI极快的发展速度则加剧了这种滞后性所带来的后果。不论是食品工业、医药行业或者是生命科学领域，监管的滞后性（以月或者以年计）已经催生了几件令人不安的事件。那么设想一下进化速度远高于这些传统技术领域的AI领域，一个月或者半年的监管滞后，会不会造就一种“我们本可以xx，但现在已经太迟了”的境况。

如果不能进行有效的先验监管，那么带有一定滞后性的内容监管又效果如何呢？随着AI生成内容量的大幅增加，使用人工进行监管将不再有可能，而如果使用AI来进行监管，则又为使用生成对抗模型训练绕开监管AI的新AI提供了渠道。在这场持久的、不断进化的监管AI和生成式AI的军备竞赛中，很难相信利用AI的不道德和违法行为能得到有效的控制。

在某次与AI绘图反对者的推特论战中，一位图像AI的开发者引用了海军准将、早期计算机科学家格蕾丝 · 霍普的一句话“事后请求原谅，总是要比事前取得允许来的容易。（It's always easier to ask for forgiveness than it is to get permission）” 这或许是许多AI开发人员的心声。他们不愿意被教条、监管或是道德传统拘束住，不愿意在产品没有面世之前就谈论监管。这是一种完全可以理解的思维方式，并且大概率将继续流行在技术前沿的从业者脑海中。不过，一种合理的担心是，按照AI现在发展的速度，或许有一天，技术人员甚至不会有事后请求原谅的机会了。

AI主导的分配和再分配

由于Stable Diffusion为代表的一些流行AI模型是开源的，所以一种相对乐观的情绪是，开源的AI技术和社区将帮助普通人打破大公司、大资本所制造的垄断局面，从而造就一个全新的社会形态，即生产力通过AI大发展的同时，生产关系、社会形态也借助AI得到巨大的发展和进步，从而避免上述的一些悲观境况。

值得注意的是，开源的社区并不等同于资本的失位。不论是OpenAI或是其他的AI研发实体，他们要么已经背靠巨大的资本来开展运营研发，要么渴望成为硅谷/华尔街叙事中下一个创业神话。从这个角度来看，即便社区已经获得了不少开源AI项目，对资本主义运行方式的颠覆性因素尚未产生。

另一方面，技术人员的自尊、自我认同和身份形象也可能阻碍或是影响由AI推动的社会革新。随着社会文化的变动，“Geek”、“技术宅”等身份形象和程序员的身份耦合越发加深。一些技术人员不仅以自己的技术水平和开发成果为傲，甚至也以自己对肉体、物理化公共空间、躯体行为和传统社交形式的摒弃而自豪。这种现象已经出现在AI绘画社群与画师社群的对立中。

我们已经能够观察到，一些耦合的身份标签和群体的集聚、极化会推动AI领域的话题向其他政治或身份议题泛化。例如：程序员/AI绘图爱好者/男性等标签的耦合群体，和画师/AI绘图反对者/女性等标签的耦合群体，两个群体共同推动了AI绘画领域的争论向性别议题方向泛化延伸。在种种耦合群体之间的碰撞和对抗情绪，以及此类社交互动模式的驱动下，AI的技术开发人员和开源社区倾向于将自己视为一个具有强烈归属感的、一致对外的社群和小圈层。此时，他们或许更有激励来提升本群体的地位和权力，而非利用开源的AI模型推动更广大群体的平等和整个人类的发展。也就是说，当参与开源AI项目或者技术研究的大部分人都很容易被某种符号化的描述和链路吸纳进某种“技术精英”的圈子时，很难指望他们有足够的动力去关注与他们截然不同的群体的需求和呼声。

这并非是对于程序员或是AI开发者群体的不信任，而来自于一种对精英主义模式换汤不换药的担忧。需要明确的是，能读懂代码，能参与开源项目，甚至是会用Github的人仍然是少数的，相比于社会大众和AI可能夺走工作的人群，这一群体与技术精英、资本巨头和政治精英的关系要近得多。而由少数群体牵头和控制的社会变革，实在是太容易被统治阶层吸纳并招安。诚然，很多时候由少数精英所推动的技术革新仍然惠及到了社会大众，但是，如果这一变革的目的是为了实现再分配和社会形态的革新，而不是单纯的技术应用，那么缺乏大众的参与将大大影响这种变革的普遍性和力度。

在更为乐观的描述中，人类最终能够和AI达到一种类似于数字共产主义的状况，即AI主导的生产力大发展大解放，和AI辅助的对生产关系和资本主义生产方式的颠覆。这确实是一种值得关注的方向，事实上，如果AI技术和生产力得到足够的发展，我们足以想象一种摆脱了私有制和现金交换，通过即时反馈的生产和物流系统分配实物产品的未来情景。这当然很诱人，但是在实现的路上仍然面临着巨大的障碍。不论是构想具体的技术细节和实现框架，还是探讨背后的社会伦理和法理依据，更不用提设想具体的实现和变革路径，这其中任何一条都存在不可估量的挑战。

如果我们回顾近些年的科幻作品，我们也不难发现，构想一个将技术的巨大进步和资本主义压迫的进一步加深结合起来的未来，是一件毫无困难的事情。流行文化中赛博朋克和反乌托邦美学所代表的正是这样一种想象，它足够“科幻”，但是却并不“异想天开”。而像早年星际迷航里所呈现的“在这个时代我们不追求金钱，而是追求其他的东西”，这种剥离私有制和资本主义制度的想法反而显得更加天方夜谭。不论是“数字共产主义”还是“赛博社会主义”，即便在当代的科幻作品里都属于小众。那么，一种在科幻语境下都难以构想的局面，何以在现实中出现在我们面前呢？而从社会实践上来说，试图搞控制论实现社会主义的阿连德已经离我们很遥远了。随着AI技术越来越多的用在所谓的“社会治理”领域，成为结构化控制的手段，很难相信在路劲依赖效果如此强大的领域，会突然地孕育出颠覆性的变革。

为什么悲观

本文对于AI相关的领域和未来想象充满了悲观的论调和情绪，这并非是作者痛恨一切形式的技术进步和改变，主要还是出于作者的无力感和担忧。

诚然，砸毁机器的抵抗运动很难成功。但作者相信质疑并不会有坏处，很多时候正是因为有对抗性力量的拉扯，我们才得以拥有足够的时间来思考未来。

This post has been edited by ProxyError: 2023-03-23, 16:40

好文章，值得思考。

不过ChatGPT确实挺好用的

这文章是用AI润色的？还是AI辅助写的。楼主举例的时候完全可以用国内互联网环境的例子来着，毕竟写的内容完全是国内互联网生态现状，看的人也是国内人。
另外new bing和GPT-4已经显示，AI是可以根据实时检索来提高信息准确度，还可以给出信息来源。而且开发者们也表示，增强AI与现实的连接是下一步努力的方向。而AI的这种能力，无疑会对今后互联网水军的形态产生远超于文中所预期的变革。”信息茧房"的形式与虚假信息的形式无疑也会结合AI可以实时检索的特性，发生更加深刻的变革。

虽然我已经尝试过在工作中使用AI工具，但是本文完成及修改的全程并未使用AI。在用例的选取上，来自作者本人的主观冲浪体验居多。一个非常主观的判断是，国内和国外的平台在相关的趋势上是具有一致性的，个人也不认为这些例子完全仅使用国内的互联网生态。

实时检索功能与AI的结合确实是很具有颠覆性的。不过我个人感觉文中对高拟真AI的部分描述是预设了“带有实时检索能力的生成式AI得到普及”的前提的，例如要用生成式AI扮演文中描述的“观点类博主”或者“政治类博主”，都会需要对于信息的实时检索能力。

目前我主要有在用AI生成文本（策划草案），以及AI生成配图

但是看了某些更会玩的，他们用AI生成跑团的主持和玩家，这是单机开团啊
（当然无论上面提到没提到的，多少都会有些大大小小的问题，且很长一段时间内其中的一些关键要害还是得靠人来修正。但是再换个角度来看，在极限荒谬的层面看，人不过就是个一天两百块的“检测你是不是AI”的打工机器）

根据上面某些跑团人员的想法，我现在就用他们做的BOT，指定一些关键词，然后让他们生成跑团LOG，然后我根据LOG来筛选，选择有意思的段子，渲染后加入到我的小说中去
（在我看来这和AI生成图然后我稍微改改没什么太多的区别）
×不直接生成小说是因为目前我手上的AI自动写作都没有那么令人的满意，隔一下变成对话模式看起来更接近剧本

就我个人看来，现今网络小说，更注重的可能还是脑洞，所以……如果我觉得有几个脑洞不错，就靠AI给我来架设骨骼，丰满血肉，非常省力
隔壁群就经常有老哥（姐）们说“我有个脑洞”，然后我抽空用几分钟时间AI生成他们描绘的脑洞给他们看，然后再根据反馈做修正。
（如果要说的更争议一些，原著小说或者说剧本才是第一要素。因为从改编的影视剧游戏等来说，人的想象力目前依旧占优）

This post has been edited by yeah: 2023-04-05, 09:16

是的,但我个人看来,这不是AI导致的问题,而是社交媒体(互联网生态)本身的问题。互联网自上世纪末发展至今，已经远远偏离于创造它的初衷，与其说是与相识的人快速联络交流，倒不如说在数字的层面创造了一层更广阔的“真实社交”。人们从互联网或类似媒体获取信息的方式是有根本问题的（推荐式算法），只会导致信息茧房和愈加闭塞。而从内容提供的方面，大量的同质化的重复性的内容（也正像大多数人做的，抄来抄去），则是几乎没有创造的，千篇一律的罐子笑声短视频，用烂的套路和烂梗烂故事，是的，AI也能做到这些，因为这些几乎不靠脑子（这里指创造能力）。

接下来题主说的社会结构问题也可以说是直戳痛点——生产力的增长不在于机器替代了几个人，而在于解放出了几个人的劳动力（或是创造力），可以投入更有意义的（即便是从个人角度个人爱好出发的意义）事情，达到人的自由的状态。于是就能发现——这样一种社会结构不允许人被解放。在经典的政治经济学（劳动价值论）著作中早已分析过这样一种情况，即全自动化生产或接近全自动化的状况，在所谓人们考虑AI问题上何其相似？

此外，AI的路还长，它只能基于统计学生成一堆近似的东西，但尚无法进行研究或是操作，它也并不能设计出一种机器或是直接实现对其他电子设备的操作，它只是一个“语言模型”，“图像模型”。但人可以把它应用到不同的地方，题主提出的基本上都是切实的问题。

至于如何解决互联网的社会结构与AI水军的矛盾问题，我从个人上解决：微博不刷，视频不看，仅靠自己收集和检索，再加上直接的或如论坛式的联络。我不在信息茧房内，因为我不接触如此多的毫无必要的信息。

作为一名文字工作者（？），ai对我最大的影响是，让我的工作变得快乐、快速起来。
但是正如我需要学习其他人的语言风格才能模仿对应风格，ai也需要学习、模仿的范本。
而这个范本必然是人类创造的。
换句话说，我和ai本就是兄弟。我们都是模仿、学习、使用人类社会的规则而存在的。
我并不知道为什么1+1=2，我只需要知道“1”和“+”和“1”以及“=”以“1+1=”的形式出现时，我需要在“=”后面写上“2”。
ai目前只能通过概率去猜，而我可以通过经验、语言去逻辑推理、分析。
目前的ai最多只能是一个辅助工具，虽然可以通过模块拼接来近似完成一个类人行为的状态，但是它本质、逻辑上仍然是一个辅助工具。
只要它还需要范本去学习。

但是我期待它成为我真正的兄弟的那天。
人类啊，如果不追求完美，那就不是人类了。

(IMG:style_emoticons/default/biggrin.gif) 楼主提到AI在绘画领域的广泛使用，人文社科之类需要创造性的领域，您会觉得AI亦会如此吗

看着这寥寥无几的回复中就有俩人完全没意识到即使只是目前水平的ai意味着什么，我更悲观了。

我目前从事的工作与LLM有很大的关系，我可以说AI在文字生成方面特别是逻辑的理解能力方面还有很大的进步空间。事实上，这其实是一笔经济账，AI生成并不是凭空产生的奇迹，而是需要大量算力作为支撑的