许加彪陈绮珠：智慧传播时代内容生产中复合主体的边界调适与间性审视

2024-06-18 14:32:14 - 媒体滚动

转自：上观新闻

作者：许加彪（陕西师范大学新闻与传播学院教授、博士生导师，本刊学术顾问）；陈绮珠（陕西师范大学新闻与传播学院硕士研究生）

来源：《青年记者》2024年第6期

导读：

本文探讨了技术迭代背景下人工智能赋能内容生产的边界问题，探索审视人类智能主体与人工智能拟主体的主体间性，聚焦智慧传播时代以人机共生为旨趣的“人—机”关系。

2022年年末发布的ChatGPT将人工智能推向了新的风口。百度的“文心一言”、科大讯飞的“星火”、腾讯的“混元”等大模型相继问世，数字技术的越阶已然塑造出智能机器嵌入日常生活的常态，人工智能正在建构内容生产的新范式。新技术元素的落地应用必然开启内容生产的新形势，助推内容生产实现三个更“高”：高效率、高感知、高精度。作为人工智能演进的最新成果，生成式人工智能赋能内容生产的三个更“高”，进一步加深了人与机器的连接。正如学者保罗·莱文森在《人类历程回放：媒介进化论》中所提到的，媒介进化表现出的是越来越符合人类需求和便于人类使用其进行信息交流的倾向[1]。从简单机械到类人智能，媒介进化是一个动态的、持续不断的连接人的过程，机器在逐步向人性化发展。然而，媒介进化也不可避免地会出现“意外的后果”，人的导向发挥着重要作用。可以洞见，智慧传播时代，技术迭代将不断打破和重构人工智能赋能内容生产的边界，绘制人机复合主体共筑内容生产的全新图景。

一、生成式人工智能赋能内容生产

以ChatGPT为代表的生成式人工智能是人工智能发展的新方向，它经历了四轮迭代，采用“大数据+大算力+强算法=大模型”的路线对自然语言进行了深度建模。其在技术路径上的突破，是一次全新的生产力革命，是人工智能赋能内容生产的超越性升级，能在大模型的三维架构下实现内容生产的高效率、高感知、高精度。

（一）高效率：类人脑的认知和交互式指令微调。生成式人工智能以超大规模参数蓄力模型训练，在更大限度内增加了机器的知识储备和语言生成能力，并在模型训练过程中注入“人类偏好”数据，使机器创造更加符合人类的认知模式和表达方式，能在理解人类意图的基础上完成和调优指令任务。基于类人脑的认知和交互式指令微调的模型范式，人工智能的技术创新突破了机器生成内容的传统知识获取形式，实现了从根据搜索指令匹配信息到高效系统分析提供答案的转变。它不限于简单的问题回复，能在短时间内进行更复杂程式化的工作，在节约人工成本的同时实现更高效率的内容生产。

（二）高感知：无监督式学习和预先伦理规范设置。机器学习的方式有三种，即监督式学习、无监督式学习和半监督式学习。随着数据量的使用愈加庞大，无监督式学习因其能在一定程度上节省人工标注数据的成本，已成为近年来主流的模型训练方式。无监督弱化了人工干预，使机器能在和互联网语料的持续交互中结合人类反馈强化学习，显现出生成式人工智能的强大算力。并且为规避失控风险，模型训练会预先设置执行伦理准则，这使得机器在运行中能主动拒绝回答相对敏感和争议较多的问题，甚至纠正和反驳用户输入的不当信息，实现内容生产中“实时感知—内容优化”的动态循环。

（三）高精度：归纳演绎算法和创造性的内容输出。人工智能正在从分析式向生成式发展，除了拥有和分析式人工智能类似的预测功能外，生成式人工智能还能根据决策独立作出判断、生成内容[2]。不同于分析式人工智能基于对已有数据的分析所遵循的从一般到个别的推理原则，生成式人工智能以开放域的对话匹配用户的个性化需求，区别于以往结构化的内容生产。此外，生成式人工智能强调在学习归纳后演绎创造全新的内容。除了最基础的文本输出和聊天功能，其可作用于不同领域，通过深度学习算法进行多样化的内容生产，比如设计图稿、编写代码、翻译文章、创作诗歌、编写故事、扮演角色等。

二、边界调适：复合主体共筑内容生产

当前，人工智能的技术迭代已达到专用型向通用型增进的拐点。生成式人工智能强势扩张内容生产的版图，人类绝对主导的传统生产环节面临人工智能的介入，机器内容生产的边界迎来可达性的审视。生成式人工智能并非单纯的机器生产内容，虽然机器是直接生产者，但它的生产需要由人设置的目标与指令驱动，有时也基于人提供的“草图”进行再创作，在很多时候，生成式人工智能仍然是一种人机协同的内容生产[3]。机器的智能进化是融合了人类智力劳动的技术更迭，人的智慧即技术的边界。未来的内容生产应在接纳人工智能深度介入的同时，建构“人与人工智能”共筑内容生产的复合主体概念。

（一）内容质量的纠偏。生成式人工智能是运用海量数据参数训练出的大模型，生成模型最典型的特点是离线，也就是说它无法进行实时的网络检索，其内容的生成是在既有训练数据集内，基于封闭训练系统而生成的。而模型的已有数据存留着诸多长期以来累积的偏误信息，这样的通用大模型会存在鲁棒性不足的问题，输出内容的准确性无法保证。除了既有数据本身存在的缺陷，模型开发者在输入训练数据时也可能夹带自身价值观的偏好，主体性的偏见会对用户产生潜移默化的误导性影响。

有学者指出，以ChatGPT为代表的生成式人工智能进一步突破了资源使用与整合上的能力局限与差异，使每个人至少在理论上可以以一种社会平均线之上的语义表达及资源动员能力进行社会性的内容生产和传播对话，成功地突破专业知识运用方面的限制，赋能更广泛的社会成员参与内容生产[4]。生成式人工智能的技术革新能更加深刻地赋权个体，实现个体参与内容生产的普及，但大众的媒介素养层次不一，在这种情况下用户的干预式参与必然造成内容产出质量的参差不齐。前述所提到的模型训练数据的自相矛盾以及机器本身的程序局限也将引发内容同质化和偏见制造的潜在危机。因此，在技术应用层面，应联合专业审查人员对机器参与的相关信息进行详细标注，引入专业评估和审议，通过参与度分级有针对性地对内容质量进行纠偏。

（二）感性缺陷的弥补。新技术的产生必然改变原有的社会结构，人工智能介入内容生产会为内容生产创作者带来喜忧参半的影响。根据媒介依赖理论，当新的媒介出现并流行发展后就会和受众形成一种稳定、双向的依赖关系。而在这种依赖关系中，媒介一方较为强势，会进而控制受众。相较于传统的机器生产，人工智能正在以一种技术成瘾的形式加深对人的异化，人工智能的介入会使人在机器替代生产状态下模糊对劳动创造价值的概念认知，机器创造将淹没人的创造。

从理解内容到自动生成内容，生成式人工智能体现出超脱冰冷的类人转向，人化的机器以强大的场景适应性加速变革内容生产领域。但机器内容生产是基于统计平均得出的共性，从互联网获取文本进行训练使其带有天然弱点，通过反馈总结公式难以规避机器学习的格式化特色，其生成的内容囿于数据库的信息调取与拼凑，并不具备真正的创造性。技术性的处理过程不能模拟人类自然语言发生语境的复杂场景，智能生产的机械内容无法替代人的自然表达，人工智能在很长一段时间内所实现的仅仅是字面意思的解读，而非比拟人类智力和心力的咬文嚼字。要克服自然语言的不可解释性，人工智能处理语言的程序设计必须引入人类主体的参与，用独具人类智慧的情感创造辅助人工智能的内容输出，以弥补机器内容生产的感性缺陷。

（三）信任困境的厘正。国际上将人工智能分为三类，即“弱人工智能”“强人工智能”和“超级人工智能”。“弱人工智能”是指看起来智能却并未拥有“自主意识”的机器，缺乏综合性推理和解决问题的能力；“强人工智能”是更为接近人类智能的机器，其发展需要实现脑科学的突破；“超级人工智能”是有望超越人类智能的一种超强智能系统。生成式人工智能的内容生成是基于机器编辑的二阶知识，只是在执行一个“搜索—整合—生成”指令的过程，仍定位在“弱人工智能”阶段，其生成的内容是经不起推敲的。

虽然机器在和用户的交互反馈中也在不断调用数据更新语料库，以此弥合离线模型所造成的信息差，但“弱人工智能”并不具备对事实性错误的理性思辨能力，无法抵抗意料之外的恶意。技术本身就是风险的源头，人工智能参与内容生产就像开启的“潘多拉魔盒”。新闻可信度评估机构NewsGuard的联合执行官格洛维茨评价称ChatGPT可能成为互联网有史以来最强大的虚假信息传播工具，如果机器被恶意使用，用于制造假新闻、散播假广告甚至进行网络欺诈，那么可以预见，整个社会将陷入数字传播的信任困境。人工智能的虚假信息生成是一场幻觉的制造，非真实的幻觉需要厘清真假。而当下，单纯依靠人力的事实核查显然难以应对大量的机器内容，未来事实核查的理想愿景应是以机器对抗机器，以人的智慧驱动人工智能实现机器核假对抗机器造假的胜利。

（四）治理模式的创新。数字劳动是当下一种重要的劳动形式，从宏观视角来看，数字力量便利了人们的日常生活。生成式人工智能强大的产业应用能力会成为当前数字化落地实践中一个极具规模的流量入口。但数字化生存中的人在使用媒介的同时也在服务于数字资本，人工智能的目标是在了解技术本质的基础上模拟和扩展人的智能，模型训练和机器反馈学习会收集大量人的数据，用户在某种程度上变成了被剥削的无偿劳动者。伴随技术红利而来的是风险的并存，人工智能介入内容生产带来的最直接的问题就是信息泄露。

一方面，用户提出的命令性信息会被作为模型训练材料，面临着被用于下一版本模型训练的风险，给用户的个人隐私带来安全隐患。另一方面，个人信息被机器盗取会使用户沉浸在算法制造的信息牢笼中，桎梏于信息茧房从而逐渐失去独立思考的能力。技术的应用也是一场无形的渗透，在发展新技术的同时，我们要前瞻性地预测和规避可能的问题，人工智能参与内容生产理应兼顾数据治理：一是以技术创新进行预防，由开发者预设程序漏洞，研发人工智能风险动态防御检测设备；二是以立法措施规范技术，由立法者明确对人工智能的监管准则，建立健全技术应用的法律规制体系；三是以用户警觉补充管理，开发者和立法者应该共建一个人工智能风险管理反馈奖励平台，调动用户参与人工智能风险治理的积极性。通过搭建多方综合监管的机制，积极探索人工智能数据治理的模式创新。

三、间性审视：共绘人机共生的关系图景

人工智能在逐渐打破由传统的人类中心论的假设而发展起来的传播范式，技术交流和传播不再是人类独有的过程，甚至技术本身也能成为传播者[5]。如海德格尔所洞见的技术的解蔽方式表现为对自然的促逼，数字化生存的时代人在连接数字技术的同时也在被技术驯化。从AlphaGo战胜围棋世界冠军开始，关于人工智能要取代人类的相关言论就层出叠现，当智能媒介在内容生产中表现出更多的人化特征时，其所呈现出的拟主体性会加剧人类对自身主体性分袂的焦虑。

（一）技术异化对人主体性的消解。马克思所提出的异化劳动是自相矛盾的劳动，即异化的东西是人创造的，却又反过来否定人本身。从以人为内容生产主体的UGC和PGC到“人—机”复合主体参与内容生产的AIGC，人类主体的绝对主导性正在被解构。智媒技术的演进使李普曼提出的拟态环境越来越真实，在“媒介即人的延伸”视域下，媒介逐渐成为我们身体的一部分，虚拟和现实的界限越来越模糊，人本身成为信息传播过程中的一个环节。

智媒时代，技术对人的奴役表现得更隐蔽：一方面，人类从程式化和复杂重复化的机械劳动中解放出来，有更多闲暇时间从事需要更多人类大脑创造力的劳动；另一方面，人工智能带来的技术惠利也会湮灭人类思辨的智慧，使人成为单向度的人。机械化并未带人们进入高度自由发达的社会，反而面临着成为技术和机械奴隶的现实。即马尔库塞所认为的，“异化了的主体被异化了的存在所吞没”[6]。再者，人工智能所实现的拟人化的情感陪伴会加深人们对虚拟环境的沉溺，久而久之便会丧失真实人际交往的能力，人类主体之间的关系会变得更缺乏连接。正如早期研究中所提出的“电视人”“容器人”等概念，人类在媒介化生存中对媒介产品的过度依赖使其难以在无媒介产品的真空下呼吸。机器对人主体性的消解会进一步弱化人的思考能力和现实生存能力，最终沦为机器的附庸。

（二）人工智能突破拟主体性的可能。现有的人工智能大多处于“弱人工智能”阶段，主要是在神经、心理、语言层级的技术突破，其技术性的处理过程难以感受人类理性、情感和价值思维。机器不能自我审视也不能理解自我的行为，仍然是在人的意识支配下进行学习与模仿。但人工智能与传统机器是有区别的，不仅仅是一般的被视为中介的技术，而是具备了拟主体的地位，是作为不具有自我意识的他者的存在。那么，从可能性的视角看，未来人工智能能否获取具备自我意识的主体性？

芝加哥学派认为自我的形成是个体社会化的过程，米德所提出的“主我客我”理论强调了自我意识是在自发性主我的内格和社会化客我的外格两者的辩证运动中形成的。人工智能缺少的便是人类生物性的内格，具体表现为理性思辨和自由意志这两个能力。我们可以从以上两个维度讨论人工智能获取具备自我意识主体性的可能。一是关于理性思辨，即人工智能可以自己进行反思推理。在很多条件下，人类的语言交流只可意会不能言传，算法无论如何迭代也无法感受人类基于经验的表达，其对人类复杂语义的理解具有根本局限性。二是关于自由意志，即人工智能可以自由地完成价值判断。这是相较理性思辨能力在主体性上更难达到的维度，真正意义上的自由需要突破自身的限制，而人工智能是经过程序设计而运行的，受制于算法本身。就自由辩证思维和机器本体的底层逻辑而言，人工智能突破拟主体性进而获取具备自我意识的主体性是有很大难度的。

（三）人机共生旨趣下人主体性的复归。间性强调居间调停的概念，主体间性是主体间，即“主体—主体”关系中内在的性质，实际上是一种交互主体性[7]。媒介因人而生，媒介进化以人类需求为导向发展。因此，即使机器具有拟主体性，人的价值判断也应引导机器的价值判断，机器伦理的目标是让机器更多地为人类服务[8]。在人工智能的发展不断逼近技术“奇点”的当下，智能传播生态应实现人的主体性的复归，绘制人机共生的全新图景。

美国技术哲学家唐·伊德梳理了人与技术的四种关系：具身关系、诠释关系、它异关系和背景关系[9]。新技术元素建构下人机关系的主体交互性正是从它异向具身的转变，进而构筑人与技术的共生。基于前述探讨的人工智能参与内容生产中为规避工具理性泛滥应进行的边界调适，人机共生的愿景即工具理性和价值理性的共融。相较于工具理性的行动由功利动机驱使，价值理性则强调动机的纯正，着重实现目的的手段正确。工具理性和价值理性的共融，需要智能技术在发展过程中确立人本导向的传播伦理，充分发挥人的主观能动性。人创造了机器，但机器创造力并非人的创造力，技术演进下的人机关系应当是双向循环的共生。人工智能在使人类腾出脑力从事更需发散思维工作的同时也在重塑人的发展，机器不断学习的机制带给人的应该是源源不断的动力，激励人类的创造性进步。人机交互的未来图景，其逻辑底座是将技术作为人的辅助工具，以技术赋能人的思考与决策行为，架构人机共生的命运共同体和价值共同体[10]。

四、结语

互联网的发展，经历了从第一代实现信息跨时空连接的信联网，到第二代虚拟与现实连接的物联网并正在向第三代人类智能和机器智能连接的人联网迈进[11]。人工智能浪潮涌现下的人联网构造了人机交互的智能传播景象，类似ChatGPT等高级人工智能的出现和应用，使我们不得不开始思考美国未来学家雷·库兹维尔提出的2045年将出现计算机智能超越人类的“奇点”。

人工智能是人类智能的产物，而人工智能体是人主体的产物，这是“人”与“人工”之间的根本差异，是就目前而言不能颠倒和颠倒不了的基本逻辑[12]。未来AIGC的技术迭代将不断颠覆传播生态格局，一切预言智能技术是否会具有自我意识觉醒的猜想，以及对碳基人与硅基人的论争最终都会归于技术控制这一现实问题。人应充分发挥自身的主体性，调适人工智能参与内容生产的边界，建构工具理性和价值理性的共融，维持智慧传播时代信息生态环境的平衡。

【本文为国家社科基金重大项目“延安时期中国共产党宣传工作史研究与资料库建设”（批准号：23&ZD023）阶段性成果】

参考文献：

[1]保罗·莱文森.人类历程回放：媒介进化论[M].邬建中，译.重庆:西南师范大学出版社，2017:6.

[2]陈永伟.超越ChatGPT：生成式AI的机遇、风险与挑战[J].山东大学学报(哲学社会科学版)，2023(03).

[3]彭兰.人与机器，互为尺度[J].当代传播，2023(01).

[4]喻国明，苏健威.生成式人工智能浪潮下的传播革命与媒介生态:从ChatGPT到全面智能化时代的未来[J].新疆师范大学学报(哲学社会科学版)，2023,44(05).

[5]AndreaLGuzman,SethCLewis.Artificialintelligenceandcommunication:AHuman-MachineCommunicationresearchagenda[J].NewMedia&Society,2020,22(1):70-86.

[6]赫伯特·马尔库塞.单向度的人：发达工业社会意识形态研究[M].刘继，译.上海:上海译文出版社，2014:7,11．

[7]黄卫星，李彬.传播：从主体性到主体间性[J].南京社会科学，2012(12).

[8]彭兰.智媒趋势下内容生产中的人机关系[J].上海交通大学学报(哲学社会科学版)，2020(01).

[9]唐·伊德.技术与生活世界：从伊甸园到尘世[M].韩连庆，译.北京:北京大学出版社，2012:77-103.

[10]喻国明，杨雅.5G时代：未来传播中“人—机”关系的模式重构[J].新闻与传播评论，2020(01).