智能传播趋势下的人机关系及其伦理审视

冯雯璐，白紫冉，乔羽

[摘要]智媒趋势下，内容科技推动了信息采集、生产、分发、接收、反馈全流程的智能化深度变革，催生了新的业态、新的应用和新的服务。与此同时，人与智能机器的关系也发生了改变：从人机协同向人机共生和人机融合演化，从“二元对立主体”向“复合型共同主体”转变。由此衍生出的智能传播的伦理问题，为人类社会新的生存形态的有序发展提出了挑战。对科技“价值理性”和“公共利益”的重新考察，或可为数据使用、算法逻辑和信息把关的伦理困境提供有效的纾解路径：在实践中理性使用和改进技术，从而构建环境、社会以及人与机器的和谐关系。

[关键词]内容科技;人机关系;伦理困境;智能传播

[中图分类号]G206[文献标识码]A[文章编号]1008—1763（2022）03—0154—07

TheHuman MachineRelationshipandEthicalReview

intheEraofIntelligentCommunication

FENGWen lu1，BAIZi ran2，QIAOYu3

（1.ComputerNetworkInformationCenter，ChineseAcademyofSciences，Beijing100190，China;

2.CentralRadioandTelevisionGeneralAdministration，Beijing100038，China;

3.SchoolofJournalismRenminUniversityofChina，Beijing100872，China）

Abstract：Underthetrendofintelligentmedia，contenttechnologyhaspromotedin depthintelligentchangesintheentireprocessofinformationcollection，production，distribution，reception，andfeedback.Atthesametime，contenttechnologyhasspawnednewformats，applicationsandservices.Therelationshipbetweenhumansandintelligentmachineshaschangedfromhuman machinecollaborationtohuman machinesymbiosisandhuman machinefusion.Therelationshippatternhasalsochangedfromthedualoppositionsubjecttothecomplexcommonsubject.Theethicalissuesofintelligentcommunicationderivedfromthisposeachallengetotheorderlydevelopmentofthenewexistenceformofhumansociety.Thereexaminationofthevaluerationalityandpublicinterestofscienceandtechnologycanprovideaneffectivewaytoalleviatetheethicalproblemsintheprocessofdatause，algorithmiclogicandinformationcontrol.Inpractice，technologyshouldbeusedandimprovedrationally，soastobuildaharmoniousrelationshipbetweenenvironment，society，humansandmachines.

Keywords：contenttechnology;human machinerelationship;ethicaldilemma;intelligentcommunication

智媒时代，以人工智能为代表的内容科技进一步推动了人、机器、信息传播、社会环境向深度耦合的方向发展。这一过程中，智能传播场域的人机关系被重新定位，逐渐呈现出协同合作、融合共生的特点，加速了信息生产和传播模式的重构，并深刻影响着社会成员的思维认知和决策行为，以及新型社会体系的形成。同时，快速迭代的媒介技术也给信息社会的伦理价值规范带来了更大的挑战。因此，我们既需要关注智媒趋势下的内容生产新机制，也要看到其背后所暗含的人机关系转向和伦理之变。

一内容科技赋能的新闻传播变革

2019年，人民网在《人民网深度融合发展三年规划（纲要）》中首次提出了“内容科技”的概念，即“以人工智能等信息技术为内核，对内容产品的生产与消费链条、内容产业的组织与分工模式产生重大影响的新技术，及所催生的新应用和新服务”[1]。从广义上看，内容科技从属于传播科技，是数字技術与数据技术的结合，强调了信息数字化后的加工、生产和信息解构化后的分析、关联，包含内容的生产与分发环节;从狭义上看，内容科技实际上贯穿于信息的采集、生产、分发、接收和反馈的全流程，推动了传媒产业的全面升级，构建了媒体融合的新生态。

（一）全程与全息：智能化内容采集

习近平总书记提出的“四全媒体”中，“全程媒体”强调了以物联网传感器和存储器为代表的信息技术对万事万物运动过程的全时化信息采集与存储。机器进一步延伸了人体的功能，突破了传统新闻报道中依靠人来采访的局限性。激光扫描、无线射频设备等信息传感器，能够实现全天候对人与物的信息采集;无人机突破了极端恶劣环境对采访的限制，在自然灾害报道和战地报道中发挥着重要作用;可穿戴设备和语音、文本、图像识别技术的应用，能够实时甄别和获取不同场域对象信息，并实现多形式信息间的智能转换。

“全息媒体”强调了机器采集信息维度和呈现方式的多样化。内容科技使采集到的信息带有了明显的虚拟数据特点。“全员媒体”聚合的海量网络内容，基于自然语言理解技术，将人类复杂的语言结构“解构”为机器可理解的符号，进而实现抽象信息的量化和标签化。结合互联网平台上产生的不同场景和用户行为记录所形成的关于人的大数据，以及自然环境和人使用设备状态所形成的关于物的大数据，共同构建了社会大数据中心。通过人机信息融合过程中对不同领域大数据的“结构化”和“应用化”的处理，生成了人们对客观世界认知的基本讯息，服务于人类的生产和生活。

（二）自动与高效：智能化内容生产

智能化的内容生产方式是利用信息技术在大数据处理、分析的基础上，根据实际场景需求进行的内容创作、呈现及审核。在自动化内容生成方面，Dreamwriter、“快笔小新”等写作机器人，利用自然语言生成技术和智能算法，实现了新闻内容的拟人化创作和批量化生产，成熟应用于财经、体育等相对程式化的新闻稿件写作中。基于数据价值的深层挖掘与关联性分析，不仅改变了新闻报道的叙事方式，也丰富了稿件的选题和内容素材，衍生了数据驱动型的深度报道及日益精准的预测性报道。内容科技也使自动化拍摄及音视频剪辑、滤镜添加、多媒体信息整合等内容的生产力提升成为可能。

在可视化内容呈现方面，计算机图像技术和视频生成技术在数据可视化中的应用，能够丰富信息内容的表现形式，增加新闻报道的表述力和趣味性。梅罗维茨的“媒介情景论”强调传播媒介形式的改变会带来社会情境的变化，导致新的信息系统的生成。AR、VR、MR等新型虚拟现实技术的出现，使信息技术从外在机械化延伸至认知层面，实现了对人类感观行为的模拟，其所带来的全场景、多维度的沉浸式体验，满足了用户对真实场景的感知需求。AI合成主播改变了传统真人新闻报道的方式，通过人机互动交流，完成机器学习，真实模拟主持人的形象、表情、声音和动作，表明了技术具身与新闻生产者身体及意识层面的共在[2]。

在高效化内容审核方面，普通网民凭借其庞大的基数参与内容“议程设置”环节。表达权利的滥用，致使用户生产内容中包含了大量的不实信息，以及非理性的、博人眼球的内容，增加了互联网平台的内容管理难度，需要发挥“人工+机器”的协同把关作用，肃清网络环境。一方面，通过人工智能测量消息源质量和信息可信度，结合心理学建模，测量不良信源的心理特点，建立信用度评级体系，锁定异常发布行为，实现对信源的管控;另一方面，通过与虚假信息库和知识库的比对以及多源信息的交叉验证，利用深度学习模型进行语义分析和传播模式分类[3]，快速识别不良内容，利用区块链技术进行众包式事实核查，实现对文本的管控;此外，通过眨眼检测、视频逐帧检测、关键原始特征检测等方式，加强对深度伪造技术的虚假音、视频的审查。

（三）机器与社交：智能化内容分发

智媒时代，算法与人工智能在非结构化的数据数量级增长的基础上不断完善，使以低成本满足更大范围的用户在不同应用场景中的内容需求成为可能。为了解决社会化内容生产主体带来的信息过载问题与用户个性化信息过滤和选择之间的矛盾，基于用户画像的智能分发方式成为必然趋势，并推动了大众传播向精准传播的转型。信息推送的精准性，取决于用户画像的完整和内容标签的匹配。依托数据挖掘与智能分析技术对用户在线行为数据进行分析，准确判断和预测用户的信息需求、观点立场和媒介心理，结合数据库技术对内容资源的标签化处理，实现个性化的内容制作和分层级的精准推送，“形成具有高度黏性的传受关系，深度固化信息增值及变现通道”[4]。

移动互联网社交媒体的发展，进一步释放了互动的能量，社会现实关系逐渐趋向于建立在虚拟关系的基础之上，在“重新部落化”的过程中，通过分析关联账号的社交关系和兴趣社群的互动行为，利用定位系统了解周边人群属性等方式，完善关系加权算法，社交传播成为补充算法推送的重要分发渠道，网络信息呈现跨渠道裂变式交叉传播的特点。当用户成为网络关系中的重要节点时，人的情感和价值判断以及强互动关系下的群体情绪和主流意见都会对内容的选择性接收、理解和“二次传播”行为产生影响，致使“后真相时代”诉诸情感的内容更能够引起网民关注。用户兴趣牵引的算法规则，更容易导致进入分发渠道的信息产生“劣币驱逐良币”的问题。

（四）跨屏与精确：智能化内容终端

随着5G技术和虚拟现实技术的发展，更多便携式智能终端设备将同智能手机一样，进一步拓展用户的信息接收渠道，构建成为PC端、移动终端和家庭大屏终端共存的智能终端格局。这样的变化将改变人们对外部世界的认知方式和感知能力，拓宽内容消费的边界[5]。终端设备智能化的重要技术支撑，在于AI芯片技术的日臻成熟和边缘计算的能力扩展[6]。应用程序、服务和数据存储将下沉到网络边缘侧，有效缩短智能服务时延和减少云端集中计算的压力，用户的服务需求无须离开个人化设备即可被满足。当前，围绕边缘计算与智能终端，在语音识别、视频渲染、协同游戏、智能家居、自动驾驶、交通管理、安防监控等应用场景下，相关集成产业已初现端倪。在具體应用中，多元人机交互界面的涌现也显示出终端应用及形态的革新趋势，并逐步构建起人机传播的全新信息系统[7]。搭载于智能终端的人机交互系统，愈发呈现补偿性、人性化和日常化的应用特征，不仅能够产生超越语言维度的多模态交互，还能通过可穿戴设备等对人类的行为与情感数据进行检测分析，并试图感知和理解人类的情绪表达和情感变化。例如，智能语音助手、社会性机器人不断进入公共和家庭领域，延伸了情感支持等作用，实现了交互功能的复杂化。从用户需求来看，新冠肺炎疫情期间，地缘性的社会活动空间被前所未有地压缩，人们的数字化生存成为常态，多元人机界面的使用需求被进一步激发，越来越多的社会交往场景从面对面互动变成非接触式的连接方式，“云办公”“云课堂”等“云传播”形式无处不在，VR/AR看房、在线视频会议等终端系统层出不穷，从侧面反映了智能终端在供需两侧表现的全新特征。

二智能共生的人机关系嬗变

（一）从人机协同到人机融合

信息技术使智能化内容生产流程中的“关系场域”发生改变。人工智能一再突破传统新闻工作者身体的时空限制，以超大的数据存储容量，超强的计算速率和准确性，以及多样化信息传播形态的呈现，实现了生产主体思维“在场”和身体“离场”的共在，延展了人类认知的边界。技术发展的阶段性特征使机器并不能脱离人而独立存在，这意味着人的主体性功能和角色依然明显，“人机协同”模式使机器能够更好地为人类服务。而机器传播的介入，也打破了传统社会建立在现实强关系基础上的圈层固化，重构了基于网络社群关系和用户需求的新型信息传播格局。

伴随智能终端的普及与优化，在动态化的人机交互过程中，人的意向性被传递到机器之上，形成了一种“人机共生”的关系，实现了人类与外部世界更加广泛和深入的物理性连接[8]。人机互动构建的是信息交互环节中的双主体模式，人与机器的关联，在双方调试的过程中，逐渐找到了彼此自洽的方式，两者间的理解也从单向变为双向。通过文字、图像、语音、行为的人机交互，来自人的海量数据被机器捕捉、存储，人通过算法设置深入挖掘数据价值，人的情感和意识形态表述功能被深度开发，使得技术赋能的机器演化进一步解放了人类劳动力，改善了人们的生活状态，提升了产业生产效率。

以智能机器人为代表的“强人工智能时代”的到来，衍生出人、机、环境共同作用下的新型“人机融合”的智能传播关系。智能机器将带有超越工具功能的感知、认知、运动等能力。智能采集将来自于环境、人与物的客观数据与主观感觉数据相结合，智能处理将数据运算与认知、情感相结合，智能决策将优化结果与价值判断相结合，以“技术模拟人”的方式，将人的需求和策略转化为机器的感知和执行能力，实现两者的相互依存与嵌入，从而高速解决人类智力和体力所不能及的问题。

（二）机器的“拟主体性”凸显

“任何一次技术革命的背后，实际上是一种主体性质的观念革命”[9]。“人机协同”模式中，机器是人设计程序后的执行者，而非创造者，机器尚无法实现类人脑的思考，难以对人们在实践中所构建的复杂语义及其背后的深层意义进行逻辑上的推理和因果关系的分析，也无法拥有自主的思想、情感和情绪。而哲学意义上的主体性主要体现在意识和思维的整体性方面，这意味着人依然作为主体而存在，机器则用来提升人类工作的效率。“人机共生”模式中，机器的“拟主体性”越发明显，智能传播对人工智能的依赖，使人的主导作用逐渐弱化。智能媒介改变着人们的行为模式，算法分发塑造着人们的认知偏好，以用户为导向的内容产品影响着后真相时代的社会文化。人们对智能手机的依赖程度空前提升，很多人变成了生活圈狭窄、孤独感激增、注意力退化、思考力消减，沉溺于虚拟部落带来的短暂快感的“手机人”。而当“人机融合”模式下人工智能真的具备类人意识和思维能力时，人与机器的主客体界限和二维关系或被打破，人原有的主体性价值将通过媒介技术的具体操作来实现，身体、思维、情感和技术将形成“复合型共同主体”。因此，我们要以推动社会进步为基本目标，正视机器的“拟主体性”，在赋予机器权利的同时，也要明确机器的社会责任，这是智能传播时代必然要面临的问题。

（三）工具理性与价值理性的平衡

德國社会学者马克斯·韦伯提出了“工具理性”与“价值理性”的概念。其中，“工具理性”强调了基于环境和他人的预期，以目的、手段和后果为导向而进行的行为。智能传播科技带有明显的工具理性特征，通过精准的用户画像分析和可量化的算法逻辑，在传播实践中快速找到最佳的策略和方案，实现了信息传播的智能化及其背后带来的数据商业变现[10]。但当技术优势被用来获取个体利益时，“价值理性”所强调的伦理、信仰、美学、规制等维度容易被忽视。机器化的内容创作与推送，个人信息和数据的滥用，网贴新闻化现象中事实的缺失，流量至上原则下的社会道德沦丧，已然使科技形成了一种霸权，社会行为变成了技术行为，技术拥有了支配人的思维和智慧的能力[11]。彼时亟须对智慧传播的“价值理性”的回归。正如韦伯所言，“社会行为仅仅是以一种或另一种方式为取向，是极为罕见的。现实的行为可能只是接近这些类型，经常会有一些混合型的”[12]。未来“人机共同体”呼吁的是技术“工具理性”与“价值理性”的平衡，需要变利益导向为社会价值导向，加强人工智能的伦理道德建设[13]。这并不意味着用户个人的需求和平台的经济发展被忽视，事实上，个体利益与社会公共利益是辩证统一的关系。作为局部利益的个体利益是公共利益得以实现的前提，是构成社会有序的重要组成部分;公共利益则从根本上维护了个体利益，而人的社会性则是个体利益上升为公共利益的基础。当个体利益诉求与社会公共价值发生矛盾的时候，“适应性原则”可以作为平衡两者关系的重要准则，在保护社会公共利益的前提下，实现个体利益的最大化。因此，将“科技向善”作为智能传播技术发展的价值取向，突出产品中的“人性”与温度，倡导科技企业承担相应的社会责任，具有长远而重要的意义。

三新媒介生态环境下的伦理困境

（一）数据：采集使用的权责不明

在物联网、传感器、人工智能、区块链等传播科技所构筑的数字世界中，各种各样的数据化服务使用户个人信息和行为数据无所遁形，不仅包括了个人的性别、年龄、职业、社交关系等基本信息，也囊括了人脸、指纹、语音等生物体征信息和购物、信贷、内容偏好等网络行为数据。互联网平台对于个人信息和行为数据的采集大多采取“能采则采，应采尽采”的原则，尽管平台对用户数据进行了加密和匿名处理，但由于对信息源数据的保护不当，缺乏传感器等应用场景的严格限制，从业人员的技术素养不足等，公民数据采集维度的侵权行为依然频发。分布在各处的摄像头监控系统和无线网络区域进行的非针对性数据采集，以及社交媒体和搜索引擎数据的相互打通，使用户难以规避逐渐成为网络“透明人”的现实风险。

现阶段，平台通常以签订“用户服务协议”的方式，明确双方的义务、责任和数据的使用权限等。用户为了获取平台的功能性，让渡了对自身行为数据的使用权和控制权，究其原因是数据资本争夺所引发的伦理冲突，用户因缺乏表达集体意见的渠道，在与平台的博弈关系中，丧失了数据归属的话语权。个性化内容服务的体验升级，是建立在大量的“数据痕迹”的分析与挖掘基础之上的[14]。伴随私域与公域的界限模糊和短视频的风靡，在未经当事人同意的情况下，进行法律许可之外的媒体报道或个人信息公开，或利用深度伪造技术对音、视频内容进行篡改，以及出于商业和政治目的的个人信息与数据泄露，不仅严重侵犯了公民的隐私权和肖像权，其所带来的网络暴力、网络犯罪和数据安全问题，也会对社会信任和公共秩序产生严重的负面影响。

（二）算法：信息推送的导向偏失

李普曼认为大众传播媒介通过对信息的选择、加工、报道和再结构化，构建了公众对外部世界认知的“拟态环境”，而智媒时代，表面上算法依托大数据与机器程序运行减少了信息传播过程中人的主观干预，实则是通过个性化的信息筛选与推送构造了虚拟环境中的“过滤气泡”，使用户沉浸在自己感兴趣的内容所缔造的“舒适地带”，在逐渐窄化和固化的信息裹挟下成为“算法人”，降低了对现实多元化的信息需求。桑斯坦认为，人们只会选择与自己意见相同或相近的人群，防止认知失调，久而久之就会形成“回音室效应”[15]。基于相同兴趣和价值观所形成的社群区隔，容易在群体意识和情绪的操纵下，演化为群体行为的极化，不利于社会共识的形成和公共安全的维护。

由于技术发展的局限性，现阶段智能算法的自动决策依然停留在信息内容的分类和与用户兴趣的标签匹配，尚未对信息质量和价值判断进行严格把关。在算法构建的网络公共领域中，存在着大量感性的“象征性表达”和扁平化的“沉默的螺旋”下的观点附和或情感宣泄，这样的“舆论场策源地”更多反映的是社会深层矛盾和主体间的利益冲突，以及负面价值取向和虚假信息所形成的错误的舆论导向[16]。此外，内容管理算法的不当设置，反而会造成虚假信息的传播，如2019年，YouTube错误地采用了CV（计算机视觉）算法进行历史数据比对，将巴黎圣母院的火灾报道关联到了“9·11”事件。

产生上述算法伦理问题的根本原因并非技术本身，而是其背后的人以及人的价值判断的问题。一方面，算法的参数选择、权重设置等规则制定的设计者，因缺乏媒体从业者的专业经验，在原始数据库的偏见复制，机器程序设计中的偏见渗透，以及人机互动中的“无意识”偏见习得等方面，使人的“刻板印象”在编码与解码的过程中通过算法程序被反复循环[17]。在Facebook“偏见门”事件中，算法扮演了传统新闻编辑室的角色，将政治倾向性植入话题框架，造成了报道的片面和偏差。另一方面，掌握了算法技术的平台更容易通过算法设置壁垒，进行不正当竞争。算法深度学习和分发环节的“黑箱”操作，使用户很难了解算法逻辑，进一步加剧了平台与用户间的“数字沟”和“数据杀熟”问题。

（三）把关：专业主体的功能弱化

传统把关模式是具有专业性和职业性的媒体从业者，及其从属的媒体机构的组织特性，“新闻专业主义”的报道要求，和宏观层面的党性原则及法律规制等，共同构建了整体把关体系。社交私域向网络公域的不断渗透，打破了传统“把关人”的垄断地位。在以弱关系为连接的群体互动中，社交私域开放性的增强和信息传播渠道的多元，使私域的个人言论快速在公域扩散，转变为公共话语。用户和算法设计者专业素养的不足，致使流通的大量非理性的UGC内容带有了“反智化”特征。哈贝马斯强调，公共领域的批判性功能，在市场经济利益的驱动下，通过媒体对流量信息的关注，使大量私域中的个人隐私内容，成为公共讨论和内容产业的消费素材。智媒时代的信息把关实际上是对进入公域的信息质量进行把控的过程，私域空间的公共化，网络公域的“非完全式”形态，极大增加了公域信息的把关难度，传统媒体的整体把关模式不再行之有效。

在去中心化和平等化的网络传播结构中，商业媒体、自媒体和用户等把关主体的泛化，消解了传统把关主体的控制权。新媒体依托技术优势，使用户的媒介习惯逐渐固化。为了解决获客问题，传媒产业的生长机制被改变，求新、求快的跟风报道，为“网贴新闻”的背书，弱化了媒体的社会价值导向和文化传承作用。支配权的转移，内容科技对劳动力的解放，用户需求和行为选择对媒体把关决策的宽泛影响，造成了网络媒体平台专业把关角色的缺位，形成了“低门槛，弱把关”的特点，为不良信息的滋生和传播提供了温床。

四智媒时代伦理问题的纾解路径

（一）完善法律体系，保障数据权益

解决智能传播产业格局构建和个人信息数据保护之间矛盾的关键在于，建立合理的个人数据保护法律体系架构，强化相关法律规制的及时性、系统性和有效性。一方面，需要制定數据采集规则，明确数据采集维度。欧盟在《通用数据保护条例》（GDPR）中规定：“用户对个人数据拥有知情权、反对权、限制处理权等多种权利。”美国在《商业人脸识别隐私法案》中严格规范了对个人生物数据采集的监管。我国针对App超范围和强制收集个人信息问题，向社会公开征求《常见类型移动互联网应用程序必要个人信息范围规定》的意见。上述规制均强调了数据采集的主体利益和公共利益，在遵循“非必要不采集”的适当原则基础上，明确采集目的，细化采集流程，选择适量的、有价值的个人数据进行采集，并明确告知用户相关规定，事先获得用户的数据采集许可。另一方面，需要平衡数据使用维度和个人隐私保护。基于用户行为的海量数据的实时收集、分析和商业化应用，让公众在享受数据综合服务的同时，也频繁受到信息过载和隐私泄露的困扰，如2018年，Facebook大规模数据泄漏事件和韩国《网络实名制法》因多起数据泄露丑闻而被废除。因此，用户产生的什么数据可以被使用以及数据使用的维度和边界，都是需要进一步明确的问题。对此，GDPR中“免受自动化决策权”规定未经数据主体同意，自动化决策不得使用包括种族、政治观点、健康数据等在内的敏感数据[18]。日本《个人信息保护法》提出通过数据匿名化降低个人数据泄露风险。“算法解释权”和“遗忘权”都强调了当数据主体的合法权益被侵犯时，有权获悉对具体决策的解释并申请救济。

我国目前采取“一般立法”与“特别立法”相结合的个人数据保护进路，通过《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》等法案，规定了数据安全和个人信息保护的相关法律法规[19]。但我国尚未形成完善的法规体系，法律条款分散、立法层级不高，个人数据保护范围狭窄，实践层面的保护力度较弱，未明确规定个人数据的商业使用边界，名义上数据的个人归属权与平台实际掌握的数据使用权间存在矛盾[20]。因此，我国亟须针对日新月异的智媒科技发展，加速对接国际先进法律条款，扩大个人数据保护的域外效力，完善人工智能发展和数据安全立法体系架构，并推动互联网平台和媒体机构尽快为智能传播产业建立相应的配套机制。

（二）优化算法设计，修正算法弊端

第一，融入新闻价值要素。为了应对快速的网络信息更迭，迎合公众追求快感的猎奇心理，在内容制作和传播的过程中，信息的时效性和趣味性被过度放大，而增加新闻价值要素中重要性和显著性的权重，能够有效降低“信息茧房”的风险。此处的新闻重要性，强调事实影响的人数多，影响的时间长、空间广，与个人切身利益高度相关，重点要找到个人作为社会成员与社会环境建立一致性的方法。智媒时代的社会一致性是基于多数决定的原则，体现不同用户需求的交集。因此，强化重要性原则的基础是尊重个体的重要性，是以国家和社会利益为导向，将多维的新闻价值要素融入标签体系的制定规则中，凸显内容生产的价值理性，充分考虑人的心理和行为的复杂性，使标签更符合信息识别和匹配规律，从而为用户提供更贴近其身份及偏好的多元化的信息内容。

第二，强化主流价值导向。信息本身没有价值观，但对信息的分配能够体现和传播价值观。“阿罗定理”指出，同时满足社会成员的偏好和社会福利是不可能的。因此，作为信息社会的流量通道，在符合算法逻辑的内容分发环节和尊重个人偏好的基础上，融入社会主流价值观，能够实现个人价值与社会价值的平衡，强化算法分发的社会导向功能。一方面，促进大数据技术在各行各业的全面渗透，实现全程、全息数据采集，为用户提供更加广泛的内容选择;另一方面，将价值观嵌入内容采编操作的全过程，通过算法赋值，提高新闻分发门槛，在保持个性化内容市场活力的同时，让更多符合主流价值观的信息能够进入传播渠道[21]。

第三，增加算法、数据透明。结合算法的内部设计规则，通过公开源代码、决策过程和反馈信息等操作，让公众充分了解算法的运作规律、设计意图、适用条件和潜在的与用户密切相关的算法风险。哥伦比亚数据新闻研究中心发布的《算法可信度报告》中提到了“算法的可信任原则”，通过算法的监督机制来保障算法透明，规避算法偏见问题。欧盟发布的《算法责任与透明治理框架》和美国的《算法问责法案》，都对算法透明度提出了明确的要求。此外，区块链技术的应用，能够使信息及用户数据来源被客观记录，使算法设计者训练算法的流程被追踪;加盖时间戳的方式，能够按照时间顺序将数据处理的过程组合成特定的数据结构，便于后期核查、更正。

（三）明确平台责任，强化把关功能

互联网作为社会运行的基础环境，用户、平台和政府是重要的组成部分，其中，互联网平台以其内容聚合和智能分发的优势，居于“中心枢纽”地位，有条件和责任成为新时期的“把关主体”。平台具有双重属性，一方面，平台掌握着网络用户的接入权，以“第三方中介”的形式，完成内容服务供给方和需求方的撮合任务，搭建起多边主体的中间桥梁，表现为“市场”属性。另一方面，正如经济学家让·梯若尔所言，平台需要承担市场“守望者”和“规制者”的任务，这正是媒体“监视环境”和“社会协调”功能在虚拟空间的延伸。而智媒时代互联网平台的环境监测功能更具数据化特征，协调功能更多体现为网络社会的利益协调和管理作用，即从内容的管理主体转变为更加全面的、参与到平台用户行为管理过程中的直接责任主体。

平台角色定位的双重性，决定了其作为不同性质主体所承担的责任不同，形成了“行政监管+协议约束”的基本管理模式。我国网信领域的管理结构是“平台承担直接管理责任，政府通过监管平台承担间接管理责任”。政府将一部分的治理任务移交平台，通过提升监管力度来强化平台主体责任意识。平台与用户之间是契约关系，通过服务协议的签订，明确平台的管理职责，履行平台对用户行为的“把关”义务。“纳什均衡”理论进一步描述了通过传播行为中的利益诉求的表达与冲突完成政府、平台和用户之间的博弈过程，因此，需要规避“技术中立”思想，加强从业人员的职业素养和专业技能，构建以公共利益为核心的“平台把关机制”和人机协同的“全流程把关模式”，利用信息技术优势和不断迭代的数据闭环，实现碎片化信息的“整合性把关”和网络公域行为的有序管理。

（四）提升用戶素养，实现共享共治

传统的以人为绝对主体的人机关系逐步转变为“人机协同”“人机共生”的关系，这就需要用户建立新的媒介素养，重新理解技术的延伸价值[22]。智媒环境下，用户的媒介素养不仅指用户对新的媒介终端的选择与使用能力，更突出表现为算法素养、参与内容生产的能力、“影子把关”能力和个人数据保护的能力。首先，应注重人工智能型算法时代的全民科技教育，通过推送界面多种标注提示、公开算法规则、算法科普内容传播等方式，使公众了解算法运行机制和推送规律，培养用户日常训练算法的习惯，主动对平台推送的内容做出正、负向反馈，以保持信息获取和接触的多元化。其次，应进一步明确用户作为信息生产者的主体权利、责任，以及对个人、公共安全产生的侵权行为和责任归属，提升UGC内容的可信度与质量。再次，应强化用户对不良信息的识别和举报能力，形成权威多源信息整合意识，通过平台设置“举报标签”，建立职业“公众把关组织”，搭建区块链“众筹”事实核查社区等方式，发挥用户的信息再把关作用，减少谣言的跨平台二次传播行为，化解社会风险放大和对抗情绪积累所导致的公共舆情危机。最后，应重视用户需要了解个人数据的“隐身功能”，通过适时关闭通讯录、相册、定位信息等数据获取权限，防范个人信息泄露风险。

总之，在沉浸于内容科技带来的狂欢的同时，研究者们也应当看到技术变革背后人机关系的转变及其所带来的伦理问题。随着技术愈加广泛地渗透人们的社会生活，机器“拟主体性”地位的提升已然改变了传统的以人为绝对主导地位的人机关系。未来，当人机融合模式成为一种常态时，人机关系将从“二元对立”演变为“和谐共生”，那么如何构建“人-机”跨属性的融合规则与伦理关系就成了我们必须要应对的重要议题。这就需要我们更加理性地看待技术的能动性，在适应和掌握快速迭代的科技手段的同时，将人与机器视为价值共同体，通过不断而持续的观察、反思与改进，以人类社会的整体利益和长远利益为核心，充分发挥政府、平台和用户的协同治理作用，实现科技工具理性与价值理性的统一，这是解决智能传播时代技术伦理困境的最有效的途径之一。

[参考文献]

[1]人民网.《2019，内容科技（ConTech）元年》白皮书[EB/OL].（2020 03 27）[2021 01 02].http：//media.people.com.cn/GB/22114/432113/index.html.

[2]高慧敏，殷乐.智媒时代新闻场域身体“在场”与“离场”问题考——基于智能化新闻实践的考察[J].西安交通大学学报（社会科学版），2020（2）：131-138.

[3]MaJ，GaoW，MitraP，etal.DetectingrumorsfromMicroblogswithrecurrentneuralnetworks.Proceedingsofthe25thInternationalJointConferenceonArtificialIntelligence[C].NewYork，USA，2016.

[4]赵渊.人际关系与信息传播变革[J].现代传播，2019（6）：150-154.

[5]宋建武.5G时代媒体融合的新机遇[N].江西日报，2019 08 09（5）.

[6]吴迪.边缘计算赋能智慧城市：机遇与挑战[J].人民論坛·学术前沿，2020（9）：18-25.

[7]彭兰.新媒体用户研究：节点化、媒介化、赛博格化的人[M].北京：中国人民大学出版社，2020.

[8]喻国明，杨雅.5G时代：未来传播中“人—机”关系的模式重构[J].新闻与传播评论，2020（1）：5-10.

[9]陈卫星.媒介域的方法论意义[J].国际新闻界，2018（2）：8-14.

[10]聂智，孙雅.智能传播：工具理性与价值理性的关系重构[J].青年记者，2020（23）：10-11.

[11]陈昌凤，石泽.技术与价值的理性交往：人工智能时代信息传播—算法推荐中工具理性与价值理性的思考[J].新闻战线，2017（17）：71-74.

[12]马克斯·韦伯.经济与社会（上卷）[M].林荣远，译.北京：商务印书馆，1997.

[13]SelectCommitteeonArtificialIntelligence.AIintheUK：ready，willingandable？[R].London：HouseofLords，2018.

[14]高贵武，薛翔.协同与互构：智媒体的实践模式及风险规避[J].青年记者，2019（27）：17-19.

[15]凯斯·桑斯坦.信息乌托邦：众人如何生产知识[M].毕竞悦，译.北京：法律出版社，2008.

[16]BergerJ.，MilkmanK.L.Whatmakesonlinecontentviral？[J].JournalofMarketingResearch，2012（2）：192-205.

[17]郭小平，秦艺轩.解构智能传播的数据神话：算法偏见的成因与风险治理路径[J].现代传播，2019（9）：19-24.

[18]何波.人工智能快速发展，莫忘保护个人隐私[J].中国电信业，2018（2）：59-61.

[19]杨溟.“降临”：媒体智能化进程中的伦理问题[J].青年记者，2020（10）：54-57.

[20]张文亮.个人数据保护立法的要义与进路[J].江西社会科学，2018（6）：169-176.

[21]高贵武，薛翔.协同与互构：智媒体的实践模式及风险规避[J].青年记者，2019（27）：17-19.

[22]张旺.伦理结构化：算法风险治理的逻辑与路径[J].湖湘论坛，2021（2）：121-128.

[收稿日期]2021-06-16

[基金项目]中国博士后科学基金资助项目：网络虚假信息传播机制与治理策略研究（2020M680683）;中国科学院战略性先导科技专项（C类）资助：互联网信息传播引导技术研究及示范（XDC02060000）。

[作者简介]冯雯璐（1989—），女，吉林吉林人，中国科学院计算机网络信息中心博士后，助理研究员，研究方向：网络传播与舆情研究。

猜你喜欢伦理困境基于具体案例就保密原则分析社会工作的伦理困境科学与财富(2016年21期)2017-03-02翻译职业道德准则的伦理困境安徽理工大学学报·社会科学版(2016年6期)2017-01-16脑机接口技术：伦理问题与研究挑战昆明理工大学学报·社科版(2016年6期)2017-01-13基层公务员政策执行过程中伦理困境及对策现代商贸工业(2016年21期)2016-12-26潜在举报人秩序遵循伦理困境分析现代商贸工业(2016年26期)2016-12-26本土文化视角下人力资源管理伦理困境的研究商场现代化(2016年29期)2016-12-23宁养社会工作服务中的伦理困境及反思人间(2016年26期)2016-11-03社会工作的伦理道德观商(2016年21期)2016-07-06关于高校心理咨询教师伦理问题的思考科教导刊·电子版(2016年9期)2016-05-16教师专业化的伦理困境及其突破高教探索(2015年5期)2015-06-01