红色中国网

 找回密码
 立即注册
红色中国网 首页 报刊荟萃 查看内容

人工智能技术对网络舆论引导的影响不容忽视

2019-4-26 22:58| 发布者: 龙翔五洲| 查看: 27241| 评论: 0|原作者: 毛伟|来自: 察网

摘要: “推荐算法”在后台运作的属性无形中赋予了算法制定者隐形而又强大的新闻选择权,其中较为完善的精细化用户画像存在被商业、政治甚至敌对势力操纵或影响的巨大隐患。如果算法取代人工编辑成为新闻的“把关人”,那么由谁来为算法“把关”,将是一个现实存在的监管隐患。
“推荐算法”在后台运作的属性无形中赋予了算法制定者隐形而又强大的新闻选择权,其中较为完善的精细化用户画像存在被商业、政治甚至敌对势力操纵或影响的巨大隐患。如果算法取代人工编辑成为新闻的“把关人”,那么由谁来为算法“把关”,将是一个现实存在的监管隐患。技术并非绝对中立,算法同样可以被赋予新闻伦理和价值观。“推荐算法”强调的是用户偏好而不是新闻价值,但从历史实践看,不加约束和引导的舆论将不可避免地陷入低俗甚至违背伦理道德。

人工智能技术对网络舆论引导的影响不容忽视

随着互联网的快速发展,人类社会由“信息匮乏”进入“信息过剩”时代。

算法主导了新闻内容和采编

近年来,国内外各大主流媒体和新媒体机构纷纷借助人工智能、大数据等前沿技术手段,分析用户在网络平台的信息消费行为和偏好等,并将标榜着能够推测用户喜好的“推荐算法”应用于传播实践,如国内的“今日头条”、国外的Buzzfeed等都是依托“推荐算法”而迅速发展崛起的新媒体平台。而“推荐算法”在为用户提供个性化服务的同时,其广泛商业化的应用导致一些媒体机构出现了算法决定新闻内容、算法主导新闻采写等违背新闻工作基本要求和道德伦理的新趋向,例如一些色情低俗的信息成为“推荐算法”的头条新闻,而新媒体平台“推荐算法”机制本身的不透明也为互联网信息管理带来新的难题和挑战。

“推荐算法”改写传统新闻生产和信息传播模式

1、“推荐算法”引领全球主流信息平台的技术应用

“推荐算法”是借助人工智能技术,通过大数据海量信息的智能化处理和综合应用以实现精准化和精细化匹配。早期的“推荐算法”主要应用于西方商业领域的精准化营销,如沃尔玛、家乐福根据用户的购物习惯,利用电子邮件等进行个性化推荐,亚马逊的电子购物平台向用户进行定制化的广告推送等。随着“推荐算法”的内在理念越来越符合市场逻辑并受到资本青睐,应用领域也愈发广阔,目前“推荐算法”已经是包括搜索引擎、浏览器、资讯客户端甚至影音软件在内的互联网产品的标配,广泛应用于购物网站(淘宝、京东、亚马逊)、影音推荐平台(优酷、Netflix、网易云音乐、Pandora Radio)等。

在新闻信息领域,“推荐算法”的普及应用推动了传统新闻信息生产传播模式的变革。此前,媒体对于计算机智能算法的应用往往是以传播者为中心的,美联社、《洛杉矶时报》等西方主流媒体很早就开始尝试通过算法智能抓取、自动写作并推送热点的财经类、体育类新闻;《卫报》的Open001、《华盛顿邮报》的Heliograf等智能化机器人可以自动完成热点新闻的撰写,并将广大受众可能关注的热点事件推荐给编辑部。

随着智能技术发展以及大数据的不断积累,算法逐渐形成以受众为中心的个性化推送机制,这种“推荐算法”改变了传统的新闻信息内容选择和分发模式。当前国内外不少用户规模处于领先地位的数字媒体平台,其热点新闻推送机制都建立在“推荐算法”的基础之上。

2、“推荐算法”的议题设置和内容分发机制带来的重大影响

媒体采用“推荐算法”,强调通过大数据对用户进行全方面、多维度的“剖析”,对用户“精准画像”,推测出用户可能喜欢的内容并推荐给受众,提供特定场景下新闻信息最优的需求供给匹配。从算法的设计架构看,其底层逻辑是通过抓取内容特征、用户特征及环境特征三个维度的数据,由计算机智能程序力求推测出最契合用户偏好的内容、喜欢的主题内容并进行推送。

这种运行机制具有议程和议题设置属性,其个性化的内容分发机制必然对网络舆论引导工作带来重大影响。实际上,这种依靠技术支撑的新闻信息分发已替代了传统新闻生产中的“把关人”。用户在不同场景下的行为数据被记录、存储,进而识别、筛选,并与用户画像和用户需求相匹配,进而实现信息的个性化、定制化。内容分发模式的这一根本性变革,不仅重塑了用户的内容消费模式,同时全面影响了信息生产机制和整体信息环境。

3、“推荐算法”孕育新的传播模式、促动传媒变革

相比于纸媒和PC门户时代的人工编辑分发模式,“推荐算法”分发利用数据技术,筛选用户感兴趣的新闻资讯,极大地提升了新闻的分发效率。现阶段,在国内外信息传播机构当中,除了以“推荐算法”为基础的新兴资讯平台,门户类以及传统媒体类新闻客户端也都开始探索在产品中加入“推荐算法”功能,以优化用户阅读和使用体验。

在“推荐算法”驱动下,资讯行业进入发展的快车道,促使传播生态发生变革。移动互联网研究机构Quest Mobile发布的《中国移动互联网年度报告》显示,无论从“月活跃用户量”、“移动网民喜好”还是“用户粘性”等指标考察,一批以“推荐算法”为主打业务的科技公司已逐渐转型为互联网信息分发平台,作为活跃的传播主体在移动资讯市场占据了一席之地,具备较强的舆论影响力。在算法不成熟、不完善的情况下,种种失范行为影响了传播生态和正面宣传效果,但其精准推送无疑大大降低了用户获取信息的成本,增加了用户粘度,为各大媒体平台聚拢了人气并带来了丰厚的技术红利。

从现实层面看,进一步优化算法,实现精细化和精准化传播,必然成为媒体发展的大趋势,而在移动互联时代,精准高效的分发模式至关重要,尤其是基于“推荐算法”的传播平台,如果不能将海量信息资源与特定个体需求有效匹配,媒体的生存发展必将受到威胁。

“推荐算法”对新闻管理工作带来新的挑战

“推荐算法”不仅具有新技术属性,同时具备非常强的商业属性和政治属性,这将对党和政府的宣传工作带来一系列新挑战。虽然算法极大提升了新闻信息传播的速度、效度,但也存在明显的局限性。近期,一些以推荐算法为主业的平台上出现不少伦理失范、导向混乱的信息,暴露出一系列难以监管和规范的新问题。

1、“推荐算法”内含价值判断,分词体系缺乏统一思想及系统化指导

实际上,算法也有价值观,基于算法的资讯平台应当秉承新闻媒体的责任感,向用户推送“应该知道”的新闻,而不仅仅是“想知道”的新闻。但从“推荐算法”的内在逻辑看,很难由算法和机器学习本身去完成价值观的选择判断与修正。尽管不同推荐算法的代码呈现、运行效率各有不同,但其内在逻辑和设计思路都是类似的,关键就在于算法的分词体系。实际上分词体系是一种话语体系,所有的推荐内容都会根据这套话语体系重组和分发。而目前人工智能尚未真正突破对复杂汉语系统中有关词汇、语句、段落、全文等的价值取向的判断。

“推荐算法”的运行机制依托于不断更新的内容与受众的匹配度,但现行主流算法的分词体系无法有效做出文字内容的价值观和倾向性判断。例如,算法可能将“西藏”的下一级词汇体系分为“藏羚羊”、“高原”、“油菜花”、“精准扶贫”等反映西藏客观情况及发展事实的中立或正面报道导向,也可能按“藏独”、“达赖”等带有负面倾向的主题分类,还可能将这些相关话语不分彼此地一概纳入。同时,用分词体系对不断变化的网络语言进行价值取向判断更是困难重重。“推荐算法”的价值观内涵于“分词体系”中,而“分词体系”是否合理、价值取向是否正确,目前还没有定论。“推荐算法”的运行机制本身强调的是用户偏好而不是新闻价值,因此很难由算法和机器学习本身去完成价值观的审核与修正。而当前各个资讯平台采用的“推荐算法”的分词体系,并不具备对有关社会主义核心价值等主流价值导向的系统安排和指导。

2、“推荐算法”与现行网络舆论监管运行机制相悖,主流网络舆论引导面临困境

目前,由机器算法和人工智能充当大众传播“把关人”的现状,必然导致信息传播处于无序状态。“推荐算法”在后台运作的属性无形中赋予了算法制定者隐形而又强大的新闻选择权,其中较为完善的精细化用户画像存在被商业、政治甚至敌对势力操纵或影响的巨大隐患。如果算法取代人工编辑成为新闻的“把关人”,那么由谁来为算法“把关”,将是一个现实存在的监管隐患。技术并非绝对中立,算法同样可以被赋予新闻伦理和价值观。“推荐算法”强调的是用户偏好而不是新闻价值,但从历史实践看,不加约束和引导的舆论将不可避免地陷入低俗甚至违背伦理道德。近年来,“推荐算法”的广泛普及与网络舆论监管方法和效率并不匹配,更多依靠媒体自律来保障“推荐算法”能够符合正确的舆论导向,但实际效果往往不佳,“推荐算法”的运行方式实际上跳过了监管环节,其本身就与网络舆论的监管运行机制相悖。

从当前技术发展的情况看,计算机的语言判断、语义处理等研究还需要大量的沉淀和积累,非常具有挑战性。目前每家资讯平台完整的算法体系都是以黑箱和商业机密的形式存在,其不公开和不透明特性使得各界很难了解每个平台算法的具体内在工作机制,增加了监管难度,如何充分调动这些平台的资源做好主流舆论引导工作成为了宣传工作的难点之一。党媒央媒虽然一直在积极探索跟进算法的运用,但由于缺乏“技术基因”,加之相应的机制、人才保障不足,相较于依托科技发展而来的移动信息分发平台仍存在一定差距。

3、正能量的新闻内容生产滞后,不能有效匹配“推荐算法”的传播机制

“推荐算法”的应用在客观上降低了互联网资讯产品的准入和生产门槛,刺激了低俗、虚假、“标题党”等内容的生产传播。而传统媒体采编架构完备,由记者采集信息,编辑对新闻进行人工审核、筛选后再进行推送。而算法推荐模式下,机器不能实现人工的思考,也不能对内容进行价值判断。一些传播平台把算法当作商业运作的利益砝码,崇尚“流量至上”,以流量为选择和传播内容的标准,为了追逐利益在一些灰色地带打擦边球甚至越过红线,导致假新闻、低俗惊悚信息、标题党内容层出不穷。内容的生产和分发是互为因果的——因为有了对低俗信息的需求,所以导致很多自媒体生产这类内容;而在一些不负责任的平台上,因为对算法的过度掌控,让这类内容又能获得大流量和可观补贴,纵容了其劣质生产动力。

同时,当前很多算法推荐平台的正能量内容池“数量小”、“吃不饱”,置顶推荐的主流新闻更新速率不足,用户刷新几次便没有新内容了,而且标题呆板冗长、内容枯燥重复的情况比较多见。在移动互联网时代的舆论传播环境中,要让正面宣传在海量的信息市场里真正具有传播力、引导力、影响力、公信力,必须加大正面报道的供给侧改革,要站在用户内容需求侧的角度考量,提高宣传引导的质量和水平。

4、“推荐算法”导向信息“茧房”,舆论凝聚各方共识难度加大

按照“推荐算法”的运行机制,完全基于用户兴趣的信息供给将造成用户信息和价值观无形中的“窄化”,形成“茧房”效应(个人的信息领域被限于狭隘空间)。“推荐算法”的初衷是推送用户关注的内容,但是算法趋于迎合而不是改变受众的分词体系,导致用户的信息阅读越来越聚焦于个人兴趣,而对与自己兴趣和价值观相异的信息不会关注。

现有的计算机技术中的算法事实上还远没有聪明到可以真实、系统地洞察用户需求的程度,只是对于人们通过行为表达出来的需求进行反馈,而无法判别受众潜在需求。若资讯消费长期处于这种算法框架中,就容易发生信息“茧房”效应,继而加剧网络群体的极化。虽然目前推荐算法能够抓取受众的“兴趣点”,但是不能有效抓取、判断“立场”和倾向性。算法推荐平台倾向于推送受众“想看的”,而不是“应该看的”,这样的“信息孤岛”容易使人们沉浸在自我的话语场中,脱离整个社会的发展,进而加剧社会群体间的隔阂,不利于主流意识形态的整合,给正面宣传工作的开展带来一定的阻力。

5“推荐算法”可能消解党和政府对网络舆论的引导权,舆论被操控风险的隐蔽性加大

基于大数据和用户偏好的“推荐算法”并不能代表正确的舆论导向和新闻价值观,“把关人”缺失,甚至导致有的推荐头条新闻违背社会伦理和新闻道德。表面上媒体管理权和网络舆论引导权在党的手上,但具体到媒体的议程管理上和网络的议程管理上,领导权已经旁落。近年来,在网络舆论中,在事关大是大非的重大问题或突发公共事件上,一些虚假信息通过所谓“推荐算法”、“新闻头条”等在互联网空间大肆传播,成为部分媒体的基本观点,这与党政部门的主动设置议程相冲突,对党和政府的网络舆论引导权带来挑战。

“推荐算法”本身是基于大数据分析、脱离人工干预的纯机器行为,但实际上,“推荐算法”的制定、用户偏好的分析都是基于人工判断后开发的计算机程序,价值观早已内化于算法的研发过程中,借助算法继而操控舆论风险的隐蔽性加大。此外,“推荐算法”需要收集大量的用户数据,监管的缺失也对我国的网络数据安全带来潜在风险。

准确把握“推荐算法”核心规律,切实利用新技术改进网络舆论引导工作

“推荐算法”的运用已成为当前互联网舆论生态环境中的重要组成部分,有关部门必须高度重视持续关注。综合分析“推荐算法”对网络舆论引导和新闻管理工作的影响和挑战,提出以下建议:

1、统一网络舆论平台思想战线,重塑算法价值观和分词体系

从“今日头条”、“东方头条”、“一点资讯”等以“推荐算法”为核心业务的资讯平台实际市场运行效果看,如不加约束和引导,很多人会对离奇夸张、吸引眼球的内容产生好奇和认知愿望。资讯产品的传播效果和阅读量的确是重要的考核标准,但绝不能以此作为“推荐”标准,必须坚守社会责任,避免“唯阅读量”论。在网络新闻信息产品的生产、审核、推荐等领域,各大平台需要主动承担起责任,向“资深编辑+智能算法”相互融合的方向发展。

“推荐算法”型资讯平台在快速抢占市场和舆论空间后,因为传播不良信息、虚假广告泛滥等被社会质疑,受到主管部门责令整改,目前各大平台纷纷采取扩充人工编辑队伍、研发智能机器人筛查等措施应对。由于目前人工智能的高阶技术尚未突破,计算机语义识别和深度学习的发展还需要一定的时间,因此在现阶段,人工审核对于商业平台来说仍是相对有效的手段。但从本质看和长期看,“推荐算法”内在的价值观及分词体系才是真正影响舆论生态的钥匙,对于算法“黑箱”不公开、不透明等问题,有关部门需要跨界联动配合,进行推动和指导,研究构建能够反映主流意识、体现正能量的分词体系。

2、加强网络正能量信息生产规模和效率,用优质新闻信息产品影响受众

为提高正面宣传效果,一些平台尝试建立了“正能量内容池”等机制,规定算法抓取的内容全部来自于经过人工审核后的内容池,而不是简单地全网抓取。但内容池的新闻数量与受众需求严重不匹配,实际上使得推荐算法“失效”。大部分“推荐算法”平台只分发内容但不生产内容,掌握新闻生产资源的部门如新华社、人民日报、中央广播电视总台等,应当积极推进建立符合新媒体表达形式和受众阅读习惯的正面宣传体系,打造符合当前互联网舆论生态的正面报道内容库。

近年来,虽然各大主流媒体纷纷强调新闻报道的内容创新、注重媒体融合和内容跨界,但老百姓喜闻乐见的好新闻、好报道并不多,新闻报道中依然存在很多“唯上”倾向,没有转化为受众化思维,在当前新闻舆论主战场——移动端上“打得赢”的好产品非常少。主流媒体是重要的内容输出端,必须重视新一代年轻群体阅读兴趣、阅读习惯的变化,针对不同年龄群体的偏好,改变传统的正面宣传的体裁和话语体系,让正面报道大放异彩。同时,主流媒体需要针对“推荐算法”等人工智能技术的发展开拓新的舆论覆盖区,如结合“知乎”、“即刻”、“豆瓣”等问答、兴趣小组式智能推荐的特征,运用自身的优质内容包装相关正面话题小组,结合短视频APP的火热发展,策划主题活动,让正面宣传更具亲和力。

3、探索对“推荐算法”的科学管理机制,统筹多方资源尝试从技术维度突破创新

“推荐算法”的出现不仅反映了人工智能技术的发展,而且是人类智慧赋予算法思想、准则和价值观的体现。从理论层面,“推荐算法”中存在的陷阱与漏洞是可以被发现并纠正的。当前,有关部门可以探索科学运用技术手段改进传统监管方式,如通过各大平台的“埋点”数据探索对“推荐算法”的有效管理。“埋点”是数据采集领域(尤其是用户行为数据采集领域)的术语,是针对特定用户行为或事件进行捕获、处理和发送的相关技术及实施过程。每个基于“推荐算法”的平台都会设置“埋点”,监管部门掌握了“埋点”数据,实际上就掌握了平台中哪些有害内容被广泛传播、有害内容有多少、被传播的情况等关键信息。从传播效果回溯,有助于出现问题的平台校正算法或审查算法机制方面的问题,也为监管提供了强有力的抓手。网络监管部门还可以对算法平台的分词体系、标引体系进行监督,给出指导意见,清除监管盲区。

此外,对于受众信息窄化等问题,可以探索运用技术路径解决。当前,一些资讯平台除借助大数据不断改进“推荐算法”外,还自发尝试利用深度学习神经网络模型中的“钟摆”策略,建立多个维度的场景特征库,从用户的多种操作行为中感知用户的生活重心,通过对广度和深度内容的调整来解决传统推荐引擎“信息窄化”的弊端,如短视频资讯平台“看了吗”在传统推荐引擎基础上推出的CVIP系统(场景化兴趣感知系统)等。相关部门应当紧密对接技术前沿动态,加强对各大资讯平台一些具体的核心问题进行指导,如对正能量内容的标准界定、对于分词体系的规范等。

4、拓宽对“推荐算法”的管理视野,构建综合多领域协同监管体系

对于“推荐算法”这样一个快速发展的新领域,监管工作必然涉及技术、法律、伦理、公共政策等诸多领域。目前,新技术、新应用的发展速度迅猛,有关部门应深入研究在法律层面进行规约,尽快推进相关网络立法,对平台方和用户有针对性地加大法律、信用、经济等多维度制约,倒逼开发者提升算法的安全性和准确性。

当前,大部分“推荐算法”平台的运营模式与进驻用户的广告投放密切相关,有关部门可以通过创新平台运营体制,尝试以商业利益的“间接变现”、“延迟变现”形成制约。在新媒体市场领域,几乎无限的商业利益驱动与有限的违规成本并不匹配,应当转变运营平台现行的“直接变现”为“间接变现”,设立第三方账户“滞留池”。在“推荐算法”平台与进驻商户平台获利间设置“缓冲带”,即在流量打赏与金钱变现等之间设立第三方评估,在指定时期内,接受用户投诉和人工审核,未出现问题才能收到相应报酬,有效切断营销商户借助平台的“推荐算法”传播负面信息而谋取利益的途径,避免算法与利益间直接变现。

5、探索研究互联网有害信息溯源管理,真正从源头端形成制约

当前,主流“推荐算法”应用平台出现错误导向问题的新闻信息较多来自于微博小营销号或者微信小公号。由于文字类的新闻或者文章的倾向性判断基本依靠人工审核,机器判断远不能达到图片鉴黄系统那样高的准确率,现行的“机器+人工”的审核力量远不能匹配海量的网络内容,“漏网之鱼”频现。目前的网络管理策略是抓大放小,重点惩戒平台的审核不力,但实际上根源一直未除。一个技术层面可能实现的路径是,政府统一提供一个网络上载的信息接口,所有的网络端公开平台都需要依规使用,如果某条新闻出现问题,监管部门第一时间就能追溯到这条新闻由谁上传、哪个平台转载传播,原发者和传播者同时受到制约。

6、多领域多部门协同联动,探索对“推荐算法”的调整优化

专家学者和从业人员普遍认为,面对算法技术的不成熟不完善,应当打通业界和学界,强化破除部门壁垒,创新协同合作模式,鼓励推动新闻信息平台与高校、主流媒体、监管部门等合作建立相关实验室、研究中心,在技术驱动下不断优化调整算法,助力网上正面宣传做大做强。

计算机技术提供了新的生产力,而“推荐算法”则成为新闻传播领域新的生产要素,更是媒体智能化转型发展的驱动力。党和政府在牢牢把握网上舆论引导主动权的前提下,宜鼓励和保护媒介产业和技术创新,倡导行业市场的良性竞争及和谐发展。建议出台相关政策扶持“好算法”的研发运用,提高大数据的使用效率,开掘大数据的潜在价值,以创新网上正面宣传,全方位提升社会治理的智能化水平。

【毛伟,新华社新闻研究所编辑、中信改革发展研究院研究员。本文原载《经济导刊》2019年第4期,授权察网发布。


鲜花

握手

雷人

路过

鸡蛋

最新评论

Archiver|红色中国网

GMT+8, 2019-5-23 01:30 , Processed in 0.024633 second(s), 12 queries .

E_mail: redchinacn@gmail.com

2010-2011http://redchinacn.net

回顶部