2020年05月28日 星期四
首页>传媒透视 > 正文

“降临”:媒体智能化进程中的伦理问题

2020-04-27 15:12:43

来源:青年记者2020年4月上   作者:杨溟

摘要:进入物联网时代的人类社会,区块链、传感器、人工智能等对传统的伦理观念提出了挑战,媒体智能化进程中的伦理问题也极为复杂。

  美国派拉蒙影业公司出品的科幻电影《降临》讲述了一位语言学家和一位物理学家临危受命,与突降地球的外星生物沟通、避免一场人类危机的故事。地外文明、机器人、基因变异、多重宇宙等在伦理层面的纠结与冲突,是主流科幻文学和科幻电影的常见主题。《降临》的理论基础是萨丕尔-沃尔夫假说,也称语言相对论。他指出语言会影响甚至决定人的思维,改变当事人对世界的认知。

  媒体智能化进程也正在经历这样的改变。伦理是人类价值观和文明思考的发端。进入物联网时代的人类社会,在区块链、传感器、人工智能、大数据等新技术的推动下,对伦理的思辨已不仅是科幻的话题,而是关乎文明进程的现实试卷,也是对媒体属性和从业者使命担当的追问。

  人机智能融合背景下的伦理之变

  人机智能融合是研究人与机器、环境系统之间相互作用关系以及人与机器智能化水平的新兴科学体系,是传媒业智能化探索的阶段和趋势。随着科技的发展,伦理问题的重要意义已经凸显。

  媒体智能化进程中的伦理研究有何不同之处?

  1.语境不同。“媒体融合”在当下的研究和探索主要基于互联网语境。传媒业正步入人机交互智能融合(以下简称“人机智能融合”)的阶段,其生态环境、定位目标、支撑技术、作业模式、运营逻辑和组织体系都在发生根本性改变。这种变革不止作用于传统定义中的传媒产业,也包括了技术影响下的诸多传统行业,并因此而改写着对于“传媒”产业新的概念表述。

  本文仅探讨以新闻为主业的群体和产业,在人-机-环境智能融合进程中面临的新语境、新关系、新生态。这种融合生态与互联网语境不同,是跨领域、跨物种、跨属性的。它也势必面临不同角度下的利益权衡和价值评估,面临新的伦理拷问。

  2.理念不同。互联网“人本”体现在对于人的需求的技术满足,“用户第一”的信念成为时代旗帜。其进步意义在于解放了工业时代被流水线零件化的人性,释放出更多个性表达,也使科技创新的创造力前所未有地爆发出来。然而,对膨胀欲望的满足也造成了人类身处世界的失衡、失序,权力分配的差异与不公,过度开采、破坏和伤害自然资源引发的全球性危机。这使我们在提及“物联天下”时,已不仅在指代某种技术趋势,还包含着对于新的伦理思想和文明水平的期待。在物联网环境中,传感等基础技术的出现使我们有条件感知环境、感知其他物种和生命,从而在更高的“人本”层面修复和建构和谐共生的生态。这是伦理研究新的逻辑起点。

  3.本体属性不同。在人机智能融合进程中,人类与正在研制的具有“智能”的机器,以及所处的“环境”都是研究的“本体”。不同属性、物种与人类实现相互体认、理解,才能实现自主决策、自我学习的智能。在人机融合的相互适应中,机器也会进行价值权重的评估。它可能是人类赋予的,也可能是通过自我学习养成的,人与机器之间的理解将从单向性转变为双向性、多向性。①朱利奥·托诺尼的整体信息论表明,一个有意识的系统必须是信息的高速整合。所以,人和机器、环境之间建立的多向信息交互关系,也将进化出有认知能力的机器,实现人与机器之间共同意识的存在,这也是伦理的重要意义,需要建构跨属性的伦理关系和共生规则。

  4.解释路径不同。人机融合智能不仅涉及生理、心理和工效学的人机交互问题,还包括人脑与“机器脑”彼此洞察、认知的问题。它至少在三个方面与传统的伦理解释路径相异:一是在智能输入端,硬件传感器采集的客观数据需要与人的感官接收信息有效地结合起来,并结合人的先验知识,形成一种新的兼容输入方式;二是在智能产生的关键时点,对不同性质、类型的信息进行加工、处理,将人的认知方式与机器的计算能力融合,构建一种新的理解途径;三是在智能的输出端,要将人的决策依据、伦理原则代入机器算法,形成有机化与概率化相互协调的优化判断。②同理,基于机器智能的高级阶段——情绪与意识的唤醒,自主学习与模仿,新模型的实时应势构建,也将出现人类难以控制与支配——即便我们主观上不愿接受——的机器伦理与决策判断。

  当然,目前人机智能融合的发展还处于初级阶段,但如何将机器的计算能力与人的认知能力结合起来,并不是留待将来才考虑的问题。当下人工智能的研究中人与机器的分工明确,没有形成有效的结合。人类在学习中理解态势、跨域联想、混沌感知的直觉能力,以及进行价值和伦理判断的综合决策能力,都是机器缺失的,也是形成机器智能的突破口。

  5.语言不同。电影《降临》提及的神秘语言,可以作为人机智能融合中新“语言”的隐喻。新语言是一种融合式的表达方式,凭借信号、代码、计算等“词汇”和“语音”,形成一种新的“语法”,从而产生一种新的思维,去构建新的社会结构、关系规则。这种新语言是公理与非公理的融合推理,直觉与理性的融合计算。它将采用分层的体系结构,将人类认知过程中由记忆层、意图层、决策层、感知与行动层等形成的意向性思维,与机器通过传感器等对环境感知形成的形式化思维融合。新的“世界语”使人类与机器可以在相同和不同的层次间进行沟通,人类情感、直觉与感悟在机器上得以实现。

  6.方式不同。媒体智能化进程中的伦理问题还表现在人与机器感知信息不对称、决策方向不能达成共识时,伦理介入的时机与方式。人类根据伦理共识的层次以道德或法律的方式加以约束,而人机智能融合中的伦理计算难度则远大于此。在人-机-环境构成的群体态势感知与个性价值导向间的关系,人机交互中的相互接受、彼此容忍、真诚信任、实时适配、配合协同、沟通说服、流畅切换,以及合作效益与个人价值取向的权衡,本身就是跨学科与跨属性的难题,伦理介入的时机与方式影响着决策的结果。从技术角度讲,人机智能融合不仅是一个数学仿真建模问题,也是一个心理学工效问题,还应是一个实验统计体验拟合的问题。

  媒体智能化进程中的伦理研究

  汤姆·罗森斯蒂尔在发布《新闻新伦理——21世纪的原则》③时写道:“技术已在很大程度上改变了新闻采集、处理与吸收的方式,并使新闻与其最终目的又靠近了一步……新闻一直以来都属于公众。现在,新闻伦理必须考虑到受众的角色,社群对新闻的影响以及技术的潜能”。

  媒体智能化与人工智能技术发展有着密切联系。可以说,离开人工智能的传媒业是没有前途的。而具有媒体属性的人机智能融合同样是人工智能发展的重要环节,否则“人工智能”就只是机器学习驱动下的自动化和控制。

  人机智能融合提供了看待世界、处理问题的新思维和新方法,是人工智能与传媒业在物联网时代的一次握手。跨行业的连接性和批判性是媒体的两个基本属性,也是人工智能得以赋能各行业的重要条件。因此,媒体智能化进程中既需要对科学发明的伦理监督,也需要对自身发展保持清醒认知和伦理反思。

  人机智能融合所涉及的伦理问题当下大致可分为三类:

  第一类,有违人类当下的认知共识和伦理原则,是不能触碰和开发的底线。包括人工智能技术在内的研究应符合人类多数人的利益。

  第二类,人机智能融合技术应用的伦理要求。科研成果的转化和应用场景是否符合人类社会健康发展与世界和谐共处的伦理要求,如何通过规则设计加以规范和限制。比如核技术与生化技术用于人类和平还是战争,智能技术用于破坏社会、攻击人类还是帮助人类。

  第三类,在人机智能融合的高级阶段,人类与智能机器人相处的社会伦理规则。在那样一个人机交互的社会环境里,应建立怎样的关系约束和伦理规范?这是人工智能社会学和机器人学要面对的问题。人类和机器人之间是平等还是从属关系?人类能否决定机器人的命运、机器人能否支配人类或替代人类的某些存在方式?等等。

  上述三类,可从技术伦理、社会伦理、职业伦理、商业伦理层面加以梳理。

  1.技术伦理。媒体在智能化升级中愈来愈重视科技研发的重要性。或自主研发、或集成创新、或委托开发,对新技术的敏感度和媒体应用效率也在不断提升。在这样的转型中,对科研原则和伦理底线的审视和坚守尤为重要。

  技术伦理包括技术本源性的伦理问题和技术转化中的应用伦理两方面问题。前者主要指当下形成共识的科学伦理底线。

  比如人工智能领域的阿西莫夫机器人三定律——

  1)机器人不得伤害人,也不得见人受到伤害而袖手旁观;

  2)机器人应服从人的一切命令,但不得违反第一定律;

  3)机器人应保护自身的安全,但不得违反第一、第二定律。

  英国上议院起草了纲领性的人工智能发展“五大原则”④——

  1)发展人工智能是为了人类的共同利益;

  2)人工智能应当保证公平,并且让人容易理解;

  3)人工智能不应当削弱人民的数据权利,不能用来侵犯人们的隐私;

  4)所有公民都有权利接受教育,使他们能在精神、情感与经济上和人工智能一起繁荣发展;

  5)人工智能不应被赋予伤害、破坏或欺骗人类的自主能力。

  清华大学战略安全中心提出了“人工智能六点原则”⑤:福祉原则;安全原则;共享原则;和平原则;法治原则;合作原则。

  概括而言,智能技术研发的底线就是“和平、向善”,以不伤害人为最核心伦理原则。

  2018年南方科技大学副教授贺建奎对双胞胎婴儿进行基因编辑的事件轰动科学界。而该舆论最初的引爆源自某权威媒体一篇题为《世界首例免疫艾滋病的基因编辑婴儿在中国诞生》的报道,报道称“中国在基因编辑技术用于疾病预防领域实现历史性突破”。研发者与报道者对于技术伦理及文明底线的麻木、愚昧和无知令人震惊,社会也未藉此进行充分的科普与伦理解读。

  应用伦理层面,不同场景、不同态势下,智能技术“双刃剑”的复杂性有时难以预判,需要树立伦理和价值观的底线原则,并且进行动态性适配。

  以智能无人机为例。无人机技术本身是中性的,其应用方向和场景成为我们伦理评估的坐标。据报道,2018年4月,因谷歌与美国国防部合作开展人工智能领域Project Maven项目的研究,将AI技术用于提高无人机的精准打击能力,近4000名谷歌员工联名抗议,要求公司宣布一项“永远不开发战争技术”的政策。此举直接造成谷歌此后宣布退出国防部100亿美元的云服务大单竞标。

  2020年1月美军使用其察打一体的MQ-9“捕食者B”无人机,携“地狱火”导弹在伊拉克机场附近精准击杀伊朗“圣城旅”指挥官苏莱曼尼的消息登上了新年各大媒体的抢眼位置。近年,微型无人机实施恐怖空袭攻击地面人员与设施的事件频发,令人防不胜防。

  2.社会伦理。媒体智能化进程中需要考量现实社会、虚拟社会以及人机社会间形成的相互关系,各自承担的责任、义务、行为规范与道德法则。

  2018年初曝光的“剑桥分析”事件也被称作脸书泄密门事件,是媒体在人机智能融合初级阶段的一个重要案例。事关公民隐私、政治和商业多重背景,社交媒体脸书受到美英等国执法部门严密调查。此后不久,欧盟制定的号称“史上最严”的GDPR(《通用数据保护法案》)实施。

  回溯该案,源起于2012年剑桥大学心理测试中心高级研究员科辛开发的一款应用程序。它通过心理学界沿用多年的五大特质心理测验算法,藉脸书用户进行心理分析。拥有20亿用户的脸书上,有27万个账号下载程序参与。看似很小的比例,但以这27万人作为节点,通过进入他们的主页找到关联好友,由此发散开来的辐射力惊人。据举报人称,2014年6月至8月期间,有超过6000万脸书用户的个人资料被获取。而脸书高管披露,剑桥分析可能把网织到了8700万,四分之一潜在的美国选民性格特征暴露在这家公司面前。这一切,账号的主人们毫不知情。作为社交平台建设者与管理者的脸书,是具有强大影响力、并具有智能化和媒体属性的机构。而类似“剑桥分析”这样的测试“游戏”,在我们的微博和微信朋友圈里并不鲜见。这一事件潜藏的重要意义和伦理启示似乎尚未得到我们足够的重视。

  随着智能交互技术的不断发展,隐私权门槛下降已成趋势。尤其在物联网时代,由传感器、无线通信和区块链等技术建构起数字世界,信息孤岛将逐渐消失。那么,如何兼顾隐私保护与数字化服务的技术研发?如何在人机融合的智能化进程中建构安全的社会关系?这是摆在媒体人面前的课题。

  当然,人机智能融合带来的影响远不止于此,比如在人际关系、人机关系方面,对现有的人伦及情感关系所造成的严峻挑战。一些智能巨头早已对人机智能融合的未来有了预判,谷歌人工智能实验室前主任李飞飞教授2017年提出,“人工智能的下一个春天是情绪识别和情感计算”。这既是谷歌对深度融合的超前判断,也透露出其在科研投入上的规划与方向。

  具备人类情感的融合会对传统社会带来怎样的影响?需要我们更富有智慧与想象的社会伦理体系建构能力。

  3.职业伦理。人机智能融合的发展,使媒体行业面临新的伦理考验——

  (1)媒体智能化进程中技术开发、使用的伦理要求。以传感器与无人机为例,传感技术是人机智能融合中的重要内容,对媒体人而言是新的技术样式。种类繁多的物理传感器可以采集环境中的多类数据,生理传感器则可以捕捉人的情绪变化、情感波动。当我们采用这种新技术时,会面临伦理和法律风险。

  美国新闻记者较早采用传感器和无人机进行融合报道,并对传感器等加以改造使之具有更个性化的功能。美国《太阳哨兵报》的一位记者因为传感器辅助报道而获得了2013年普利策公共服务报道奖。但即便是捕捉公共场合发生的事,仍会因公众不了解这种新技术而被认为侵犯隐私权。法律虽保护在公共场所进行信息采集的权利,但并不意味着不需要得到许可。另外,以这些新智能技术采集到的数据,能否成为法律认可的证据,或者适合发表报道,都需要事先进行评估。⑥

  智能眼镜的记录和偷拍功能也素有争议。智能化改变了操作方式,人机之间的理解使得机器更“智能”地按照人的决策加以执行,使被采集对象在无法防备的情况下被识别,并暴露出各种信息。在谷歌街景无线嗅探案例中,资深的伦理专家娜比哈·赛伊德提醒说,即便是在开放无线网络区域中,对数据的非针对性收集依然可能构成对联邦窃听法案的触犯。

  (2)技术应用领域及社会场景的规范与限制。以传感器和无人机的新闻应用为例,即便它的用途不是攻击、贩毒等违法行为,依然有严格的应用场景限制。比如没有取得许可飞过私人领域,会被视作非法入侵。人机智能融合中的感知方式和采集权限正遭遇越来越多的质疑和争议。

  (3)媒体智能化进程中的隐私保护、侵权、监督的边界、责任、义务。以计算机视觉和人脸识别为例。2020年2月,“YOLO之父”、著名科学家Joseph Redmon宣布退出计算机视觉领域,原因是他出于道德上的考虑认为,“基本所有的面部识别研究都不该被发表”。人脸识别一直是人机智能融合中争议激烈的话题,使用该技术也是当下媒体智能化中最常用手段之一。

  2019年4月16 日,美国旧金山通过对《停止秘密监视》条例的修改,成为美国第一个禁止使用人脸识别软件的城市。

  2019年4月20日,我国全国人大常委会审议最新法律草案,禁用深度伪造技术侵害他人肖像权。这将促使智能媒体在换脸、虚拟主持人等技术的应用上更加谨慎。

  在万物互联时代,拥有全面的数字管理能力,将使整个社会处于前所未有的超透明环境中。谁来监督、制约管理者?制定新的伦理规则体系的主体是谁?新闻伦理的合法性往往根植于一个理念,即新闻采集与散播有助于公共利益。因此,许多新闻伦理方面的辩论都会最终指向一点,即这一探索可以满足的公共利益是否超越其潜在的危害。

  乔什·斯特恩斯在《传感器与新闻》一书中指出,在新闻领域对数据的采集、应用、储存和保护的合理性更适合用以下新的准则⑦——

  狭窄性:新闻组织必须缩小关注点的范围,新闻素材应该收集特定的数据。

  最小化:只获取与特定目的相关的传感器数据。没有合理理由的情况下不将资料应用于其他报道项目。

  透明性:是人而非组织拥有与其自身数据的所有权。他们必须充分知情。

  责任性:媒体有责任帮助记者与民众建立信任关系。

  保护性:数据收集和储存有道德要求。新闻组织有义务为公众利益防止数据受到黑客入侵或其他利用。

  著有《人类简史》等书的历史学家尤瓦尔·赫拉利(Yuval Noah Harari)博士在《冠状病毒之后的世界》一文中指出,利用传感器等新技术,赋予公民权力,“我完全赞成监控自己的体温和血压,但不应该使用这些数据来创建一个功能强大的政府。相反,这些数据应该使我能够做出更明智的个人选择。”“如果我可以一天24小时追踪自己的病情,我不仅会了解自己是否对他人构成健康危害,而且还会了解哪些习惯对我的健康有所帮助。如果我能够访问和分析有关冠状病毒传播的可靠统计数据,我将能够判断是否被告知真相,以及它是否在采取正确的政策来对抗流行病。”“当人们谈论监视时,请记住相同的技术同样可以用于相反且向善的方向。”

  我们的责任是“要建立人们对科学、公共当局和媒体的信任,而不是建立一个监督制度,现在还为时不晚。”这也是本文秉持媒体应拥有对核心技术的研究能力的原因,也使科技进步具有真正的媒体属性。

  4.商业伦理。媒体智能化的进程同样应考虑商业模式及其伦理价值观,传媒业应更积极地谋取在公共利益上的数据服务贡献。物联网环境下,智能化融合打开了新的空间,商业模式也涌现出更多可能。其中,伦理既影响技术研发的商业逻辑,也成为运营中重要的成本因素。具有媒体属性的智能企业往往因忽视伦理而付出高昂代价。

  其涉及的原则包括——

  不能因商业利益侵犯消费者权利——公共数据应公开、用户对技术和服务应享有知情权、选择权、追溯权;

  智能化发展中随着各类数据的融合,人、机器与环境之间的相互了解将更加深入、精准。应平衡隐私保护与国家安全、商业利益间的关系,免使公众受到公权力或其他垄断组织侵犯、威胁;

  关注智能技术对就业者生存环境的挤压。考虑技术开发中替代性与辅助性关系;

  媒体应尽量在保障知识产权的前提下,选择开源技术,构建共享、开源和促进信息流通、人机理解的生态环境⑧,减少因算法黑箱造成的伦理缺失,减少决策偏见和歧视,倡导符合传媒价值观的包容、互助、体谅精神。

  结  语

  媒体智能化进程中的伦理问题,比历史上任何一个时期面临的状况都复杂。在美国,至少有3个服务于传媒的专业组织——职业记者协会、波因特学院和网络新闻协会在认真审视新技术将给新闻伦理领域带来的变化。

  笔者建议尽快设立专门性组织或机构,开展媒体智能化进程中法律法规与伦理道德规范的研究工作——

  首先,面对跨学科、跨属性的全新领域,需尽早规划、建模、推演、分析;应积极邀请人工智能、生命科学、政治学、社会学、心理学、法学、传播学、无线通信等学科专家参与,摈除惯性思维与学科壁垒,以自律与反省的态度,批判性的思辨精神投入这一领域,研究建构新的伦理体系。

  其次,开启制度化预设的社会学和政治学研究。人机智能融合时代,将颠覆传统的社会结构与组织体系,离散化管理,人-机制衡的机构设置;等量AI的相互监督,预设AI的基本规范,包括健康、安全、教育、惩罚等内建功能,对异常行为进行校准和纠偏的伦理判断,能够帮助人类校验偏差的AI协同机制,等等,这都需要研究。

  再次,人机智能融合对人类生活的影响是全面性的。世界面临同样的挑战,要建立更高层次的国际协作组织。将融合智能在精准采集与偏好分析上的能力,转换成惠及最多数人的公共政策,转换成预算分配原则和相关法律法规,构建公共资源与数字资产的信息转化平台。

  综上,任何科技的进步都会给当下带来道德难题,伦理总落后于科技发展和法制建设。在媒体智能化的进程中,只有协同、兼顾,对发展中可能出现的伦理问题提早防范,预防性规范,才可实现人类社会文明的更高理想。

  对媒体而言,反思与自省一旦离开科技,将使传媒人坚守的伦理精神化为泡影。不仅是生存的问题,更是生存的价值与意义问题。

  (感谢王勇博士对本文采用资料的贡献)

  注释:

  ①②刘伟:《人机融合智能的现状与展望》,《国家治理》,2019年第4期

  ③[美] 汤姆·罗森斯蒂尔:《新闻新伦理——21世纪的原则》,波因特学院,2013年9月11日

  ④Committee on Artificial Intelligence. Ai in the UK: ready,willing and able?Committee on Artificial Intelligence Report, 2018.04.

  ⑤傅莹:《人工智能的六点原则》,《北京日报》,2020年3月9日

  ⑥[英]娜比哈·赛伊德:《征求许可、错误曝光与诽谤》,《传感器与新闻》,北京大学出版社,2017年版,第144页

  ⑦[美]乔什·斯特恩斯,《传感器新闻的伦理:社群、隐私与控制》,《传感器与新闻》,北京大学出版社,2017年版,第170页

  ⑧[美]欧文·华盛顿:《对开源抱有开放的心态》,美国网络新闻协会,2013年1月30日

  (作者为新华网融媒体未来研究院院长)

来源:青年记者2020年4月上

编辑:范君

网站地图 大都会娱乐官方网站 聚星平台网址 聚星娱乐平台
太阳城登入 太阳城游戏下载 申博138真人游戏 太阳城集团官网
o8欧星登录登入 菲律宾申博太阳城亚洲娱乐官网登入 ag女优厅客服端下载登入 彩99网址登入
大西洋娱乐平台 香格里拉网址 世博国际娱乐 红树林娱乐下载
神话娱乐注册送58网址 大三巴娱乐1138 澳门大三巴娱乐场 大三巴娱乐1138
785DC.COM 766BBIN.COM 818XTD.COM 99sbmsc.com 86XTD.COM
XSB318.COM 658DC.COM 44sbsg.com 505sj.com 588BBIN.COM
1111ib.com 666TGP.COM 173XTD.COM 596ib.com 981XTD.COM
6666ib.com 976SUN.COM 333xsb.com 8PJS.COM 658DC.COM