因为这项“危险技术”，11家互联网公司被约谈！
来源公众号： 侠客岛
微信ID：xiake_island
3月18日，国家网信办、公安部指导各地网信部门、公安机关，依法约谈11家互联网企业，包括映客、小米、快手、阿里、腾讯等互联网巨头。
值得关注的是约谈事由。相关公告称，这些企业的软件被点名“未履行安全评估程序”和“涉‘深度伪造’技术”，要求其认真开展安全评估，切实履行企业信息内容安全主体责任。
一
2019年6月，一款名为DeepNude的App风靡全球。用户只需上传一张照片，其中人物便可自动“脱掉”衣服，裸体示人。
2020年12月流传的一则视频中，“英国女王”在发表圣诞致辞时突然跳上桌子手舞足蹈，说自己早就不满于对着镜头念稿。事后媒体承认，该视频是将女王面孔合成到演员身上制成，用以警示人们“虚假信息充斥网络”。
今年，不少短视频平台推出魔性“蚂蚁呀嘿”视频。玩家只需上传一张照片，图中人就能扭起脖子、瞪着眼睛唱歌。有网友说：只要找到脸，蒙娜丽莎都能蹦起来。
这些产品的基础都是深度伪造技术。
所谓深度伪造（Deepfake），是指有关软件通过AI换脸、语音模拟、视频生成等方式，对既有图像、声音、视频进行篡改、伪造，自动生成音视频产品。
深度伪造通常由生成器、鉴别器两个系统组成。生成器生成假音视频片段，鉴别器辨别该片段真假，从而构成“生成式对抗网络”，通过不间断“反复生产”，合成能以假乱真的音视频。
技术有了，应用场景就多了。
比如，逼真的虚拟教师能让数字教学更具互动性，虚拟主播在各大媒体平台吸睛不断，影视作品可凭虚拟化身突破创作的时空限制，医疗、零售、娱乐等领域的人形问诊机器人、虚拟客服、虚拟偶像等也多由深度伪造生成。
但同时，深度伪造也被视作当今世界“最危险的AI技术”之一。
例如，DeepNude“脱衣换脸术”就曾进入国内市场，在一些平台上只需100元即可打包购买数百部换脸色情片；某反欺诈语音软件公司对美、英、法、德4国的语音合成市场调查结果显示，每638个欺诈电话中就有一个是人工合成声音；美联社报道称，一名间谍使用深度伪造技术生成图片，在某职场社交平台多次骗取行业信息。
短视频平台上流行的“蚂蚁呀嘿”视频（图源：网络）
二
在美剧《越狱》中，男主角的兄长被控谋杀，唯一的证据是停车场内的监控视频。经过无数波折，男主角最终发现这视频居然是剪辑、拼接修饰而成。那时还没有深度伪造技术，但显然，现在的技术给类似事件提供了更多实现的便利。
有研究论文称，深度伪造可让人“言”所未言、“行”所未行，甚至成为实施色情报复、商业诋毁、敲诈勒索、网络攻击等非法行为的工具，损害个人和企业合法权益。
美国情报界2019年研究报告称，深度伪造已为美国带来一系列安全风险，包括出现了“假奥巴马”在换脸视频中人身攻击竞选对手、“假特朗普”出镜批评别国环保政策等假视频。该报告称：“敌对势力很有可能通过深度伪造加强对美国及其盟友的影响渗透。”
深度伪造还能通过篡改新闻报道、传播虚假信息，削弱国家机构及官方新闻媒体公信力，扰乱公共秩序甚至政治秩序。2018年，印度有人在即时通讯软件上散布利用深度伪造技术制造的虚假信息，导致一些无辜民众被认为是绑架儿童的嫌犯，最终有20余人被殴打致死。
此外，深度伪造还可能加深公众对各方的不信任感，进而引发社会忧虑、信任危机。
中国传媒大学国家传播创新研究中心副研究员姬德强表示，在人类历史中，“眼见为实”占据着最基本的认识论权威，大家相信视觉文本的客观属性。如今，深度伪造对此构成了前所未有的挑战，很大程度将冲击基于“真相”的社会意义和价值空间。
换言之，有了PS后，有图不一定有真相；有了深度伪造呢？你看到和听到的都未必是真实的。
美国华盛顿，一名记者观看“深度伪造”视频。图源：视觉中国
三
对深度伪造严加监管，刻不容缓。
在国际上，比如美国近年来陆续出台包括《2018年恶意伪造禁令法案》《深度伪造责任法案》在内的多项法案，对深度伪造技术进行严格的使用限制。
中国《民法典》规定，任何组织或个人不得以丑化、污损，或利用信息技术手段伪造等方式侵害他人的肖像权，未经肖像权人同意，不得制作、使用、公开肖像权人的肖像。
2020年12月，中共中央印发《法治社会建设实施纲要（2020-2025年）》，提出制定完善对网络直播、自媒体、知识社区问答等新媒体业态和算法推荐、深度伪造等新技术应用的规范管理办法。
从技术角度讲，对深度伪造的负面应用要严防死守，有两方面关键操作：
一是事前识别。将识别伪造音视频技术部署在传播渠道前端，禁止虚假内容发布，或至少提出警告。业内人士建议，相关部门可尝试建立全网“数字水印或签名”系统，所有要播发的音视频、图片，都须打上数字水印或签名，便于追溯查询。
二是事后鉴伪。例如，鼓励企业加大对鉴伪技术研发的投入，抓紧开发能识别深度伪造内容的工具。还有研究人员指明，区块链技术或将成为“恢复互联网信任”的最佳切入口。
网络技术与人工智能在带来技术红利的同时，也将达摩克利斯之剑高悬于人类社会的头顶。如何兼顾技术进步与社会伦理、平衡收益与风险并兼顾发展与安全，将是未来人类社会的一场大考。
文/点苍居士
编辑/绫波、云歌
相关文章
-
民营企业融资约束有五类原因，其含义和机制分别是什么？
民企融资约束的原因。民营企业尤其是民营中小企业面临较为严重的融资约束几乎是一个世界性问题，因此国内外学者都对其原因、缓解措施等都进行了大量有益的探索。文献中对民企融资难或融资约束问题的研究更多地与中小企业融资问题紧密关联，因为中小企业中绝大部分是民企。总结现有文献，对民企融资约束形成原因的研究大致可以归为五类。一是基于信息不对称。中小企业缺乏正规财务报表等数字化信息，信息收集和甄别成本高，从而使得...
2022-07-30 18:46:00 民营五类含义 -
原因揭开：中奖千万后为何到手还不到二十万？彩民：又交“智商税”
引言当下社会各个城市，各条街道上的彩票站人流涌动的局面就凸显出了大家对这种“不劳而获”生活方式的向往，这并不是因为大家不够勤劳，而是在当代社会有钱的人吃山珍海味、住别墅豪宅，没钱的人辛辛苦苦勉强为生，这种不平衡的局面让很多人都有了一夜暴富的想法，而落实这种想法的渠道之一就是买彩票。在新闻上很多人都听过某些人凭借着中大奖改变人生命运，走上人生巅峰的案例，这更吸引无数彩民疯狂购买彩票。可彩票中奖真的那...
2022-07-30 18:46:00 二十彩民智商 -
2022年国家要严查退休人员？是何原因？“4类人”可能包括在内？
引言对于当下社会上的打工人来说，大家自然都希望能够尽早过上“退休养老”的生活，虽然对于很多已经退休的老人来说，他们却羡慕这些年轻人仍有精力工作打拼，但很多年纪轻轻的公司职工却已经为自己的养老生活做好规划。在这样一个充满竞争内卷的时代，可以不用工作就能享受到每个月发放养老金，逛街下棋跳舞的乐趣对年轻人来说的确是一种奢望。不过在大家筹备养老生活时也需要知道国家为我们提供的养老保障虽然非常完善且人性化，...
2022-07-30 18:46:00 退休人员何原因国家 -
比房产税还高？或上调20%，三省已试点，新规下两类人需要留意
引言自从第一次房改政策开始实施以来，我国对于房地产行业的改革制度进行了多次调整，但是无一例外对于房地产行业的发展起到了极大的推动作用。在国家政策的支持下，房地产行业发展的如火如荼，近二十年以来我国房价也是出现了高速上涨的趋势。而这所导致的直接后果就是老百姓买房变得越来越困难，很多刚需买房者想要买一套属于自己的房子，许多人几乎万付出大半生的心血。但是房子对于国人来说有着非同一般的意义，在国家宏观政策...
2022-07-30 18:46:00 两类三省新规 -
一年被赚走2000亿，中国成外资巨头印钞机！国内药企为何不争气？
文丨华商韬略 马来 对跨国生物医药企业来说，过往的一年充满了“震荡”。行业内的几家巨头，先后经历了并购、重组与任职调整。短时间内，这些变化无疑影响了企业的股价。 但纵观全年的营收表现，人们却发现，跨国药企并没有受到太多影响，从其公布的数据中便可见一斑。 上半年，多家跨国药企纷纷发布财报。强生率先交出了“成绩单”，2021年，他们的营收规模达到了937.75亿美元，较上年增长了13.6%。 ...
2022-07-30 15:46:00 中国不争气巨头 -
“财政奖励中介卖房”第一城，出现了
文丨华商韬略 新媛 “凡在今年下半年期间，中介机构每销售一套商品房，将给予1000元奖励。” 回顾今年上半年， 房地产市场萎靡不振，各地政府为了刺激消费，更是想出了颇多“奇招”。 7月24日，江西省宜春市住建局发文称，其于七月初发布《关于促进樟树市房地产业良性循环和健康发展若干措施》正式实施后，目前销售面积环比以及销售额环比同时上升了6成还要多。 据悉，在补贴政策中，凡在2022年7月1日...
2022-07-30 12:46:00 卖房出现了一城 -
美联储博斯蒂克：美国经济没有衰退 应继续加息抑制通胀
当地时间周五（7月29日），亚特兰大联储主席博斯蒂克驳斥了美国经济陷入衰退的观点，他表示，美国经济尚未陷入衰退，美联储仍需进一步提高利率以遏制通胀。...
2022-07-30 09:35:06 美联储 -
流动性研究中，在波动性高的熊市条件下，流动性风险的共性更大
流动性共性的风险溢价。在2005年以前，关于流动性共性的风险溢价的研究较为鲜见。直到Achaya和Pedersen基于代际交叠模型和CAPM模型构建了流动性调整的CAPM模型，该模型首次将流动性和流动性风险纳入一个统一的框架进行分析，创新性地将流动性溢价分解为两个部分，第一部分代表预期平均非流动性水平，第二部分是净流动性风险因子，可以被分解为三种流动性风险，分别对应：股票与市场的流动性共性、股票收...
2022-07-30 06:46:00 流动性熊市更大 -
优待证发了后，退役军人该怎么用？有老兵说不好意思用？大家咋看
引言军人是非常光荣的一份职业，它承担着保家卫国的责任，是崇高的，也是伟大的，我国对于军人以及退役军人是有很多优待政策的，而退役军人的优待证就是其中一种。退役军人在我们生活中非常常见，服兵役是每个公民的义务，也是光荣的责任和使命，但是军人退役之后，国家也会为其发放优待证。在我们生活中却很少见到有人使用优待证，这是因为什么呢？有一些老兵还表示自己不好意思使用优待证，为什么会有这种想法呢？优待证发了后，...
2022-07-29 21:46:00 优待证发了该怎么 -
房产证拿到手后别大意，3件事需要办好，不然房子有可能不属于你
引言房子对于我国老百姓来说有着非同一般的意义，尤其是近几年以来，房子的属性一再被刷新。如今房子关系到我们生活中的方方面面，可以说如果没有房子，那么自己在这座城市中就如同一个过客，没有任何归属感可言。而近几年以来，房价不断上涨，给很多人的买房增加了难度，即便是能够凑出首付，几十年的房贷也让人感到压力很大，老百姓买房难已经成为一个社会问题。国家对于民生问题一直非常重视，老百姓买房难自然也是国家担心的，...
2022-07-29 21:46:00 有可能房产证件事
