AI来袭，人类如何应对
时间：2021-01-01 10:20:35 来源：达达文档网 本文已影响 人 
中国信息通信研究院
以深度学习、跨界融合、人机协同、群智开放、自主操控为特征的新一代人工智能不断取得突破，已成为新一轮科技革命和产业变革的重要驱动力量。在极大提升人类生产生活品质的同时，新一代人工智能具有的通用目的性、算法黑箱性以及数据依赖性等技术特性，引发了社会、企业、个人等不同维度的风险和挑战，从而对治理提出了专业化、多元化、敏捷化、全球化的迫切需要。
人工智能的技术特性
人类正处于一个前所未有的时期，互联网、移动通信、物联网、云计算、大数据、人工智能等信息技术正在推动社会逐步进入智能化时代。相较于其他领域的新技术，由于新一代人工智能具有的技术特性，使其更为复杂、更不可控、更难预测。
通用目的性，导致风险更为普遍。人工智能作为一项通用目的技术，可以应用到自动驾驶、智能制造、智慧城市、智慧医疗等诸多领域场景中，并且能够与大数据、云计算等数字技术互补互促使用，有着极强的技术溢出效应，对经济社会高质量发展显现出强劲的引领带动作用。但与此同时，人工智能技术风险发生的范围会随着应用场景的日趋广泛而逐步扩大，问题发生的可能性也会随着其应用频次的增长而持续提高，若不及时有效治理，将会严重影响人类生产生活。
算法黑箱性，导致过程更难解释。目前，以深度学习算法为核心的人工智能算法模型被普遍应用，但由于其算法结构中存在多个“隐层”，导致输入数据和输出结果之间的因果逻辑关系难以清楚解释，用户只能被动接受由算法带来的结果而无法洞悉其运行过程，从而形成一种技术“黑箱”。此外，人工智能算法模型还具有自适应、自学习等特性，导致其极易偏离人类预设的目标，其复杂程度愈发超出人类理解范畴。
数据依赖性，导致结果更不可控。数据是人工智能模型训练及优化的“燃料”，是人工智能算法做出正确、公平、合理决策的基础保障。输入数据的数量规模、准确性、通用性、包容性、全面性等质量因素将直接决定训练得到的模型的质量。同时，数据本质上是社会价值观的缩影与映射，因此也会包含一些落后的价值观与社会偏见。若未能对数据质量进行有效把控，人工智能算法模型便很可能习得数据中的偏见谬误，并将其反映到训练结果中，致使人工智能系统的功能行为及其影响变得更不可控。
人工智能引发不同维度的风险
作为引领未来的战略性技术，人工智能在打造经济发展新引擎、推动人类文明迈上新台阶的同时，也给社会、企业和个人带来了不同维度的风险挑战。
社会维度。一是冲击就业格局，加剧财富分化。智能的算法、机器对传统人工的替代在解放人力劳动者的同时，直接带来了对就业的冲击。从事重复性、机械性等工作的劳动者更容易被人工智能替代工作。据麦肯锡报告推测，到2030年机器人将取代8亿人的工作。与历史上的技术革命类似，人工智能的发展同样会导致利益的分化与重构，新创造的社会财富将会不成比例地向资本一方倾斜，低收入与受教育程度较低的人群将在新一轮的社会资源分配中处于严重的不利地位。二是影响政治进程，抹黑政治人物。人工智能在社交服务中的应用能够影响政治进程，利用机器人水军可以进行舆论干预。例如，剑桥分析公司利用人工智能，辅助实施竞选策略，影响美国大选结果。此外，可以利用深度伪造等智能信息服务技术制作关于政治人物的虚假负面视频。例如，2018年4月，美国前总统奥巴马的脸被“借用”来攻击特朗普总统，视频在YouTube上被转发500多万次。三是侵害事件频发，危及公共安全。人工智能安全事故、侵害事件频发，引发社会各界普遍关注。例如，特斯拉ModelS在美国和我国境内都曾发生过自动驾驶致死事故和数起交通事故;2018年委内瑞拉总统在公开活动中受到无人机炸弹袭击，这是全球首例利用人工智能产品进行的恐怖活动;2018年，优步的一辆自动驾驶测试车在进行路试时发生事故，导致一行人死亡。
企业维度。一是不良信息频现，企业审核能力不足。如果向人工智能系统输入不完整、不正确、质量不高的数据，则会产生不良或者歧视性信息，即所谓的“垃圾进，垃圾出”。例如微软公司的人工智能聊天机器人Tay上线后，被网民“教坏”，发布诽谤性的、歧视性的推文。此外，人工智能技术极大地促进数字内容产业的繁荣。预计到2022年，全球互联网流量将达到每秒7.2PB。企业试图依靠传统审核模式实现内容的准确判断并及时应对信息爆炸引发的各类问题，越发捉襟见肘。二是法律责任不明，陷入责任划分困境。由于当前人工智能产品在问题回溯上存在不可解释环节，而且现行立法也未明确界定人工智能的设计、生产、销售、使用等环节的各方主体责任与义务，这给人工智能安全事件的责任认定和划分带来严峻挑战。例如，人工智能医疗助理（例如IBM的“沃森医生”）给出危险错误的癌症医疗建议时的责任认定等问题。当人工智能出现自主决策能力后，自动驾驶汽车因独立智能决策致损时，如何确定侵权主体及划分责任。三是知识产权保护不足，版权认定困难。目前，各国就人工智能生成物所包含的权利类型和权利归属存有争议，人工智能创作物的版权保护仍普遍面临法律滞后问题。例如，澳大利亚法院判定，利用人工智能生成的作品不能由版权保护，因为它不是人类制作的。如果人工智能创作物得不到法律有力的保护，会使得人工智能生成信息的复制和扩散门槛更低，影响投资人、创造人投入人工智能创作的积极性。
个人维度。一是算法偏见现象，影响公平正义。人工智能算法并非绝对客观世界的产物，算法偏见不仅是技术问题，更涉及对算法处理的数据集质量的完整性、算法设计者的主观情感偏向、人类社会所固有的偏见，甚至不同地区文化差异等各方面问题。例如，美国一些法院适用的风险评估算法COMPAS被发现对黑人造成了系统性歧视。二是信息收集多样，侵犯个人隐私。随着人脸识别、虹膜识别等应用的普及，人工智能正在大规模、不间断地收集、使用敏感个人信息，个人隐私泄露風险加大。例如，变脸应用“ZAO”因用户协议过度攫取用户授权、存在数据泄露问题而被监管机构约谈要求自查整改。杭州一动物园因启用人脸识别技术，强制收集游客敏感个人信息而被诉至法院，成为我国“人脸识别第一案”。三是滥用智能产品，侵犯人格尊严。利用深度伪造技术能实现将人脸移转到色情明星的身体，伪造逼真的色情场景，使污名化他人及色情报复成为可能。例如，通过DeepNude软件，输入一张完整的女性图片就可一键生成相应的裸照。
人工智能治理的新挑战
人工智能技术的发展已经进入了某些科技领域的“无人区”，人工智能除技术本身可能发生问题之外，诸多应用在使用过程中也存在负效应。但目前，相应的风险防控机制和规则制定相对滞后，不可控的预期与担忧使得人工智能在创新上面临巨大的压力，人工智能治理也就成为了人工智能技术和应用发展到一定阶段的必然结果。
面对人工智能可能引发的新的全球焦虑，人工智能监管机构应及时察觉、管控危机、防范潜在风险。但目前，各国人工智能监管机构大多由政治实体组成，在应对人工智能等新议题的挑战时，需要与专业知识共同体形成有效联动。因此，监管机构应当以深厚的专业化知识作为治理基石，构建起涵盖人工智能相关的数学、计算机科学等学科的专业化治理团队，为监管提供必要的知识储备和智力支持。
人工智能本身是一门综合性的前沿学科和高度交叉的复合型学科，研究范畴广泛而又异常复杂。人工智能的治理需要计算机科学、数学、认知科学、神经科学和社会科学等学科深度融合，这引发了对于人工智能治理主体多元构成的需求。近年来，国际组织、各国政府、行业组织和企业等各类主体也在积极探索多元主体参与的协同共治治理格局。因为只有在治理过程中，不断推动多领域间进行广泛交流和合作，采用灵活多元的方式，才能避免某些不可逆的问题出现。
人工智能的产业革命呈现出高速迭代化的特征，各种细分领域的产业化应用层出不穷。新兴业态呼唤新的治理方案，在治理原则、治理主体和治理手段上有别于传统治理框架，引发了对于人工智能治理敏捷化的需要。在治理过程中，需要通过不断提升技术手段，优化治理机制，及时发现和解决可能引发的风险，对更高级人工智能的潜在风险持续开展研究和预判，确保人工智能朝着有利于社会的方向发展。
人工智能作为一种通用性技术，所引发的人员失业、公共安全等问题具有全球性，需要全球共同面对并达成全球性共识，而且人工智能的不稳定与多样化应用又呼唤相对统一的治理规则与国际合作。只有世界各国共同寻求有效路径，探索全球问题的解决之道，才能使人工智能在可见的甚或遥远的未来更好地造福于人类，及时管控可能的危机以及防范潜在风险。
编辑：张程 3567672799@qq.com
