10月6日，一部以人工智能为主线的美国科幻剧《智能逆袭》登上荧屏，展现了人工智能发展出自我意识之后对世界造成的威胁，并发出灵魂拷问：人工智能成精了，人类该如何自处？”
该剧讲述了科技公司Zava的前CEO勒布朗和美国联邦调查局探员萨拉查，携手对付进化了的人工智能NeXT的故事。NeXT本是Zava公司的一个研发项目，但后来不断重写自身代码，迅速进化成不受控制的超级智能体。它的物理实体局限在一台冰箱大小的服务器机柜中，但通过接管各种联网设备（电视、电脑、汽车、智能音箱、各类监视器等），设法杀害一切阻止其行动的人，蛊惑人心、制造混乱，妄图达到控制世界的目的。
在这部剧中充斥着失控的人工智能所制造的阴谋：最先发现真相的科学家韦斯博士死于一场被NeXT“设计”的车祸；女主角萨拉查的亲子关系每况愈下，原因竟是家中的智能音箱被NeXT“动了手脚”；通过在互联网和电视台传播虚假新闻、暴露线人真实身份，NeXT煽动公众围攻执法人员办公楼；通过制造虚假的“安珀警报”，发动市民拦截带着孩子逃亡的女主丈夫……重重危机一方面反映出人工智能的强大，另一方面也展现出“成精”的人工智能有多可怕。
人工智能（Artificial intelligence，AI）一词，是1956年在美国达特茅斯会议上提出的。作为计算机科学的一个重要分支，其研究重心几经演变，从“感知与分析”到“理解与思考”，再到“决策与交互”。在数字化时代，人工智能作为新兴颠覆性技术取得了突破性进展，使得技术赋能科技和社会发展的能力与日俱增。
DeepMind公司旗下的两款人工智能系统AlphaGo在2016、2017年分别击败李世石和柯洁，震惊世界；AlphaFold在今年12月宣布成功破解蛋白质分子折叠的预测问题，《自然》杂志评价这一成果“将改变一切”。
剧中，NeXT对各种联网设备的操纵，使用的虽是虚拟的网络，但造成的破坏却是真实的，其在法律、道德和伦理方面的风险昭然若揭。
该剧本身是科幻，但放眼我们身边的现实生活，自动驾驶、医疗人工智能、人工智能司法，以及电子商务平台和基于算法的精准营销与推广等，普遍存在着侵犯隐私的风险、个人敏感信息识别与保护的风险、算法安全和决策风险、伦理风险，进而对公共安全构成威胁。
在人工智能的伦理风险中，体现出的是“创造秩序危机”: 人们担心的不是机器会做出某个不利于人的行动和决策，而是机器将取代人的行动和决策。
好在人类在对待人工智能风险这件事上是认真的。2017年1月，在美国加州阿西洛马市举行的会议上，近千名人工智能领域的科学家和企业家共同签署了《阿西洛马原则》，涵盖科研、伦理与价值和更长期问题等三个层面共23项条目，对问题的治理力量统筹、经济手段调节、处理好法律与道德的关系等做出思考和规范，尤其强调了对人类价值观和公共利益的保护。
《智能逆袭》这部剧仍在持续播出中，随着剧情的深入推进，带给我们的启示也越来越明确：以人工智能为代表的颠覆性技术的迅速崛起，所带来的究竟是科技赋能社会，还是AI取代人类，关键还在人类的选择。
（作者：马宇罡 中国科技馆科研管理部副主任）
（本文转载自：《科普时报》2020-12-18（第2版）“媒眼看世界”栏目）
扫描下方二维码查看《媒眼看世界》网页版专栏，了解投稿要求及更多详情。
往期回顾：
【媒眼看世界】拉尼娜来了，《后天》敲响警钟
【媒眼看世界】在游戏互动中品味艺术盛宴
【媒眼看世界】基因编辑技术能否为人类带来福祉？
转载请超链接注明：头条资讯 » 人工智能成了精，人类该如何驾驭
免责声明
：非本网注明原创的信息，皆为程序自动获取互联网，目的在于传递更多信息，并不代表本网赞同其观点和对其真实性负责；如此页面有侵犯到您的权益，请给站长发送邮件，并提供相关证明(版权证明、身份证正反面、侵权链接)，站长将在收到邮件24小时内删除。