技术滥用问题引发担忧 全球人工智能发展步入治理轨道

　　技术发展带来难以预知的风险和挑战

　　全球人工智能发展步入治理轨道

　　□ 本报记者 赵阳

　　当前，全球人工智能技术快速发展，对经济社会发展和人类文明进步产生深远影响，给世界带来巨大机遇。与此同时，人工智能技术也带来难以预知的各种风险和复杂挑战。

　　今年以来，多个国家和地区聚焦人工智能的治理工作已陆续展开。在全球开启科技竞争的同时，各国人工智能治理体系也在迅速形成。

　　技术滥用问题引发担忧

　　1956年被公认为人工智能元年。从那时起至今60余年，人工智能技术在经历两次发展浪潮后，以去年11月30日ChatGPT深度学习技术的推出为标志，开始催生出各种各样的创新应用。快速迭代的技术不断颠覆人们的想象，但随之而来的技术滥用问题也引发担忧。

　　11月7日，日本《日经亚洲评论》刊发的《人工智能正在放大东南亚新数字公民面临的风险》一文，就证明了这种担忧不无道理。

　　平台经济的兴起以及数字化的推进，正在帮助东南亚新兴市场跨越式地迈向现代化。截至2022年，东盟的互联网人口达到4.6亿，在过去3年新增了1亿用户。其中3.7亿人会在网上购物。

　　这种跨越式发展令人兴奋，但在技术发展的复杂时期，人工智能尤其是生成式人工智能的兴起，加剧了东南亚新上网人群受到的欺诈威胁。

　　文章介绍了一种常见的诈骗手段——“鱼叉式网络钓鱼”，即向受害者发送看似真实的电子邮件，其中包含链接，如果点击这些链接，就会触发恶意软件。这类骗局对东南亚社会弱势群体的影响尤为严重。网络安全公司Darktrace的数据显示，由于生成式人工智能助长了欺诈行为，今年前两个月，电子邮件攻击数量同比增长135%。

　　文章认为，网络犯罪在东南亚已经是一个紧迫的问题。根据IBM(国际商业机器公司)的数据，截至2022年，该地区网络欺诈案件在全球所有同类案件中占31%。弗雷斯特研究公司去年进行的一项调查显示，东南亚市场四分之三的企业决策者表示，过去一年受到了网络欺诈的影响。

　　文章最后总结称，随着东南亚数字经济参与者数量的激增，犯罪分子可以利用的切入点也越来越多。可能针对一个消费者，可能针对一个小创业公司的实习生，还可能针对街角商店的销售系统。虽然对这些小实体发起的攻击不太可能立即对整个网络系统产生深远影响，但对于生计会受到严重影响的东南亚购物者或小企业来说，这种攻击将使他们及其周围的人不愿再使用数字服务。

　　不仅如此，“人工智能嘴替”已在多个国家蔓延。美国总统拜登就透露他曾看到自己讲话的深伪产品，对图像的逼真程度感到吃惊。

　　多国和地区着手加强治理

　　毋庸置疑，人工智能的飞速发展正在颠覆人类认知，它会不会打开“潘多拉魔盒”？尽管这种担忧之声未免有些杞人忧天，但也正是这种担忧的存在，促使全球多国和地区纷纷着手加强管理，以保证科技创新与规范并进。

　　当地时间6月14日，欧洲议会以499票赞成、28票反对、93票弃权的压倒性优势通过了《人工智能法案》草案。根据草案，欧盟将人工智能系统(如ChatGPT等)划分为不同的风险组。应用程序越危险，适用的规则就越严格。同时，欧盟还正着手制定全面的人工智能禁令，比如禁止鼓励危险行为的交互式对话工具，以及用于预测谁将犯罪的预测性警务工具等。

　　10月30日，拜登签署了一项关于人工智能的行政命令，被美国媒体称为“有史以来政府为推进人工智能安全领域所采取的最重大行动”。此外，美国商务部还将给人工智能生成内容，比如通常被称为“深伪技术”的AI生成音频或图像，制定更加严格的标准。加拿大、韩国、日本等国家同样开始在人工智能领域采取规范和限制措施。

　　作为人工智能大国，中国在全球人工智能治理上从未缺位，一直在致力于提升人工智能技术的安全性、可靠性、可控性、公平性。

　　4月11日，中国国家互联网信息办公室发布《生成式人工智能服务管理办法(征求意见稿)》(以下简称《征求意见稿》)，促进生成式人工智能技术健康发展和规范应用。《征求意见稿》在明确了对人工智能算法、框架等基础技术的自主创新、推广应用、国际合作的鼓励态度，在支持优先采用安全可信的软件、工具、计算和数据资源的同时，划定了相关范围，即办法管辖范围、办法管理权限、“提供者”的责任主体认定。此外，《征求意见稿》还将为未来生成式人工智能服务提供者在从业过程中的底线和规范提供法律依据。

　　而早在2021年12月，中国就向联合国《特定常规武器公约》第六次审议大会提交《中国关于规范人工智能军事应用的立场文件》。2022年11月，中国又向联合国《特定常规武器公约》缔约国大会提交了《中国关于加强人工智能伦理治理的立场文件》。这些主张坚持维护人类福祉，坚守公平正义，体现了大国责任担当。

　　向国际社会提供中国方案

　　毫无疑问，人工智能正在席卷而来，这场深刻的革命，将彻底改变我们这个时代和生活。面对人工智能技术带来的难以预知的风险挑战，国际社会迫切需要加强人工智能治理，推动人工智能朝着科技向善的方向发展。正如联合国秘书长古特雷斯所指出的，要带着“一种紧迫感、一种全球视野和一种学习者的心态”来应对这项技术，各国应展开协调并设定红线，争分夺秒推动人工智能造福人类。

　　在这场风险挑战中，中国向世界提供了人工智能治理方案。

　　在11月1日英国布莱奇利园举行的首届人工智能安全峰会上，中国代表指出，人工智能治理攸关全人类命运，是世界各国面临的共同课题。发展人工智能，应当积极倡导以人为本，智能向善，加强技术风险管控，并在相互尊重、平等互利的原则基础上，鼓励各方协同共治，增强发展中国家在人工智能全球治理中的代表性和发言权，不断弥合智能鸿沟和治理能力差距。中方愿与各方一道就人工智能安全治理加强沟通交流，为推动形成普遍参与的国际机制和具有广泛共识的治理框架积极贡献智慧。

　　而在不久前，中方在第三届“一带一路”国际合作高峰论坛期间提出《全球人工智能治理倡议》，就各方普遍关切的人工智能发展与治理问题给出建设性解决思路，更为人工智能相关国际讨论和规则制定提供了蓝本。比如支持在充分尊重各国政策和实践基础上，形成具有广泛共识的全球人工智能治理框架和标准规范；支持在联合国框架下讨论成立国际人工智能治理机构；加强面向发展中国家的国际合作与援助等。展现出中国推动完善全球治理的大国担当，是中国积极践行人类命运共同体理念，落实全球发展倡议、全球安全倡议、全球文明倡议的具体行动。

　　人工智能治理攸关全人类命运，是世界各国面临的共同课题。中国提出的方案将有力推动各方增进对话合作、凝聚共识，共同构建开放、公正、有效的治理机制，促进人工智能造福全人类。（法治日报） 【编辑:田博群】