在人工智能加速智能化变革的同时,针对人工智能的伦理规范、风险框架、以及治理理念和模式的探索成为各国学术界和政策界的重点工作。360首席安全官、天津智慧城市数字安全研究院院长杜跃进称,人工智能作为中、美、欧等国家或地区都在积极发展的关键新兴技术,其在发展过程中所产生的安全挑战也更为复杂多元,世界主要国家和地区已经将安全治理列为各自人工智能战略的优先事项。
目前,各国普遍关注的人工智能安全问题共十类,包括网络安全问题、企业合规问题、可解释性问题、隐私安全问题、声誉和伦理问题、未来劳动力问题、公平性问题、人身安全问题、社会稳定问题、以及国家安全问题。而以上挑战映射到人工智能的研发和应用过程,又可以划分为人工智能自身安全、衍生安全、以及人工智能赋能安全等核心安全挑战。
报告显示,作为一种数字技术,人工智能“双刃剑”特征明显,不仅自身存在数字安全威胁和隐患,随着人工智能工程化、场景化、平台化落地不断加快,人工智能安全需求已经超越单纯技术范畴。面对日趋复杂的安全挑战,人工智能安全治理难以一蹴而就,只有在实践中不断摸索,才能将人工智能安全风险遏制在可控范围。
报告对各国人工智能安全治理模式进行了深入剖析,针对上述问题,报告主要发现:美国流派在人工智能安全治理上采取的手段是在人工智能技术部署、使用与监测的全过程中都进行验证与监管,建立与之配套的规范体系;欧盟流派则更寄希望于运用监管框架与信任体系来对人工智能的安全进行规制,其规制更倾向于人权方向;相较美国与欧盟,中国流派的人工智能安全治理致力于形成内含研发、管理和应用的全流程安全保障体系,涵盖基础框架研制、基本安全原则、供应链管理实践指南、安全服务能力、应用领域的标准研制等各个方面。
为了避免人类社会发展被技术创新所“反噬”,也就是落入所谓的“科林格里奇困境”,产学研各界以监管和设置可操作性原则为主导,通过治理实践凝聚共识,探索人工智能安全治理的思路与模式。报告详细介绍了业界通用的各类风险治理思路,首先是基于未来风险预防的影响评估模式,其次是基于自主性原则的元监管模式,然后是基于透明追踪的AI系统预警模式。并由此细分出以用户为考虑重点的参与性设计和以政府为主导力量的敏捷治理两条路径。
在中国,360等多家人工智能龙头企业以自身实践构建行业安全案例,走出了技术赋能、行业规制、平台监测的多种道路。其中,360承建了科技部牵头成立的“安全大脑国家新一代人工智能开放创新平台”建设,集中解决各类人工智能发展问题,引领人工智能安全生态建设。
作为报告联合发起方,天津智慧城市数字安全研究院依托于新一代人工智能创新发展试验区核心区——中新天津生态城提供的丰富应用场景,紧紧把握新型城市发展规律和机遇,致力于促进人工智能与经济社会发展深度融合,助力打造“智慧城市国家级标杆区”。
随着数字经济成为改变全球竞争格局的关键力量,人工智能产业将得到更大发展。同时,人工智能安全治理也将得到全世界的关注和推动,《全球人工智能安全治理》报告作为相关领域的权威论著,也将为人工智能产业的健康发展贡献一份重要的力量。
东西问丨莫毅明:中国数学研究如何借助国际交流飞速提升?******
中新社香港1月30日电 题:中国数学研究如何师夷长技飞速提升?
——专访香港数学家莫毅明
中新社记者 韩星童
1980年,莫毅明在普林斯顿大学工作期间,遇到了首批来自中国的留学生,他们一边汲取新知识用于推进自己的学术研究,一边将国外先进的研究成果介绍回国。莫毅明从他们身上看到了推动国家数学发展的动力和梦想。
不久前,莫毅明获得2022未来科学大奖—数学与计算机科学奖,他近日接受中新社“东西问”专访,回溯自己的数学梦,也梳理中国数学如何从改革开放前的落后状态,师夷长技,奋起直追,取得丰硕成果。
现将访谈实录摘要如下:
中新社记者:可否谈谈您是如何踏上“数学之旅”?这一过程中,是否有对您影响深远的人?
莫毅明:我父亲对数学感兴趣,我很小的时候就希望做一些对中国有贡献、对中华文化以及文明有贡献的事情。我小时候资源很少,都是从图书馆借书回来看,或者看高我一级的姐姐的课本。那时候数学刚经历改革,从旧数学过渡到新数学,我恰好是在这个关口,我姐姐那一年还是念旧数学,我就开始念新数学,她的旧数学教材我就拿来念,是比较以解题为中心的,比如平面几何,我非常感兴趣,也非常着迷。我既学了非常有内容、比较古典的数学,也受到新数学几何集合论与数理学逻辑的影响。
我中学的那位老师水准应该是教大学的,他编写的教材用新数学的语言把旧数学的内容放进去,还把一些新数学里的基础数学内涵较早地讲给我们听,比如线性代数、概率论等。我离开香港的时候数学根底已经比较扎实了,范围比较宽,也比较深,所以到大学的时候马上就可以学习研究院的课程研究了。
中新社记者:您认为作为一个数学家,为何掌握不同学科的知识也如此重要?
莫毅明:在很多大学,学数学可以拿文学硕士,也可以拿理学硕士。其实,做数学需要有很多灵感和创造力。因此,有人把数学看成是在文科和理科的中间。
很多数学家都有别的能力,比如同时也是音乐家、画家等,而我就对文学很感兴趣。一个人如果对世界了解得比较宽,自然灵感来源就多了一些。
中新社记者:您如何理解数学之美?跟别的学科相比,它更吸引您的地方在哪里?
莫毅明:“宇宙之大,粒子之微,火箭之速,化工之巧,地球之变,生物之谜,日月之繁,无处不用到数学。”这是华罗庚的名言。数学的美是一种比较抽象的美,是可以用很简单的方法叙述一个真理,特殊的例子可以一个一个情况去解决,看通以后可以几句话就把很多的努力总结起来。它的美就在于简洁,而且要贯通。
在数学的世界里面,要解的问题总比能解答的人要多。所以,只要有人类,数学这个学科就会存在。这个追求过程无穷无尽,这也是吸引我的一个方面。
银河星空。吴德军 摄中新社记者:从宏观角度来看,您认为数学研究需要怎样的环境?香港和国家整体的数学水准,跟世界最高水准相比如何?
莫毅明:数学要发展,要有很多有动力和梦想的人。1980年,我在普林斯顿大学工作,那段时间遇到第一批中国留学生,他们非常有动力地去学新的东西,一方面是自己做研究,另一方面是把这些新的内容介绍回国,我也一早就参与了这个行动。当我在斯坦福大学写完博士论文后,第一个学术项目就是到中国科学院做了一个月的演讲,从学生的角度把一些比较新的东西介绍给他们,也是在那个场合,我开始认识一些后来的合作伙伴。
今天跟1980年比较,中国在数学领域的进步是非常明显的,可以说取得了非常优秀的成果,在某些数学领域达到了世界水准,人才也是辈出。我对中国数学的发展充满信心。
要让中国的数学水准提升得更快,研究的环境、交流的环境是重要的,需要有一个开放的环境,比如数学研究所举办研讨会或者数学会议,我们应该寻找更多机会跟国际上各方面优秀的人才分享彼此的研究灵感、成果,在互相交流的过程中或许可以找到新路径,我个人也得益于有这种机会。
2022年7月,第九届世界华人数学家大会(ICCM)在南京举行,莫毅明通过视频发言。泱波 摄中新社记者:您在香港和海外都拥有读书、执教的经验,您认为中西方在数学研究和相关人才培育方面,有哪些相同和不同的地方?
莫毅明:可以从大学学习中看出一些区别,中国可能比较重视每个领域的基础课程,这受到考试制度的影响。国外的考核方式灵活一点,我也吸收了这些经验并尝试在香港大学的教学设计中实践出来。举个例子,研究生水准的课程,除了让他们去做一些习题,我还会利用口试形式。
在做研究的时候,很重要的一点是,学生有能力提出问题,也能够对别人提的问题作出比较迅速的反应。做研究往往是别人没有做过的问题,所以需要在别人的知识的基础上构思一些新的想法去做新的题目。说一百句别人知道的话,比不上说一句别人没有说过的话。现在中国教育需要做的就是让学生有表达自己的机会,我个人试图让学生在表达自己的过程中,找到新的方向或者解决问题。
中国的数学文化很着重解题,解题是很重要的,但要创造新的方向是要综合各个方面或者有崭新的想法。这种能力应该是通过别的途径获得的,跟有经验的合作者交流是很重要的,我非常鼓励国际上的合作。
中新社记者:您于2022年10月当选香港科学院副院长,也是香港第五位获得未来科学大奖的科学家,您对未来加强香港和内地的科研交流与合作有何想法?
莫毅明:香港科学院涉及到很多别的学科,香港在哪一方面可以更表现自己,让全世界知道香港在自然科学方面是站在世界的很高的水准,这些都是需要照顾的地方。让香港科学院受到世界重视,这一点很重要,不纯粹是数学学科范畴的问题。
至于学科的建设,比较自由的交流形式是最好的,前几年当然是因为疫情的缘故交流有些困难,尽管可以通过网上形式,不过有很大的区别。数学非正式交流很重要,要是有一个访问学者,你跟他有共同的研究兴趣,如果他有机会哪怕一两个礼拜跟你讨论,能够达到的效果也往往远比开一个会好。
现在我可能更重视年轻人的培养,数学传承的观念是很重要的,因为这个团体不是很大,学问在不断创造的同时也会流失一些学生,如果没有办法传承的话(数学研究)可能就会停下来,别的团队会在这方面开展工作,中国可能就会失去一些有代表性的数学研究的发展方向,所以这种传承是很重要的。我希望未来数学研究在发展新的方向的同时,要保证一些已经在国际上有高水准的项目能够不断发展。(完)
受访者简介:
莫毅明,香港大学数学系讲座教授,香港大学数学研究所所长,同时也是中国科学院院士,香港科学院院士、副院长,致力于多复变函数论、复微分几何与代数几何的研究,于去年荣获未来科学大奖-数学与计算机科学奖,是香港第五位获得未来科学大奖的科学家,通晓多国语言。
(文图:赵筱尘 巫邓炎) [责编:天天中] 阅读剩余全文() |