管控人工智能等新兴技术带来的风险
近年来，以深度学习为代表的新一代人工智能技术取得突破性进展，机器也可以有“思维”逐步成为现实。本届北京香山论坛高端访谈、分组会议设置专场，讨论人工智能安全、新兴技术如何向善等议题。与会专家围绕人工智能能否自主决策、是否可信，如何管控人工智能等新兴技术可能带来的风险等进行了深入讨论。
人工智能可信吗？对此，东京大学生产技术研究所特聘教授胡昂表示，人脑不可替代，“至少在短时间内人工智能难以取代人脑做决策”。
“人类技术人员都会犯错，何况机器？”在联合国教科文组织人工智能与数据科学促进社会发展教席、荷兰海牙应用科技大学数据科学教授兰普罗斯·斯特吉乌拉斯看来，人工智能是否能取代人脑自主决策，这是一个哲学问题，也是一个现实问题。他认为，当前对人工智能的监管面临很大挑战，相关监管要加速，要更加敏捷。
清华大学信息科学技术学院院长戴琼海认为，未来几年，人工智能发展将进入快车道。由于人工智能发展的不可预测性，相关伦理规范、技术治理要走在前面，降低人工智能应用的安全风险，使其为人类谋福祉。
为解决人工智能技术发展带来的技术伦理、技术鸿沟等问题，中国积极发挥作用，加强人工智能领域治理的国际合作。去年10月，中国提出《全球人工智能治理倡议》，就全球人工智能发展与治理提出中国方案。今年7月1日，第78届联合国大会协商一致通过中国主提的加强人工智能能力建设国际合作决议，140多个国家参与决议联署。这充分彰显出中国对人工智能发展和治理的负责任态度和重要引领作用。
同济大学中国战略研究院副院长夏立平表示，中国政府高度重视人工智能技术治理。各国应在人工智能治理中加强信息交流和技术合作，共同做好风险防范，形成具有广泛共识的人工智能治理框架和标准规范，不断提升人工智能技术的安全性、可靠性、可控性、公平性，更好解决人工智能发展中遇到的挑战。
在人道主义对话中心人工智能与新兴技术高级顾问尼尔·戴维森看来，面对人工智能等新兴技术可能带来的风险，各方应展开对话，共同探讨解决方案。 |
