AI诈骗频发，名人屡被“冒充”，青少年与AI对话后自杀……AI技术发展过程中，安全挑战一直如影随形。如何确保“AI向善”，发展负责任的人工智能？11月21日，2024世界互联网大会乌镇峰会人工智能负责任开发与应用论坛在浙江乌镇举行，来自政、产、学、媒的多位与会嘉宾对此作了深度讨论。
中国国家互联网信息办公室总工程师孙蔚敏、浙江省人民政府副省长张雁云出席论坛并致辞。人民网董事长、传播内容认知全国重点实验室主任叶蓁蓁出席论坛并发言。
世界知识产权组织驻华代表刘华在致辞中指出，人工智能的发展正在对知识产权工作产生前所未有的影响，人工智能参与下的知识产权保护问题成为全球关注的焦点。各国在司法判例和实践中对人工智能对知识产权的影响有不同的处理方式，这进一步凸显了人工智能技术给知识产权带来的挑战。因此，需要进一步加强人工智能领域的国际协调与合作，以应对这些挑战。
全国政协委员、中国网络空间安全协会理事长赵泽良发言。主办方供图
第十四届全国政协委员、中国网络空间安全协会理事长赵泽良在发言中指出，人工智能的安全治理要把握好三个方面，一是要高度关注和注意解决人工智能本身和人工智能在使用过程中可能产生的安全问题；二是要善于、注重用人工智能，包括用大模型来解决其他类型的网络安全问题；三是人工智能安全治理，要以保障和促进人工智能的发展应用为出发点。这三点哪一点都离不开创新，创新是核心，创新是灵魂。
中国工程院院士、同济大学校长郑庆华发言。主办方供图
“AI向善”首先意味着要以人为本。中国工程院院士、同济大学校长郑庆华表示，让科技与人类价值对齐，是引导人工智能科技向善、以人为本的重要基础。郑庆华强调，作为教育工作者，既要发挥人工智能的赋能作用，又要防止技术凌驾于人之上，在人才培养领域坚持德智体美劳全面发展，避免技术“物化”和“异化”。
香港理工大学视觉计算讲座教授、欧洲人文和自然科学院外籍院士陈长汶发言。主办方供图
“AI向善”也意味着要可持续发展。香港理工大学视觉计算讲座教授、欧洲人文和自然科学院外籍院士陈长汶坦言，从实践看，人工智能在多方面与可持续发展存在着争夺宝贵资源的博弈。目前的大模型仍依赖于超大规模的算力和能源资源的供给。跟人脑的低功耗相比，差别巨大。需要我们对下一代人工智能训练、推理设计提出新的架构要求。
蚂蚁集团副总裁李俊奎发言。主办方供图
“AI向善”要具体问题具体分析。在蚂蚁集团副总裁李俊奎看来，AI如同高速行驶的汽车，需要道路和信号的引导。他提出“红灯停、黄灯等、绿灯行”的理念，即对违反人类价值观的AI应用进行防御和抵制，对潜在风险的AI应用进行慎重对待，对有益于人类的AI应用予以鼓励和支持。
深圳理工大学计算机科学与控制工程学院院长、讲席教授，美国医学与生物工程院院士潘毅发言。主办方供图
“AI向善”依托于技术的发展。深圳理工大学计算机科学与控制工程学院院长、美国医学与生物工程院院士潘毅说，从应用看，人工智能正经历普通模型、行业模型、场景模型和问题模型四个发展阶段，每个阶段的发展，都依赖于更多的知识和参数微调。目前人工智能更多是基于参数的预测推理，后续还需不断攻克算力限制、AI幻觉、风险识别等问题，最终在各领域实现高价值赋能。
安恒信息董事长范渊发言。主办方供图
“我们应该以工具视之，以工具用之，以工具治理之。”安恒信息董事长范渊提出，新一代人工智能技术，不仅仅是人机交互体验、协作的革命，更是专家经验传承的一次变革。在网络安全、数据安全领域，AI正在重构安全工作协同关系，助力安全产业发展和行业应用价值化呈现，为行业应用带来质的变化。
宜人智科董事会主席、首席执行官唐宁发言。主办方供图
通过积极的治理和技术创新，AI可以成为推动社会进步和提升生活质量的有力工具。宜人智科董事会主席、首席执行官唐宁谈到，从理论研究到商业运用，人工智能通过技术创新与应用创新发挥了众多积极作用。将人工智能技术转化为具体且可行的解决方案与产品，对推动人工智能行业的发展以及实现商业价值，有着至关重要的意义。
圆桌对话“洞见与人工智能共存的未来”。主办方供图
圆桌对话“构建可互操作的人工智能治理框架”。主办方供图
在圆桌讨论环节中，嘉宾一致认为：全球协作是AI治理的关键，需要各方共同努力，形成系统性共识，推动AI治理的有效实施。随后，围绕AI治理的具体路径，中国科学院自动化研究所人工智能伦理与治理中心主任曾毅、中国电信研究院副院长李安民、浙江大学传媒与国际文化学院常务副院长方兴东、浙江大学滨江研究院数智融合研究中心主任韩蒙、剑桥大学智能未来研究中心项目主任肖恩·欧·海格缇、美国奥尔布赖特石桥集团合伙人及副总裁保罗·特里奥洛、香港医院管理局资讯科技及医疗信息部总经理余法昌、钛媒体联合创始人刘湘明、印象笔记董事长兼首席执行官唐毅等多位专家进行了深入探讨。
本次论坛由世界知识产权组织、人民网、中国网络空间安全协会、安恒信息主办，英国标准协会、印象笔记、钛媒体协办，旨在促进建设多主体参与、多层面治理的人工智能科研、转化与发展机制，推动构建人工智能技术和产业发展的良好生态。