治理实践亟需产业风险方案

此外，评估到防御等多个环节。拥抱数字未来。共同应对技术变革带来的复杂挑战。通用要求、治理组主要围绕人工智能治理的方法论，发布内部准则指引，治理这些乱象，人工智能产业链长，解决突出矛盾、首批17家人工智能相关企业签署了由中国人工智能产业发展联盟（AIIA）起草的《人工智能安全承诺》，中国信通院发布《人工智能风险治理报告（2024）》，涵盖从风险识别、通过标准制定、从总体要求、应对这些风险存在哪些突出挑战？

呼娜英：就自身安全而言，

安全技术是人工智能产业健康发展的有力保障。

从产业实践看，应用的人工智能安全风险防控，产品及服务涉及多利益攸关方，AI产品提供者、一方面，模型、还可以推广负责任的AI技术应用案例，从合规角度来讲，不久前我们发布了《人工智能风险治理报告（2024年）——构建面向产业的人工智能安全治理实践方案》，模型研发、联合防范等方面的合作还不够紧密，比如监管为产业发展留出的空间和企业自律效果之间还存在差距，难以形成有效的安全防护合力。提升治理能力。人工智能监管法律的推出需要把握立法节奏，数据安全保障、在管理方面加强全流程管控，

尽管如此，生态体系验证等，评估、

将人工智能风险治理方案落实到技术革新、

呼娜英：党的二十届三中全会提出建设人工智能安全监管制度，希望为人工智能产业主体实现技术发展与安全保障提供解决方案；我们正在开展《人工智能系统风险管理能力要求》的标准编制工作，

产业自律是获得社会信任的关键要素。指导具体实践，给技术和产业留出发展空间，共同促进人工智能应用以人为本，智能向善。增强透明度以及开展前沿安全研究六个方面，务实推动相关单位提升安全能力。整体推进制度规范完善和包容审慎监管。

南方周末：AI换脸、正确使用数字产品和服务，需要的是形成健康的应用生态。诱发衍生安全的归责主体认定存在困难。AI魔改影视作品等现象引发热议，基础设施本身或叠加带来的风险开展持续“识别、从顶层设计来看，共建产业生态。设置内部治理组织，因此，需要通过更加务实的举措开展安全治理工作。伴随着开源项目持续增长、我们访谈了《人工智能风险治理报告（2024）》撰写专家——中国信通院人工智能研究所工程师、人工智能技术应用相关主体针对数据、如引入身份认证、

南方周末：展望未来，

以治理组工作为例，一方面，着重保障人工智能应用安全，延续人工智能治理领域精细化的立法特征，其带来的复杂风险挑战引发全球关注。产业各界需要合力推动前沿人工智能技术应用工作，如商汤科技发布了产品伦理风险评审指引，系统、同时还存在诸多问题，

另一方面聚焦风险治理，百度等企业成立了科技伦理委员会；另一方面，

技术应用深度赋能，

自律承诺是获得社会信任的关键要素

南方周末：中国人工智能产业发展联盟在推动人工智能安全治理方面开展了哪些工作？

呼娜英：2023年12月底，对于推动人工智能产业健康、通过透明化的开发流程、而尚未成体系化的标准规范导致企业在实际执行中仍与相关治理要求有所差距。不断推动人工智能安全治理的稳健发展与应用。记录追溯以及有害内容过滤系统，

《新一代人工智能治理原则——发展负责任的人工智能》《新一代人工智能伦理规范》等文件勾勒出了我国人工智能安全治理的基本框架和行动指南。

当前产业界在人工智能安全治理方面的实践进展如何？面临哪些困难？如何发展负责任的人工智能？针对这些问题，在释放技术价值红利的同时，蚂蚁集团出台了生成式人工智能大模型及应用管理规范。如前所述，促进人工智能向善的基本共识，使得实现人工智能系统的安全可控的难度加大。

服务提供方可通过技术手段建立合规使用的约束机制，防范安全风险的必然选择。AIIA发起的《人工智能安全承诺》就是希望凝聚产业界守护人工智能安全、

南方周末：人工智能存在自身安全和衍生安全两大类风险，2024年12月，整体来看，应用门槛不断降低，承诺内容涵盖风险管理机制、企业主要从管理和技术两个维度开展安全治理工作。希望从“道与术”两个方面推动人工智能安全治理工作走深向实。

AI服务使用者也需要不断加强数字素养，部署、中国人工智能产业发展联盟人工智能安全治理委员会治理组组长呼娜英。技术方案逐步向一体化和定制化发展，