提高人工智能安全治理水平有的放矢

人工智能作为新一轮科技革命和产业变革的重要驱动力量，具有技术属性与社会属性高度融合的特点，在推动生产力发展的同时，也带来新的风险和挑战。习近平总书记强调：“要坚持促进发展和依法管理相统一，既大力培育人工智能、物联网、下一代通信网络等新技术新应用，又积极利用法律法规和标准规范引导新技术应用。”党的二十届三中全会《决定》提出“完善生成式人工智能发展和管理机制”“建立人工智能安全监管制度”。坚持发展与治理、创新与安全并重，全面提升人工智能安全治理水平，既是保障人工智能健康有序发展的迫切需要，也是推进国家治理体系和治理能力现代化的重要内容。

坚持以人为本和智能向善的价值导向。发展人工智能，根本目的是造福人类、增进人民福祉、促进人的全面发展。习近平总书记强调：“坚持以人为本、智能向善，在联合国框架内加强人工智能规则治理”。坚持以人为本、智能向善，就要让人民群众共享人工智能发展红利，不断提升人民群众获得感、幸福感、安全感，防范滥用人工智能技术给社会带来危害，引导人工智能向善而行。提高人工智能安全治理水平，一方面要引导人工智能发展以增进人类共同福祉为目标，以保障社会安全、尊重人类权益为前提，确保人工智能始终朝着有利于人类文明进步的方向发展；另一方面要在法律、伦理等层面引导人工智能的价值取向，确保人工智能发展安全可控。

构建人工智能安全治理的政策法规和制度体系。要加快人工智能立法进程，制定具有前瞻性的人工智能法律法规，为人工智能安全治理提供坚实法律基础。健全基础设施安全保护、跨境数据安全监管、人工智能安全服务认证等一系列制度，落实人工智能安全治理责任制，清晰界定相关主体权利、义务和责任边界，建立问责和追溯机制，形成人工智能安全治理的制度体系，以良法善治实现激励发展与合理规制的有机统一，确保人工智能安全、可靠、可控，朝着有利于维护国家安全、促进经济社会发展、增进人民福祉的方向发展。

完善与人工智能技术发展相适应的科学监管方式。人工智能迭代速度快，处于一种不断变化的状态中，必须完善与其发展相适应的科学监管方式。适应产学研用深度融合的人工智能发展态势，健全纵向有机衔接、横向有机联系的监管网络，将安全治理嵌入研究开发应用的全过程。加强对潜在风险研判和防范，根据技术发展、行业领域、应用场景等因素建立并动态调整人工智能分级分类标准，对大模型可能产生的安全风险开展合规性评估。加强安全保护基础理论研究和前沿安全技术研究，推动人工智能安全技术创新，开发先进加密技术、认证技术和通用大模型安全可控技术，鼓励跨学科研究，推进人工智能与网络安全、信息安全等领域融合，防范数据泄露、恶意攻击和其他安全漏洞，以高效能科学监管提升人工智能安全治理水平。

形成共建共治共享的人工智能安全治理格局。推动人工智能健康发展，需要多方协同、共建共治。加强政府主导，建立人工智能监管统筹协调机制，发挥其在战略规划、风险管控、规则制定、社会服务体系等方面的总体协调作用。引导行业组织、企业、教育和科研机构、网络平台和有关专业机构强化审慎自律，支持其在人工智能安全风险防范方面开展协作，构建多部门协调、多学科融合、多元主体参与的人工智能安全治理框架和工作体系。同时，搭建公众参与安全治理的线上线下平台，建立起人人有责、人人尽责、人人享有的人工智能安全治理体系，形成人工智能安全治理的强大合力。

（作者为江苏省政协专家咨询委员会副主任）

《 人民日报 》（ 2024年08月05日 09 版）