随着2026年APEC峰会花落深圳,APEC“中国年”序幕随之拉开。1月6日,以“把握APEC机遇 扬帆新蓝海”为主题,粤港澳大湾区生成式人工智能安全发展联合实验室(以下简称“联合实验室”)福田服务站启用暨AI出海研讨会在深圳市福田区华强科创广场举行。在活动上,联合实验室现场发布“2026年度AI安全十大趋势”,“政产学研用”聚焦AI出海国际环境、政策风险以及安全挑战,共议大湾区AI出海新未来。
此次活动由粤港澳大湾区生成式人工智能安全发展联合实验室、中共深圳市福田区委员会主办,福田区委统战部(台港澳局、侨务局)、福田区人工智能产业办公室、联合实验室福田服务站、深圳(福田)海联大模型和算法赋能服务中心、广东省网络数据安全与个人信息保护协会承办,南方都市报社、华强科创广场、深圳市人工智能行业协会协办。
1月6日,粤港澳大湾区生成式人工智能安全发展联合实验室福田服务站启用。
联合实验室福田服务站正式启用
当前,人工智能正在加速重构产业格局,安全已成产业高质量发展的生命线。广东始终坚持“在安全中促发展,在发展中保安全”的辩证思维,推动构建“技术协同+敏捷治理+传播服务”的全新治理新范式。
粤港澳大湾区生成式人工智能安全发展联合实验室是适应人工智能时代敏捷、弹性、高效的创新治理联合体,由广东省委网信办和国家互联网应急中心广东分中心联合牵头,粤港澳大湾区相关部门、企业、高校、科研机构、媒体等共同参与建设,运行主体常设在河套深港科技创新合作区深圳园区。
在当天活动上,省委网信办、联合实验室相关负责人,以及深圳市福田区、市委网信办、市工信局等单位相关负责人共同为粤港澳大湾区生成式人工智能安全发展联合实验室福田服务站揭牌。这是联合实验室将人工智能安全治理力量下沉至基层的创新之举,也是深圳构建“安全与发展并重”AI产业生态中迈出的关键一步。
2025年初开始,深圳市福田区依托联合实验室技术指导与专业支撑,联手打造深圳(福田)海联大模型和算法赋能服务中心(简称赋能中心)。深圳市福田区委相关负责同志在致辞中表示,服务站将与中心一体化运作,重点围绕备案辅导、安全测评、合规咨询、政策传递等企业共性需求,提供更集中、更规范、更稳定的服务窗口,帮助各类创新主体更好理解规则、更快通过审核、更稳开展业务。
据介绍,联合实验室福田服务站将承担大模型和算法备案辅导、安全评测、合规培训、政策宣贯等职能,为企业提供“一站式、全周期、零距离”的专业支持。一方面要强化节点效能,打造大湾区人工智能安全治理的关键支点,另一方面聚焦产业拉动,构筑发展与安全互促的示范平台,深化前瞻探索,贡献可复制可推广的“湾区智慧”。
联合实验室发布AI安全十大趋势
此次活动上,省委网信办、深圳市福田区相关负责人共同为福田区8家备案大模型企业颁发“生成式人工智能服务备案证明”。
值得一提的是,联合实验室权威发布“年度AI安全十大趋势”,系统梳理2026年人工智能安全的关键发展趋势,对于把握监管走向、识别风险演化路径以及研判产业机遇具有重要意义,为行业发展提供前瞻性指引。
具体而言,AI安全十大趋势主要涵盖全球AI合规框架加速协同与落地、开源模型滥用风险与监管博弈加剧、对抗攻防进入高维博弈阶段、AI智能体安全风险引发监管与责任新考量、AI武器化拓展网络攻击新战场、AI安全治理走向全生命周期可信化、AIGC原生安全架构成为基础设施标配、AI对齐研究与实践提速、内容真实性治理成为数字社会基础秩序以及算力扩张推动“AI—能源耦合”成为国家安全议题。
共议对标国际规则赋能AI安全出海
那么,如何把握人工智能安全趋势以及APEC机遇,对标国际规则,应对AI出海安全风险?在活动上,中国现代国际关系研究院科技与网络安全研究所所长、研究员李艳,香港中文大学(深圳)人工智能学院终身副教授、助理院长吴保元等学界专家,聚焦AI出海的国际形势、安全挑战等议题进行主题分享,与“政产学研用”代表共话湾区AI出海新未来。
在李艳看来,AI出海国际环境与政策风险的“主源”在技术与地缘政治叠加影响下的科技战。她针对AI出海提出一些思考建议,包括要跳出纯“市场”思维,事前评估有足够综合的考虑维度,市场选择始终是符合“投资”规律,而且产品定位至关重要,要辩证看待风险等。
而对于AI出海的安全挑战与对策,吴保元教授表示,数据隐私问题不仅仅出现在大语言模型,也出现在视觉大模型,比如扩散模型,就能很轻易生成原始训练数据。此外,作为特殊的数据载体和重要数据资产,AI模型及其相关数据属于跨境数据规定的监管范畴,而AI生成内容是否合规,与法律法规、历史文化、宗教习俗、地域特点高度相关,需要根据出境目的地要求设置个性化的AI生成安全护栏。
出品:南都大数据研究院
统筹:王卫国 邹莹
采写:南都N视频记者 凌慧珊 袁炯贤 南都研究员 李伟锋 唐静怡 孔令旖