【综合新闻】智能算法安全全国重点实验室“大模型安全评估与增强”2025暑期学校成功举办

2025年8月10日,智能算法安全全国重点实验室(以下简称“实验室”)在中国科学院计算技术研究所(以下简称“计算所”)成功举办了“大模型安全评估与增强”暑期学校。课程以“线下授课+线上直播”形式进行,现场吸引了来自全国重点高校、科研机构和头部企业的百余位研究人员参与,并有近7000人次观看了本次暑期学校的线上直播。

开幕式上,中国科学院计算技术研究所副所长、智能算法安全全国重点实验室主任程学旗研究员代表主办方致辞,对与会嘉宾表示热烈欢迎,并强调在全球人工智能技术快速发展的背景下,加强智能算法安全研究对保障国家科技安全和产业发展具有重要战略意义。作为国家级科研平台,实验室将持续聚焦基础理论创新和关键技术突破,深化产学研协同合作,构建完善的人工智能安全治理体系,同时期待通过本次暑期学校搭建的高水平交流平台,汇聚智慧、促进创新,共同推动我国智能算法安全领域取得新突破,为实现科技自立自强贡献力量。

本次暑期学校课程系统性地设置了算法安全基础理论与方法、大模型安全评估理论与实践、大模型安全增强技术与实践、多模态大模型安全、工业界实践分享五大核心模块。课程由实验室的资深专家团队领衔授课,通过理论推演、案例解析与实战演练相结合的立体化教学模式,深入剖析AI安全领域的关键技术与前沿进展。此外,为促进产学研深度融合,特别邀请蚂蚁集团大模型安全算法负责人分享工业级大模型安全防护的一线经验。

讲师风采

算法安全基础概念与原理

大模型安全评估理论与实践

大模型安全增强技术与实践

多模态大模型安全

工业界实践分享

课程结束后,参会学员一致反馈收获颇丰,表示本次暑期学校课程内容设计兼具学术深度与实践价值,将对其提升科研创新能力具有显著的指导作用。

本次暑期学校得到了蚂蚁安全与智能实验室、易方达基金管理有限公司、曙光信息产业股份有限公司的赞助和支持。