2025年5月24日，智能算法安全全国重点实验室（以下简称“实验室”）第一届学术委员会第二次会议在中国科学院计算技术研究所（以下简称“计算所”）召开。实验室学术委员会委员、中国科学院重大科技任务局等指导单位，中关村实验室和在京相关领域全国重点实验室专家代表，实验室科研骨干代表等60余人参加会议。

会议开幕式由计算所科研处韩银和处长主持。计算所所长、党委书记陈熙霖研究员在致辞中对院机关、指导单位、学术委员会委员、在京国家实验室和兄弟全国重点实验室长期以来的支持、帮助与指导表示感谢，并强调实验室是计算所历史上第一个聚焦软件算法方向的全国重点实验室，具有里程碑意义。学术委员会主任李国杰院士在致辞中指出，破解人工智能算法的“自主性”与“可控性”的对立统一，这是智能安全的核心挑战。针对黑盒模型不可解释性、概率计算不确定性和系统涌现风险三大根源，实验室团队在中国科学院院刊发表的《智能算法安全：内涵、科学问题与关键技术》提出了三大攻关方向，即算法可信域判定、模型透明化监测及人机系统临界感知。相关研究虽构建了初步理论框架，但应对“算法幻觉”等难题仍需突破经典计算范式，并呼吁学界专家对现有成果深入论证，共筑智能时代安全基座。

学术委员会会议由费爱国院士主持。实验室主任程学旗研究员系统阐述了实验室的战略布局与发展脉络。他指出，实验室以构建智能算法理论体系、打造数字基础设施、服务国家重大需求为三大核心使命，并重点聚焦智能算法TRC安全范式构建这一关键科学问题。基于此战略定位，实验室规划了五大研究方向：智能算法安全基础理论、算法风险监测评估、智能装备安全增强、智能系统算法对抗及认知智能算法博弈。此外，程学旗还详细介绍了实验室在任务攻关、前沿理论与技术创新及核心基础设施建设方面取得的重要进展，特别强调了各研究方向的协同推进态势。陈薇研究员、山世光研究员、郭瑞杰正高级工程师、曹婍副研究员和徐冰冰副研究员分别作了专题报告。

与会专家对实验室建设以来取得的阶段性进展给予了高度评价，并提出了宝贵的意见和建议；学术委员会委员针对报告内容以及智能算法安全学科内涵、实验室定位和发展战略等问题展开了深入交流讨论：专家们一致认为，实验室应继续聚焦智能算法安全的核心问题，特别是在大模型背景下，进一步聚焦算法安全性、鲁棒性以及隐私保护等方面的挑战，推动智能算法安全标准制定、技术评估与测试平台建设；建议实验室面向国家重大需求，同时加强与产业界的合作，共同推动智能算法安全技术的落地应用。

未来，实验室将进一步深入贯彻落实党中央关于建设网络强国、数字中国的重大决策部署，面向人工智能安全、算法安全治理及认知安全计算等重大需求，夯实学科基础、建设一流团队、服务国家战略！