王兴宾,中国科学院信息工程研究所——网络空间安全防御全国重点实验室副研究员,硕士生导师,中国科学院大学博士后,入选中国科学院信息工程研究所“优才计划(B类)”,中国科学院特别研究助理。研究领域主要有人工智能处理器安全架构、对抗样本攻击与防御、大语言模型加速、TEE和FHE加速等。在ISCA、 ASPLOS、TCAD、DAC、DATE、Euro-Par等顶级国际会议和国际知名期刊上发表论文20多篇,获国家发明专利3项。作为项目负责人,获得国家自然科学基金面上项目、中国科学院特别研究助理项目的资助。作为子课题负责人和核心骨干,参与了中科院C类战略先导项目、中国科学院国际级项目、北京市科技计划项目等。
报告摘要:随着生成式人工智能技术的快速发展,例如ChatGPT,DeepSeek,对抗样本攻击、逃逸攻击、深度伪造技术等已成为人工智能系统面临的主要安全威胁。发展新一代人工智能是国家战略。通过安全的硬件计算架构和AI安全算法联合设计能够为人工智能战略的高质量发展保驾护航。目前的AI处理器设计主要是以高性能和低能耗为设计目标,并没有考虑到AI处理器的安全问题,尤其是缺少对抗样本防御方法硬件架构的支持,使得它们不能或只能低效的支持对抗样本防御方法的部署。为了应对AI安全的新挑战,从体系结构角度出发,聚焦AI处理器安全体系结构研究。