本网讯（计算机科学与技术学院 程蕾）我校ICKE智能计算与知识工程实验室团队在两项国内重要学术竞赛中取得佳绩。在第39届中国计算机应用大会（NCCA 2024）暨中国计算机应用技术全国智能体开发大赛中，由赵姝教授指导的安言GLM队（团队成员杨震、张明瀚、林永兴、杜伟和吴红生）在社会公益赋能智能体赛道中斩获全国一等奖。与此同时，在第十届中国数据挖掘会议（CCDM 2024）中，由钱付兰副教授指导的Infinite Codex队（团队成员邹沅君、吴彩虹、徐梦瑶和宋书凯），荣获红队安全挑战赛第三名。
中国计算机应用大会是由中国计算机学会主办的重要学术会议。第39届大会（CCF NCCA 2024）于2024年7月15日至18日在黑龙江省哈尔滨市举行。作为本次大会的重要组成部分，全国智能体开发大赛旨在推动智能体技术的发展和应用，吸引了众多高等学府及研究机构的积极参与，并提供了丰厚的奖项，包括现金奖励和算力支持。社会公益赋能智能体赛道鼓励参赛者利用大模型技术开发智能体为社会公益领域提供创新性的解决方案，发掘并解决社会问题，实现高校服务社会的目标。参赛项目可围绕教育、医疗、环保、扶贫等公益领域，借助智能体技术提升社会效益和解决社会问题。安言GLM团队深入研究了基于智谱的大模型智能体架构，采用多源异构数据融合框架和智能体协同驱动的决策策略，增强了互动性和实用性。团队通过自然语言处理和官方数据源的整合，提供了丰富、可靠且实用的解决方案，满足了用户的需求。凭借优秀的表现，该团队荣获社会公益赋能赛道一等奖。
中国数据挖掘会议（CCDM，China Conference on Data Mining）是由中国计算机学会和中国人工智能学会主办的重要学术会议，每两年举办一次。第十届会议（CCDM 2024）于2024年7月28日至30日在山东泰安举行。本次会议吸引了来自全国185所高校和科研机构的专家学者、学生以及产业界的1200余位代表参加，会议内容涵盖多媒体认知计算、智慧教育、智能感知计算等多个前沿领域。作为本次会议的特别官方赛事，Red Teaming多模态大语言模型红队安全挑战赛吸引了来自清华大学、中国科学技术大学、中山大学、南洋理工大学等国内外高校的100多支队伍参与。我院Infinite Codex团队深入研究了多模态越狱攻击策略，通过将潜在的有害问题转化为安全的填空任务，并结合视觉印刷方法将提示文本与无害图像匹配，同时利用精心设计的良性煽动文本来激发多模态大型语言模型的推理能力。在整个过程中，他们确保了输入内容的安全性，巧妙地规避了大模型内容过滤机制，使得攻击在不触发安全警报的情况下得以实施。这一策略在总决赛中展示出了显著成效，最终Infinite Codex团队获得了第三名的佳绩。
近年来，ICKE智能计算与知识工程实验室致力于大模型应用及其安全研究，通过以赛促研的方式，学生们在参与比赛中显著提高了解决实际问题的能力，激发了科研热情，为培养大模型相关研究应用型人才探索出了一条有效途径。
