CCF TF“大模型赋能应用架构”活动成功举行

9月19日，由CCF TF（中国计算机学会技术前线委员会）主办的“大模型赋能应用架构”活动成功举行，会议直播吸引近1.2万用户收看，本次活动邀请微软中国AI解决方案总经理郭立，并行科技AI事业部总经理赵鸿冰，科大国创知识计算智能实验室主任周源，贝壳找房资深工程师轩夺四位专家分享AI赋能应用的架构创新和实践经验。

本次活动由CCF TF（中国计算机学会技术前线委员会）架构小组主席李庆丰主持。

李庆丰介绍到，随着大模型技术的快速发展，各个行业都在面临AI带来的机遇和挑战；大模型和AIGC为业务应用赋能提效的过程中，对技术架构也提出了很大的挑战。

郭立分享了微软GraphRAG基于知识图谱的大语言模型检索增强生成RAG系统。

郭立介绍，微软GraphRAG是一种通过将文本提取、知识图谱分析、大语言模型提示和摘要，整合至单一系统、增强理解文本数据集的解决方案。微软GraphRAG没有直接使用图数据库，但实践了图的思想，相比传统RAG，微软GraphRAG在生成摘要的全面性和多样性均有显著提升。

赵鸿冰分享了大模型应用运行特征采集与分析架构的实战经验。赵鸿冰介绍，大模型技术是驱动本轮人工智能浪潮的关键支撑，大模型训练需要考虑计算、缓存、高速互连等协同，才能为大模型训练提供高效的算力支撑。同时，受参数规模、并行方法等多种因素影响，不同的大模型训练应用运行特征不尽相同，需要通过其运行特征采集和分析，选型相应的超算架构及算力平台，以更高效地提升大模型的性能。

周源重点介绍了电信领域大模型宏观技术架构、实施过程中领域训练语料构建方法、开源大模型选型思路、微调过程、领域任务的评估策略及大模型推理加速框架等实施经验。分享了装维支撑、知识问答等具体业务场景中的实际效果。

轩夺分享了贝壳找房在大模型训练稳定性建设方面的实践经验。轩夺介绍机器学习平台及可观测平台在混合云的部署环境下，持续解决优化大规模训练用遇到的稳定性问题，包括频繁掉卡、性能瓶颈、资源调度情况，

最后，CCF TF（中国计算机学会技术前线委员会）主席杨卫华做总结发言，他提到，今天四位专家带来了非常好的场景案例分享，今天的线上观看和互动人数也非常高，看到了大家的热情和关注。大模型技术逐步应用到更多的业务场景，也会面临各种问题和挑战。希望通过相关大模型应用相关架构经验的分享，给更多技术人员以启发和帮助，助力行业发展。