近日,南京市鼓楼区发改委(工信局)、百度飞桨(南京)人工智能产业赋能中心、百度飞桨星河社区联合举办的“大模型深度应用与产业融合”开发者圈层沙龙在南京华贸中心成功举办。活动汇聚了能源、建筑、医疗、通信、旅游等多行业企业代表及高校师生,共同探讨大模型技术发展与应用。
作为重要的科教中心和创新高地,南京以建设国家人工智能创新应用先导区为引领,全面实施“算法+”产业赋能行动。百度飞桨(南京)人工智能产业赋能中心作为江苏省首个飞桨赋能中心,将为江苏地区AI技术发展提供充分技术赋能和全要素资源支持。
专题分享:创新与落地并重
活动中,百度AI技术生态运营总监谢梦全面介绍了百度AI技术生态对企事业单位和开发者的支持模式、赋能资源等,也同步介绍了飞桨框架3.0、飞桨低代码开发工具PaddleX、大语言模型开发套件PaddleNLP、多模态大模型开发套件PaddleMIX的发展情况,以及与60多家硬件厂商构建的适配方案。飞桨开发者技术专家骆秀韬深度解析了DeepSeek R1,其通过强化学习具备强推理和"自我反思"能力。他建议企业根据需求选择推理类模型,并利用小模型蒸馏降本增效,同时介绍了星河社区提供的DeepSeekR1 API服务及免费模型部署资源。百度飞桨星河社区运营负责人张楠介绍飞桨星河社区有项目学习与开发、模型库与应用中心等核心功能,为开发者提供全流程开发支持。
飞桨开发者技术专家 骆秀韬
百度AI技术生态运营总监 谢梦
百度飞桨星河社区运营负责人 张楠
技术碰撞:从尖端理论到实际应用
技术交流环节,开发者提出了RAG(检索增强生成)应用中的性能挑战问题,特别是多知识库场景下的响应延迟问题。
在场的飞桨开发者技术专家分享了模型蒸馏见解:“将垂类知识蒸馏到单一模型中进行准确评估后再召回,可显著提升速度并降低成本。关键是保证高质量问题输入和严格效果评估。”
PFCC成员孔锐介绍了强化学习在语言模型对齐的双重应用:“一方面用强化学习训练语言模型,另一方面将语言模型用作判定器和决策器,能够优化动作空间输出并提供决策支持。”轨交行业开发者分享了边缘计算探索:“计划在边缘侧部署大语言模型,利用Intel平台和开源工具,未来将研究与飞桨文心大模型的结合。”来自高校的开发者代表则表示当前聚焦生物制药领域应用,探索将自然语言模型技术迁移至酶反应预测等专业场景;以及来自南京师范大学研究团队专注AI可信性研究,推动技术成果产业化应用。
开发者各抒己见
跨界对话:多元需求碰撞创新思维
Developer Chat跨界对话环节汇集了各行业代表,围绕AI应用需求与技术挑战展开深入交流。
建筑施工领域代表发言首先谈及他们当前遇到的场景难题:工程咨询场景中复杂报表的结构化处理需求迫切。企业代表指出,现有系统难以解析非标准化表格数据,亟需高效解决方案。
来自电信行业的开发者也分享了他们在合同审批流程中遇到的表格识别难题:“我们有很多客户经理需要把签章的合同上传到ERM系统,但表格识别是个棘手问题。我们尝试过采用图的方式进行存储,从拓扑结构考虑相对位置关系,这可能是一个解决思路。”飞桨开发者技术专家骆秀韬对这些复杂表格识别问题给出了个人见解:“操作员没有固定的标准格式来生产这些文档,造成后期需要花极大人力填补坑。未来可能需要多模态模型的支持,直接解析图像中的信息可能是一条路。目前,PaddleX表格识别模型可以应对上面提及的问题,大家也可以试试看。”
除了表格识别话题,现场还有多个行业的技术需求展开讨论并寻求合作机会:
医疗健康:某初创公司基于AI开发认知症早筛设备,通过用户交互行为分析实现早期预警。
新能源:龙源电力提出复杂天气及地形条件下的功率预测需求,依托全球400+风电厂及上千光伏发电厂数据,推动AI模型精度突破。
文旅服务:南京华贸雅诗格公寓计划构建游客画像系统,通过个性化推荐引擎提升旅游服务体验。
……
这些来自行业的真实需求在活动现场展开了解决方案的分享与讨论,桥接更多的合作机会。
技术领袖链接产业,共建AI未来场景
在大模型快速发展的时代,飞桨星河社区作为国内最大的AI开发者社区,为开发者提供了从学习到应用的全流程支持。社区不仅提供从数据处理到模型训练、压缩、推理、部署的全套基础建设,还积累了丰富的项目、比赛和认证资源。
在近期活动中,飞桨开发者社区运营负责人张楠展示了两个共创案例:一个是通过OCR模型和微调构建数据层,并结合大模型能力解决学术论文学习过程中的问题;另一个是企业知识库问答解决方案,应用混合检索方式解决企业复杂数据问题,并探索使用DeepSeek R1等推理模型应对多步推理实际问题。
同时,社区正式宣布了“飞桨星河技术领袖链接”项目,将为核心开发者提供算力资源、token资源、专家支持、知识产权支持和官方背书,帮助他们服务垂类场景的用户需求。通过商业回报和其他激励计划,该项目旨在助力开发者实现个人价值与社会价值的双赢。
本次开发者圈层沙龙不仅是一场技术盛宴,更是产学研深度融合的典范。随着南京人工智能产业赋能中心的落地,以及政府、企业、高校和开发者社区的紧密协作,南京的AI产业发展将迎来新的机遇。未来,大模型技术将加速与城市各行业深度融合,不断催生新的应用场景和商业模式,引领南京迈向智能化发展的新高度,为长三角区域乃至全国的AI产业发展贡献"南京智慧"。
南京开发者沙龙合影
在大模型时代,只要坚持、充满希望、不断探索,必将有更多机会涌现。南京,这座底蕴深厚的古城,正以开放包容的姿态拥抱AI技术革命,谱写智能时代的崭新篇章。