首页 > 最新动态 > 云天励飞罗忆:大模型时代用边缘AI开辟安防新天地
最新动态
云天励飞罗忆:大模型时代用边缘AI开辟安防新天地
2025-01-2119

导读

当前,在人工智能浪潮下,AI 已成为提升安防效能的强大驱动力。边缘AI 技术的兴起,更是为智慧安防领域注入了新的活力,凭借低延迟、高可靠性等显著优势,边缘 AI 技术契合市场对于高效、智能安防解决方案的迫切需求。边缘 AI 利用机器学习、深度学习和多模态 AI 大模型应用,使边缘设备能够自主地感知、理解和响应数据,这样可以实现实时的智能决策、智能控制和智能交互,为边缘场景带来更高效的应用,快速 AI 赋能。


作为 AI 企业中的实力派,深圳云天励飞技术股份有限公司(以下简称云天励飞)近年来围绕大模型与安防场景的深度结合持续深耕,从模型优化、技术落地等多个角度取得了实质性的突破和进展。10 月 22 至 25 日,云天励飞携利用边缘 AI 技术和产品打造的“大模型 + 警务”创新应用成果亮相第十七届(2024)安博会,得到公安部、工信部相关领导的高度认可。展会期间,本刊记者采访了云天励飞副总裁罗忆,结合当前安防行业发展态势,阐述了他对人工智能大模型发展现状、大模型对安防行业的影响和云天励飞关于“大模型 + 安防”的应用实践以及云天励飞对未来 AI 产业和安防产业的展望等内容的认知和理解。


一、人工智能大模型步入应用之年,安防行业变革不断演进


罗忆提出,2022 年可以被看作是通用人工智能大模型的元年,国内厂商在这一年陆续推出了通用大模型,拉开了 AI 2.0 时代的序幕。如今,时间已走到 2024 年,人工智能大模型已经过了爆发初期阶段,步入应用之年。 


虽然相较于传统小模型,大模型拥有极强的泛化能力,但是在通用大模型逐步到多模态大模型落地的过程中,业内人士却发现大模型并没那么简单。业内专家认为,通用大模型的能力强,但要让它能够应用到专业场景并产生价值,成为行业大模型, 仍是一个漫长和艰难的过程。


以政法领域、应急领域的大模型应用为例,通用大模型的准确率要低于 75%,这在专业场景下是无法被接受的。也就是说,现阶段大模型距离实现“又好又便宜”仍有一定的距离。想要弥补现阶段大模型的不足,需要进一步优化算法,并持续升级大模型训练的工程能力。


在业内积极探索如何让大模型更加贴合应用场景之时,云天励飞创新性地提出了“小模型 + 大模型+ 场景自训练”的模式,在保证准确率的同时,解决了 AI 算法在不同场景下成本、效率难以平衡的问题。


据相关数据显示,中国安防行业的市场规模仍在持续扩大,在所有的数据类型中,视频监控数据是安防行业最大量的数据类型。与此同时,在行业全面数字化转型背景下,视频监控数据的采集和存储正在变得更加简单。海量的视频数据一方面蕴含着巨大的价值,另一方面也对数据处理的效率和准确性提出了更高的要求。


在传统 AI 算法阶段,因为安防场景的多样性和复杂性,算法的针对性较强,一般一个场景就会对应一个算法。虽然安防场景在不断丰富,但是由于之前海康、大华等传统安防龙头企业的技术优势较大,再加上各细分赛道能够容纳的安防企业数量有限,初创公司能进入的场景也较为有限。


不过,在AI 技术引入安防行业后,算法的迭代效率快速提升,应用算法的场景越来越多,行业变革开始加剧。对于传统安防企业来说,单独为每个安防场景训练一个算法的人力成本越来越高,不再划算;而对于拥有大模型能力的 AI 企业来说,算法的迭代变得更加容易,叠加应用场景的快速扩展,这些企业可以快速进行规模扩张,后来者居上的可能性极大。


同时,因为拥有 AI 技术的企业越来越多,市场竞争逐渐变得激烈,对于细分赛道的玩家来说,传统靠场景定制化存活的公司很容易被拥有大模型能力的 AI 公司“卷”走。此外,大模型技术的发展还将进一步提升 AI 算法落地的效率和易用性,在更大程度上发挥 AI 算法的价值。


“审视安防行业发展,随着大模型的迭代加速, 行业变革正在不断演进。”罗忆强调,在人工智能时代,“大模型 + 安防”将迸发出更为强大的活力。


二、边缘 AI 带来安防行业新气象


2024 年云天励飞宣布实施边缘AI 战略。所谓边缘AI,指靠近数据采集端和任务闭环端的 AI。“我们现在使用的AI 能力主要部署在云端,手机和电脑是我们与云端AI 交互的工具,设备本身并不具备AI 能力。但在 AI 时代,行业需要的不是 AI 介质,而是无人车、无人机、机器人等具备自主判断、自主运动能力的智能体。只有智能体的数量越来越多,AI 能够覆盖的场景才能够越来越广,AI 对行业的赋能才能够越来越深。换言之,边缘AI 的发展水平决定了AI 赋能行业的广度和深度。”对于边缘 AI,罗忆显然情有独钟。


罗忆介绍,本次安博会云天励飞全面展示了利用边缘 AI 技术和产品打造“大模型 + 警务”创新应用的“1+2+3+N”成果。


“1”指的是 1 个边缘 AI 技术底座。云天励飞自主研发了两大技术平台——多模态大模型“云天天书”、NPU 加速计算平台,这两大技术平台为云天励飞边缘 AI 构筑起了一个坚实的技术底座。


“云天天书”系列大模型使用自研训练框架,全栈适配国产算力,在可伸缩训练、断点续训等业界难点问题上屡次取得创新突破。采用首创 SPACE 高性能推理引擎,同等条件下推理速度提升超 80%, 做到“算得快、算得多、算得精”。具备边缘端硬件在线微调学习能力,通过能力蒸馏研发的 1.8B 轻量化模型和 MoE 大模型,边缘应用性能普遍优于同等参数模型,可支撑大模型在边缘设备的广泛落地。“云天天书”大模型已于 2023 年底正式通过中央网信办备案。


基于NPU 加速计算平台,云天励飞从成立至今已完成 3 代指令集架构、4 代神经网络处理器架构的研发,且已陆续商用。2023 年底最新推出的 AI 芯片DeepEdge10 基于自主可控的先进国产工艺打造,支持Chiplet 技术,可实现单芯片算力的灵活扩展,满足不同场景的算力需求。目前 DeepEdge10 已在摄像头、边缘服务器、机器人、汽车等边缘设备落地应用。


“2”指的是 2 款面向警务的边缘 AI 产品。本次安博会,云天励飞带来两款全新的“深目”大模型推理一体机产品 D222B 和 D228B。据介绍,这两款产品内置云天励飞自研 IPU-X2000 加速卡, IPU-X2000 基于 DeepEdge10 打造,单卡峰值算力达 32Tops@int8,支持 40 路 1080P 视频解析,单路最大支持 800W 像素视频流,适配 Transformer 模型、BEV 模型等各类不同架构的主流模型。


产品可有效利旧现有监控摄像机,对现有点位进行智能化升级,对视频流中人、车、非及各类事件进行快速监测识别,并具备以图搜图、轨迹查询、运维监控、预警布控、自动巡检等多种功能,可应用在校园、园区、监所、交管等各类场景,大幅提升事件预警效率,有效保障安全。


以山东某校园场景为例,该校园面积超 5 万平方米、师生超 2000 人,部署了软硬一体设备后,利旧视频监控 120 余路,仅一周就发现并处理了 5 起潜在风险,在原有安保人力不变的情况下,实现了7X24 小时校园安全护卫,用科技全面守护校园安全。


“3”指 3 项创新智慧警务功能。基于“云天天书” 大模型,云天励飞针对警务的行业特性,打造了“云天天书警务大模型”,并结合云天励飞十年来沉淀的丰富警务行业知识,为各类警务应用提供智能支撑。


本次展会,云天励飞重点展示了 3 项创新功能——视频巡逻、语义搜和视图增强。


视频巡逻:智能识别危险动作、风险行为, 有效预防风险、降低警情、节约警力。语义搜:将VQA(Visual Question Answering) 与 TSG(Temporal Sentence Grounding)技术巧妙融合,实现“一句话就是一个技战法”。视图增强:实现图像超分辨率、夜景增强、智能去噪、素描转换图像、图像着色, 以及年龄变化模拟(加龄减龄)等。


值得一提的是,云天励飞“深目智能视频巡逻应用”和“电动自行车交通治理解决方案”分别斩获“标杆案例” 和“优秀解决方案”两项大奖。其中,“深目智能视频巡逻应用” 可智能识别危险动作、风险行为 , 利用“小模型 + 大模型”结合的方式 , 先用小模型初步筛选视频中的风险行为 , 再利用大模型进行推理分析、在线标注和在线学习 , 从而在实战中助力民警高效提升主动防范的效率 , 有效避免风险升级、事态扩散。




“电动自行车交通治理解决方案”利用大模型技术 , 可全天候监测电动自动车骑行违规行为并预警 , 形成科学的治理报告 , 减少电动自行车亡人事故 , 降低电动自行车道路交通事故率。让骑行更安全 , 让治理更科学。


“这反映了行业对云天励飞‘边缘 AI’相关方案和产品的认可。”罗忆言语中透露出对自家产品的自豪与自信。


三、不止于安防,推动边缘AI 赋能更多城市场景


罗忆认为,随着大模型进入全面应用落地阶段,越来越多行业和场景全面拥抱大模型,边缘 AI 将发挥越来越重要的作用。未来云天励飞将推出更多边缘 AI 产品及解决方案,推动大模型为更多场景赋能。


目前,云天励飞在公共安全、城市治理、智慧交通、人居生活、低空经济、智慧教育等行业进行战略性部署。例如, 在智慧交通方面,云天励飞参与的深圳巴士集团智慧公交OD 项目,利用AI 技术优化了公交线路规划和车辆调度,提高了公交的准点率和满载率。政务方面, 与多区域政数局合作,打造“大模型 + 政务”创新方案,云天励飞基于深圳市龙岗区打造的数字政务行业大模型,还荣誉入选由中国信息通信研究院评选主编的《2024 大模型典型示范应用案例集》。智慧商圈方面,云天励飞主导建设的深圳福田中心智慧商圈,成功入选第二批全国示范智慧商圈。


此外,云天励飞还参与了青岛市公安局崂山分局AI 大数据应用中心项目、深圳道路智慧巡检项目、深圳龙岗 AI视频分析赋能平台、成都新津智慧城管平台、深圳出版集团数字化转型项目、上海大宁中心广场园区项目、深圳福田智慧商圈项目、印力集团智慧商业大脑平台、深圳市中小学人工智能联合实验室等项目,推动人工智能走向千行百业。


经过十年发展,云天励飞已经形成了覆盖消费级、企业级、城市级三大领域的业务。展望未来,云天励飞将继续推动边缘 AI 技术更多行业和场景的应用,为行业的数字化转型和智能化升级贡献力量。


本刊记者/ 唐涛



文章来源于《中国安防》杂志2024年第12期

《中国安防》

-国内行业权威杂志-

出版发行:《中国安防》编辑部

主管主办:中国安全防范产品行业协会

电话:010-88825523


往期精彩回顾

市场热点丨城市更新背景下老旧小区改造的安防应用

六部门:七大任务完善数据流通安全治理

“小电驴”新国标正式发布,或催生亿级移动物联网规模化应用领域

《市场监管总局等部门关于加强标准制定与实施监督工作的指导意见》发布

点我访问原文链接