近年来,通用人工智能取得实质性进展,正从科技前沿加速向现实生产力转化,推动经济社会发展从“+AI”向“AI+”迈进。尤其是ChatGPT 在2023年的横空出世,引发了国内外人工智能大模型的“百舸争流”,让人类看到了通用人工智能的曙光,也为各行各业的创新发展和转型升级提供了新的工具和视角。
安防行业作为人工智能与实体经济深度融合最成功的应用领域之一,随着与以大模型为代表的新一轮人工智能技术的深入融合,行业数字化、智能化转型升级加速,各厂商加速释放 AI 大模型在安防场景中的通用、泛化和规模化复制能力,拓展 AI 技术边界、加速场景化赋能,重塑智能安防产业新纪元。其中,专注边缘 AI 领域,坐拥算法、芯片、大数据全栈式 AI 能力的深圳云天励飞技术股份有限公司(以下简称云天励飞),在 AIGC( 生成式人工智能 ) 潮流中推出了“云天天书”大模型,也发布了国产 AI 边缘推理芯片,以 AI 技术不断赋能城市治理,为各行业带来安全、智慧、便捷的 AI 体验。
本期《高层访谈》采访了云天励飞副总裁罗忆,对人工智能产业发展、AI 安防应用和公司助力城市治理以及全栈式 AI 能力构建等内容作了深入解读和阐述,以飨读者。
《中国安防》:人工智能作为新质生产力重要引擎,为各行业创新发展提供了强大的技术支撑和驱动力。当前,我国人工智能产业处在怎样的发展阶段?产品技术有哪些创新突破?
罗忆:人工智能发展有几大阶段:感知、认知、决策、自进化。当前随着大模型的出现和发展,人工智能已经初步进入自进化阶段,大家能够初步看见通用人工智能的曙光。
我们根据人工智能产业化特点,参照自动驾驶的分级标准,提出了“L1-L5”的 AI 智能等级,L1 到 L5 的核心特征分别是:信息化、感知智能、机器决策、人机共治、自进化。五个等级的特征用更通俗易懂的话来说就是:不用纸、不用眼、不用脑、不用手、不用管。
虽然AI 技术发展迅猛,但是AI 产业化进程滞后于技术发展进程,AI 在不同行业的落地进程也不尽相同。比如,安防行业本身在信息化和感知智能工作上走在前面,所以国内许多 AI 标杆应用都率先在安防领域打造,安防领域的 AI 应用也率先走到人机共治的 L4 阶段。
人工智能在产品技术方面的创新主要体现在以下两个方面:
一是大模型越来越广泛地应用在各类产品和解决方案中。比如云天励飞的视频巡逻方案就基于大模型技术进行了升级改造,能够实现视频的泛场景事件(打架斗殴、异常奔跑、乱拉横幅、人员持械、异常聚集、人员倒地等)高精度识别,相关方案也在深圳率先完成试点。
二是 AI 的产品化趋势明显。今年以来,大模型训推一体机、边缘 AI 设备、C 端智能硬件层出不穷, 甚至出现了许多新的硬件形态。
《中国安防》:随着 AI 大模型时代的到来,AI 大模型在安防领域的应用价值不断释放。现阶段,AI 大模型在安防行业的应用情况如何?其能为安防行业带来哪些价值?
罗忆:AI 大模型能够处理和学习海量数据,提升学习能力和泛化能力,执行更复杂的任务,并在适应不断变化的环境中保持高效和精度。其能够融合处理多种模态的安防数据(如文本、图像、声音等),并在解决复杂问题方面展现出对跨模态信息的应用潜力,大幅度提升了安防领域中决策制定、逻辑推理、数据治理和问题求解方面的能力。
随着大模型技术的进一步发展,特别是多模态大模型的应用,促使安防系统从传统的视觉监控向更深层次的内容理解、场景适应性和人机交互发展。未来的智能安防将更加注重数据和算力的结合,推动传统安全防范到安全管理的转变、从被动到主动的转变,以及智慧运营的实现。
安防领域本身在信息化和智能化都走在前列, 在这次的大模型浪潮中,安防行业也同样是率先拥抱大模型的领域之一。当前 AI 安防已经开始进入 L4人机共治阶段,相信未来能够率先成为进入自进化阶段的领域之一。
《中国安防》:随着“百模大战”乃至“千模大战”的迸发,互联网大厂、科技公司、安防厂商纷纷布局 AI 大模型赛道。目前,国内AI 大模型市场竞争格局如何?落地应用面临哪些困难和挑战?您认为我国 AI 大模型下一步的发展方向或趋势有哪些?
罗忆:去年随着 ChatGPT 出现以来,国内出现“百模大战”,各家都纷纷推出自己的大模型,国内大模型生态实现了从无到有的突破。但今年以来很少再看到大模型行业有新玩家,大模型数量也没有大幅新增。
今年大模型的趋势是应用落地。在今年的各类活动和展会上,都可以发现各家在宣传大模型的时候,很少再单独强调其技术能力,而是突出自己在各行业应用落地的方案和成果。可以说,如果去年是国内大模型元年,今年则是大模型应用落地元年。
当前,大模型应用落地面临几大挑战。一是算力和成本问题。大模型训练和部署需要大量计算资源, 大部分企业都无法负担这样高昂的算力成本。二是数据隐私和安全问题。当前大模型主要在个人办公和娱乐领域使用,使用部署在云端的大模型,存在一定的数据安全风险。三是大模型出现“幻觉”的情况还比较普遍,有时候会“一本正经地胡说八道”。
我们认为大模型未来趋势是向“边缘 AI”发展。边缘 AI 是指靠近数据采集端和任务闭环端的 AI。我们现在使用的 AI 能力主要部署在云端,手机和电脑是我们与云端 AI 交互的工具,设备本身并不具备 AI能力。但在 AI 时代,我们需要的不是 AI 介质,而是无人车、无人机、机器人等具备自主判断、自主运动能力的智能体。只有智能体的数量越来越多,AI能够覆盖的场景才能够越来越广,AI 对行业的赋能才能够越来越深。换言之,边缘 AI 的发展水平决定了 AI 赋能行业的广度和深度。
高通、英特尔、AMD 等国际芯片厂商已经率先推出了边缘大模型推理芯片,可用于手机、电脑等智能终端,并呈现出向 XR 头显设备、汽车、机器人等领域延展的趋势,现在可以看到 AI 已经成为了电脑和手机的新卖点。具身智能也随着大模型的发展得到了广泛关注。
《中国安防》:芯片是新质生产力发展的关键一环,也是破解“卡脖子”难题的关键核心技术。针对安防领域应用,云天励飞最新研发了哪些芯片产品?其应用效果如何?
罗忆:云天励飞从成立至今已完成 3 代指令集架构、4 代神经网络处理器架构的研发,且已陆续商用。2023 年底最新推出的 AI 芯片 DeepEdge10 基于自主可控的先进国产工艺打造,搭载云天励飞第四代自研神经网络处理器NNP400T ,主要用于大模型在边缘场景的推理部署。
在芯片设计方面,云天励飞采用“算力积木”AI 芯片架构,让芯片能够像搭积木一样灵活组建、灵活扩展。DeepEdge10 系列芯片基于一个标准化的大模型计算单元打造,可实现 1.8B 大模型的实时高效推理。通过 D2D Chiplet 技术、C2C Mesh 技术和 C2C Mes Torus 技术,云天励飞将标准计算单元像搭积木一样,封装成不同算力的芯片,可实现 7B、14B、130B 等不同参数量大模型在边缘端的高效推理。
目前云天励飞已开发出 DeepEdge10C、DeepEdge10 标准版和 DeepEdge10 Max 三款芯片。DeepEdge10C 采用 8 核 CPU、算力 8Tops,DeepEdge10 标准版采用 10 核 CPU、算力 16Tops,两者均应用于智慧安防、智慧城市和智能制造等边缘计算推理领域, 目前 DeepEdge10 已在摄像头、边缘服务器、机器人、汽车等边缘设备落地应用。eepEdge10Max 拥有 32 核 64 位通用处理器内核, 单芯片可提供64Tops算力、32GB DDR容量和120GB/s 的内存带宽, 能高效支持 Transformer 模型中的矩阵乘法运算,主要应用于边缘大模型推理领域。
未来,云天励飞还会推出基于 Mesh Torus 架构的大模型边缘推 理 一 体 机:IPU X6000-Mesh 4U Server,以高峰值算力与突出的能效比支持大模型的单机部署,包括7B、70B、MoE 等主流大模型的边缘侧推理部署。
《中国安防》:生态是保持行业长足发展的重要基础,您如何看待生态在人工智能产业发展中的意义?云天励飞在产业生态构建方面作了哪些努力?
罗忆:生态对于人工智能发展而言非常重要。在国内,虽然有很多单点的 AI 技术实现了突破,但是由于缺乏完善的生态,导致产业链无法协同,对技术的产业化应用带来了一定的挑战,不利于加速国内人工智能发展。
上市之后,云天励飞积极利用资本纽带与更多人工智能产业上下游合作伙伴建立深度联系,投资了智慧互通、臻识科技、神州云海等在动态停车、静态停车、全息路口及智慧工地、清洁机器人等方向的龙头企业, 并作为创始股东成员之一参股深圳国创具身智能机器人有限公司,提供AI 芯片、大模型领域的技术支持。此外, 还通过收购智能穿戴头部方案设计公司岍丞技术,进军大模型 C 端应用市场,围绕边缘 AI 不断拓展上下产业链及生态。
此外,在产学研合作方面,云天励飞与清华大学、上海交通大学、西安电子科技大学等头部高校展开技术上的合作,并与上海交大等近 10 家高校成立 AI联合实验室,共同推动 AI 技术攻关,以及 AI 人才的联合培养。
《中国安防》:作为一家 AI 企业,云天励飞推动了 AI 在哪些行业领域的创新应用?与产业内其他企业相比有哪些差异化优势?
罗忆:云天励飞围绕智能硬件、智算服务、智慧行业三大领域,不断推进 AI 的产业化应用。
在智能硬件方面,云天励飞围绕“端、边、云” 部署了产品矩阵。在端侧,公司拥有自研 AI 芯片,并通过收购智能穿戴头部方案设计公司岍丞技术, 开展可穿戴设备的探索。在边侧,公司推出“深目”AI 模盒,推动大模型部署便捷化、应用平民化。在云端,公司与华为昇腾合作,推出了“天舟”大模型训推一体机,通过与昇腾硬件加速平台的深度优化, 集成开箱即用的系列训推工具,满足各类业务场景快速上线大模型的需求。
在智算服务方面,目前云天励飞已落地超大规模异构高性能算力集群,积累了丰富的软硬件运营和维护经验,并将“云天天书”大模型研发过程中积累的算力调优、模型训练相关工具与平台融入到AI 算力服务中,帮助客户提升模型训练及算力利用效率。
在智慧行业方面,云天励飞围绕智慧警务、智慧交通、城市治理、人居生活四大核心行业以及低空经济、智慧教育等战略新兴行业,打造了一系列标杆项目,如:深圳多区域的智慧安防项目、青岛市公安局崂山分局 AI 大数据应用中心项目、深圳巴士集团智慧公交OD 项目、深圳道路智慧巡检项目、深圳龙岗 AI 视频分析赋能平台、成都新津智慧城管平台、深圳出版集团数字化转型项目、上海大宁中心广场园区项目、深圳福田智慧商圈项目、印力集团智慧商业大脑平台、深圳市中小学人工智能联合实验室等。
云天励飞的差异化优势主要体现在全栈式技术能力上——既有自研的大模型、算法,又有自研芯片。“算法芯片化”是云天励飞的核心技术能力,公司将该能力沉淀为基础技术研究平台,为技术研发和产业赋能提供有力支撑。基于算法芯片化技术平台, 公司不断实现大模型和 AI 芯片等核心技术的突破,并且不断将创新技术投入到产业化应用中,为各行业带来最前沿的技术。
《中国安防》:随着数字化浪潮下的城市革新被日益提上日程,2020 年云天励飞打造了“1+1+N”自进化城市智能体实践框架。该框架提出的背后体现了城市治理怎样的需求?其如何有效创新城市治理?
罗忆:“1+1+N”指的是:一张感知网络、一个城市超脑、N 个智慧应用。自进化城市智能体的提出和人工智能发展特点密不可分。
人工智能发展离不开大量的数据,而中国发展人工智能的优势在于拥有大量开放的场景和丰富的数据。因此可以通过“应用生产数据、数据训练算法、算法定义芯片、芯片赋能应用”的闭环,不断推动人工智能技术进步迭代。这也是适合中国人工智能发展的道路。
云天励飞把这个路径总结成“自进化城市智能体”,希望可以把整座城市当做一台机器去训练,推动城市中各行业、各场景对AI 技术开放,产生更多能够反哺AI 发展的数据,推动中国AI 发展。同时,又能够让AI 技术渗透到城市发展的各个角落,为智慧城市发展提供更充足的动能。
《中国安防》:据报道,日前云天励飞签订了 16 亿元算力服务大订单。该订单的签订对公司的未来发展具有哪些促进意义?算力平台对人工智能产业发展的推动作用主要体现在哪些方面?
罗忆:大模型的蓬勃发展带来了算力需求的激增。根据中信建投的测算 ,2023-2027 年 , 全球大模型训练端峰值算力需求量的年复合增长率有望达到78.0%。工信部数据显示 , 截至 2023 年 6 月底 , 我国算力总规模达到 197EFLOPS, 算力总规模近五年年均增速近 30%, 存力总规模超过 1080EB。
云天励飞自主研发了千亿级大模型“云天天书”, 并在大模型的研发过程中积累了一系列算力调优、提升模型训练效率的技术平台和相应工具 , 云天励飞将上述技术沉淀运用在 AI 算力服务中 , 可帮助客户提升模型训练及算力利用效率,此次 AI 算力运营服务合同的签订也标志着公司 AI 运营业务迎来新的重大突破。
此外 , 公司将持续投入自研大模型研发及优化工作 , 预计将维持对 AI 训练及推理异构算力的较高需求 , 此次《服务合同》项下涉及的对于高性能异构算力的采购未来亦可视需要作为云天励飞大模型研发工作所需算力基础的补充 , 支撑公司大模型技术的持续进步。
相较于大模型训练算力的一次性开销而言, 推理算力需求将随着大模型使用时间和用户量的增长而快速增加 , 因此在大模型进入成熟商业化阶段之后将迎来需求爆发。云天励飞搭建超大规模异构高性能算力集群将其自研推理卡与高性能训练算力相结合 , 为客户提供高效的训推一体算力服务 , 同时为自研推理卡落地打开场景触角、搭建生态 , 为大模型进入成熟商业化阶段后的推理需求爆发提前布局。
《中国安防》:人工智能的发展日新月异, 应用领域不断深化拓展。展望未来,请您谈一下安防行业在 AI 推动下的发展趋势,以及云天励飞在安防领域的发展规划。
罗忆:一是走向主动预防的趋势。过去 AI 能够加快事后响应和处理的速度,大模型出现后,不仅能够进一步加快事件处理的效率,还能够让工作走向主动预防成为可能。
二是AI 边缘化趋势。事件感知源从固定摄像头, 逐渐扩展到移动点位摄像头,例如低空无人机、巡检巡逻机器人、车辆等。具身智能发展也为安防走向“人机共治” 的阶段提供了新的思路。而这些新的趋势背后都离不开边缘 AI 的支持。
未来,云天励飞会继续推动大模型与更多场景和方案的融合,推动方案向更高智能等级迈进,为客户提供更多更智能、更好用的产品和方案。
■ 本刊记者/ 唐涛
文章来源于《中国安防》杂志2024年第10期
《中国安防》
-国内行业权威杂志-
出版发行:《中国安防》编辑部
主管主办:中国安全防范产品行业协会
电话:010-88825523