0
| 本文作者：张进 | 2024-09-29 12:03 |
「雷峰网(公众号：雷峰网)消息」9月26日，RockAI“真端侧·智无界”开放日活动在上海举行，正式推出了全新升级的Yan1.3大模型，并展示了其在无人机、机器人、PC、手机等各类终端设备上的超强模力。
相较于1月份首发的Yan1.0，Yan1.3具备了强大的多模态能力，可高效处理图文及语音等多模态信息，并实现了模型在更广泛设备端上的离线无损部署，普通电脑CPU上也能够流畅运行。
CEO刘凡平表示：“在AGI这个终极命题下，无论是云端还是端侧，都只是实现智能普惠及跃迁的一个载体。RockAI始终坚信，只有真正提升每一台设备的自我学习能力，才能激发更高级别智能形态即群体智能的涌现。”
活动现场，RockAI团队展示了一款部署了Yan1.3大模型的“飞龙”无人机。区别于大多数云、边、端协同控制的无人机，飞龙的智能大脑Yan1.3直接部署于设备端，对突发状况能做出即时判断和处理，无需先传回云端判定再回到设备端执行，大大提升无人机在复杂环境中的适应性和自主性，实现高度的自动化水平和快速反应能力。如与某厂商合作的无人机项目，便能解决设备将高清画面传回云端，所产生的5G-A流量成本高的痛点。
在实际应用方面，部署了Yan1.3的飞龙无人机，可全面感知复杂环境并在设备端实时处理，支持各类环境下的智能巡检，不仅高效适配电力巡检、安全监控、环境监测等城市治理及工业场景；更可面向个人用户，广泛运用于AI拍摄、外出旅游、山地越野等日常生活情景，贴心勘探环境、规划行程的同时，还能够解放双手，自动捕捉最佳角度并挑选出最佳照片。
此外，研发团队还演示了Yan1.3在更多端侧设备的广泛应用，比如此前惊艳亮相世界人工智能大会的 “胖虎”智能机器人，能够基于Yan1.3的多模态处理能力，在离线状态下识别复杂环境、准确理解用户意图，并据此控制其机械躯体高效完成各类复杂任务，如展现“七步成诗”“咏春拳法”等。
又比如内嵌在PC端的迅兔智能助手，可以在离线模式下听懂“人话”、看懂图片并快速搜图，精准完成“帮我录音并整理会议记录”、“把所有橘猫图片都删掉”等模糊指令，保护用户隐私安全的同时，真正让每个人享受到AI带来的便利。
RockAI认为，真正的智能是不应受限的，因此，他们始终坚定地走在非Transformer架构、无损部署这条少有人走的路上。如今，未经压缩、裁剪的Yan1.3大模型在越来越多设备端展现出的丝滑适配和超强模力，正向行业证实RockAI技术路线的合理性，及其最终激发群体智能的充分可能。
在RockAI的规划中，群体智能的实现包括四个阶段：创新型基础架构、多元化硬件生态、自适应智能进化、协同化群体智能。如果说自主架构的Yan模型是走向群体智能的开端，那么此次发布的Yan1.3群体智能单元大模型，显然已经快速实现了在多元化硬件设备上的适配。其在端侧的无损推理基于两大核心技术创新，一是以底层神经网络架构MCSD替代Transformer的Attention机制，二是基于仿生神经元驱动的选择算法实现类脑分区激活，大大减少计算复杂度及算力消耗。
众所周知，Attention机制是Transformer架构的核心，其加权算法决定了计算量会随着序列长度的增加呈O(n^2 )增长，对计算的算力要求也会越来越高。而RockAI通过MCSD机制替换掉Attention，只把最有效的信息、特征往后传，以线性的方式降低计算的复杂度，提升训练和推理效率。
同时，RockAI借鉴了大脑分区激活的原理，由选择神经网络自己决定处理某个任务时参与运算的神经元，初始具有随机性，但通过大量数据学习、训练后会变得有迹可循。就像人类一样，随着一件事情做的越多，被激活的那部分神经元就会越确定，反应也就越快。基于该算法实现的模型分区激活，不仅节省了算力成本，还可以通过共享神经元实现多模态的对齐。
经过对不同硬件的研究和大量调试，目前RockAI已经适配了英伟达、高通、联发科、英特尔、瑞芯微等平台，商业化进程也在不断加速。随着自主学习机制进入实验室测试阶段，RockAI也与芯片厂商及终端厂商达成初步合作意向，突破硬件限制，打造越来越多基于Yan架构的智能单元，让世界上每一台设备拥有自己的智能。
未来，期待这些拥有不同能力、不同个性的智能单元得以协同，涌现更为宏大、多元的群体智能，最终实现个性化与群体智能的共融共生，开启人与机器的智能新时代。
雷峰网特约稿件，未经授权禁止转载。详情见转载须知。
