0
近日,关于字节跳动大语言模型研发技术专家杨红霞离职创业的事情,坊间传得沸沸扬扬。
雷峰网独家获悉,杨红霞已于 5 月下旬正式从字节跳动离职,开始筹备 AI 创业项目。不过,杨红霞不做“大”模型,而是将方向瞄准端侧模型,布局 AI Agent。目前,团队正在筹备组建中,已获得 3000 至 4000 万美元的投资,投后估值 1.5 亿美元。
此前,杨红霞为大家所熟知的是,她曾是阿里达摩院万亿参数规模多模态预训练模型 M6 的技术负责人,参与过北京智源研究院主导的“悟道”大模型项目,而该项目是中国最早的大模型项目之一。
在字节跳动的大模型队伍中,杨红霞的学术气质较为突出。据雷峰网(公众号:雷峰网)梳理,字节大模型团队的核心成员主要是在字节抖音、西瓜等产品内部成长起来的骨干。
2007 年,杨红霞从南开大学本科毕业后,赴杜克大学攻读博士,师从著名统计学家 David Dunson,著有超过 100 篇杰出学术论文。
博士毕业后,杨红霞入职 IBM 全球研发中心任 Watson 研究员,之后又加入雅虎公司,担任首席数据科学家。
2016年,杨红霞回国加入阿里达摩院,就职期间杨红霞的职级为 P9,曾任达摩院智能计算实验室主任,作为技术负责人,一路见证了 M6 从百亿、千亿进化到万亿参数量规模。
去年年初,杨红霞加入字节跳动 AML(Applied Machine Learning,机器学习系统),向团队的负责人项亮汇报,带领一支大约 40 人的团队。
如今,杨红霞身上又多了一层创业者的身份。
今年以来,通用大模型格局逐渐收缩,落地应用成为主旋律,越来越多的目光开始瞄向行业、端侧大模型。而端侧模型,主要应用在手机、电脑、智能网联汽车等终端设备上,具有成本低、移动性强、数据安全等优势,正逐渐成为行业追逐的热门话题。
今年 2 月,清华 THUNLP 走出的 AI 公司——面壁智能推出 20 亿参数的开源端侧模型 MiniCPM;
4 月,商汤推出 1.8B 参数规模的 SenseChat-Lite 版本端侧⼤模型;
5 月,来自斯坦福大学的 NEXA AI 团队发布了全球首个参数量小于 10 亿的多模态 AI Agent 模型 Octopus V3,在函数调用性能上远超同类模型,可与 GPT-4V+GPT4 相媲美,更是将端侧模型卷到新高度。
据了解,NEXA AI 团队创始人兼首席科学家陈伟(Alex Chen),正在攻读斯坦福大学博士学位,拥有丰富的AI研究经验;联合创始人兼首席技术官李志远,毕业于斯坦福大学,并在 Google 和 Amazon Lab 126 实验室拥有 4 年端侧 AI 的研发经验。
不管是手机,还是电脑,或者汽车,在人们的生活中都扮演着重要角色,可见,端侧大模型前景广阔,在如何更好地训练出小且好用的端侧模型的新行业命题下,大有可为。
雷峰网原创文章,未经授权禁止转载。详情见转载须知。