百川智能,成立于2023年4月10日,是一家致力于通用人工智能研发和提供相关服务的中国公司。百川智能推出了百川-7B/13B、百川-2-7b/13b四款开源商用模型,为AI PC大语言模型的应用提供了优秀的本地化解决方案。
虽然都是AI,但是前两年的AI和今年的AI并不等同于未来的AI。“深度学习”的概念被机器人击败人类棋手而广为人知。ChatGPT用它学到的知识“创造”内容。在这些现象的背后,AI计算是有海量数据和超高计算能力支撑的。在AI应用的另一端,NPU已经成为智能手机等终端设备优化照片拍摄的利器。
2024年是AI PC元年,2023年底拉开大幕。面对新时代的到来,PC整个生态链乃至更大范围内的企业都在积极行动,无论是高通、试图突破ARM架构的苹果、坚持APU路线的AMD,还是传统Wintel联盟的duo,都在这一刻围绕AI概念集中发布或透露自己的PC平台产品。
AI应用的爆发已经不能用ML/DL/LLM或者AIGC等相对具体的原生AI应用方向来覆盖,相应的不同AI应用也需要越来越灵活的AI加速硬件。尤其是对于PC这样的通用平台,其通用性是放在第一位的,而x86几十年来以应用软件众多、向前兼容的优势著称。在现有应用程序中添加AI功能,如微软的Copilot渗透了从Windows到Office的许多应用程序,AI加速了硬件匹配和优化,这将大大增强基于AI的应用程序的使用体验。
过去几年,英特尔在核心平台上陆续配备了GNA音频加速器、IPU图像处理单元、支持DL Boost/DP4a的Iris Xe核显等AI硬件加速器,实现了特定应用场景下相应的AI加速功能。Core Ultra(流星湖)的正式发布,是Intel PC平台整体向AI转移的开始,表面上看增加了NPU这一全新的AI加速器;此时,微软也发布了更多关于基于AI的Windows系统Windows 12的最新消息,并将AI加速器的支持和优化从OS级别扩展到NPU级别,包括但不限于现有的Windows ML container等微软AI解决方案。
英特尔酷睿超处理器是首款基于英特尔4制程技术的处理器,代表了英特尔架构40年来最大的创新。它采用先进的Foveros 3D封装技术,结合先进的知识产权成果和先进的工艺技术,优化相关模块的性能。
百川智能联合创始人兼联席总裁洪涛表示,百川智能与英特尔合作,在端侧进一步优化模型,使得百川模型在Core Ultra平台上运行良好。未来,百川智能和英特尔将继续探索大语言模型在端侧计算和AIGC领域的应用和发展。
Core Ultra具备更多软件和硬件特性。底层硬件架构可以是CPU、GPU、VPU、FPGA、全新的NPU,甚至更多针对不同应用的其他硬件加速器。这些加速器可以为包括百川在内的大型模型提供直接的硬件推理能力,使更多模型的推理工作转移到PC平台,实现高效安全的本地化运行。此前,英特尔已经宣布其核心产品可以运行60亿个参数的大型模型。芯超与百川大模式的结合,将进一步提升模式规模和运营效率。
目前,包括剪影、天行者、玄米、爱奇艺、百川等在内的众多国内软件厂商都已经首次推出或升级了支持Core Ultra新AI特性的产品。作为AI PC加速计划的一部分,100多家独立软件厂商(ISV)和300多项AI加速功能将针对英特尔酷睿Ultra处理器进行独家优化,提供丰富的AI应用和框架。消费者可以在全新的Core Ultra产品上市之初就体验到AI带来的改变,无论是文本、脚本、图片、音频、视频等内容生成(AIGC),还是抠图、识别、交互等AI应用,享受AI PC盛宴,无需等待对方。