快科技3月4日消息，Intel已经将NPU加速库开源并放上GitHub，使得基于酷睿Ultra处理器的AI PC可以运行TinyLlama、Gemma-2b之类的轻量级大语言模型。
酷睿Ultra首次引入了NPU AI引擎，可以执行一些轻负载的AI推理任务，并与CPU、GPU搭配处理各种AI工作。
这次开源的NPU加速库，当然是面向开发人员的，但如果你有一定的编程经验，也可以拿来体验体验。
Intel软件架构师Tony Mongkolsmai展示了利用此开源的NPU加速库，在一台微星尊爵14 AI Evo笔记本上，基于11亿参数的TinyLlma大模型，运行了一个AI聊天机器人，可以进行简单对话。
同时，Windows任务管理器显示，NPU确实被调动起来了。
不过，开源NPU加速库目前的功能还很残缺，支持了8比特量化、FP16精度，但还不支持4比特量化、BF16精度、NPU/GPU混合计算等等，技术文档也没有。
Intel承诺，后续会逐渐增加更多功能，比现在要多一倍。
文章来源于互联网:凤凰网-Intel酷睿Ultra NPU AI加速库开源：但功能残缺不全
相关推荐
-
传苹果将在未来几年为Mac电脑提供触摸屏支持
多年以来，触摸屏一直是苹果Mac系列电脑缺失的功能，而他的竞争对手一直为在为Windows提供触摸屏支持。业界认为，苹果拒绝触摸屏的原因之一，是担心这会阻碍iPad平板电脑的销售，…
-
OPPO Find X9系列宣布率先支持小红书8K照片直发 全焦段直出
快科技11月5日消息，今日，OPPO宣布Find X9系列率先支持在小红书平台8K画质直发，全焦段可以直出8K超清照片。 简单来说就是完整的5000万像素模式，不压缩画质。 据了解…
-
魔兽宇宙30周年，已有超2.54亿游戏玩家
IT之家 11 月 14 日消息，在今日凌晨的魔兽 30 周年庆祝活动中，暴雪公布了有关《魔兽世界》《魔兽争霸》《炉石传说》等 IP 相关游戏的新消息。 在直播最后，暴雪宣布魔兽宇…
-
松下松准系列护眼吸顶灯接入米家App，支持小米澎湃智联、超级小爱
IT之家 12 月 5 日消息，米家官方今日宣布，松下照明的松准系列护眼吸顶灯现已接入米家 App。据悉，该灯具产品将支持小米澎湃智联及超级小爱控制。 具体来看，使用米家 App …
-
三星展示 The Music Frame：把扬声器变为艺术品
IT之家 1 月 13 日消息，三星在 CES 2024 大展期间，推出了全新的 The Music Frame 扬声器，融合了科技和艺术，带来不一样的听觉视觉体验。 三星 The…
-
英伟达Arm PC芯片，太猛了
传闻中的 Nvidia N1X SoC 已在Geekbench上亮相，通过Olrak at X 跑分软件，可与英特尔、AMD 和高通的顶级移动产品相媲美。这款据称拥有 20 核的芯…
-
磨了两年的华为新手表，能憋出什么活儿？
之前托尼观察过，我们在B站上的观众都是以小年轻为主，他们更希望在手表上运行更多的APP。 比如买了OPPO智能手表的那批人，他们的玩法就是买回来后折腾ADB装第三方APP，然后带到…
-
中国显示技术助力FIFA世俱杯VAR系统 为精准判罚提供支持
凤凰网科技讯 6月15日，2025年FIFA世俱杯今日在美国迈阿密硬石体育场正式开幕，中国显示技术企业海信为赛事提供关键技术支持，其显示产品深度应用于视频助理裁判（VAR）系统，在…
-
Intel二代锐炫显卡发布在即！下个月有好戏
快科技11月8日消息，NVIDIA RTX 50系列、AMD RX 8000系列都蓄势待发，而距离初代锐炫A系列显卡两年多之后，Intel二代锐炫Battlemage B系列也该问…
-
微软Surface发布会揭示Copilot Plus新功能，AI游戏助手成亮点
微软近日在其Surface发布会上不仅推出了全新的Copilot Plus电脑平台以及新款Surface笔记本电脑，更在人工智能领域展示了其引人注目的新进展——一款全新的游戏助手功…
