快科技3月4日消息，Intel已经将NPU加速库开源并放上GitHub，使得基于酷睿Ultra处理器的AI PC可以运行TinyLlama、Gemma-2b之类的轻量级大语言模型。
酷睿Ultra首次引入了NPU AI引擎，可以执行一些轻负载的AI推理任务，并与CPU、GPU搭配处理各种AI工作。
这次开源的NPU加速库，当然是面向开发人员的，但如果你有一定的编程经验，也可以拿来体验体验。
Intel软件架构师Tony Mongkolsmai展示了利用此开源的NPU加速库，在一台微星尊爵14 AI Evo笔记本上，基于11亿参数的TinyLlma大模型，运行了一个AI聊天机器人，可以进行简单对话。
同时，Windows任务管理器显示，NPU确实被调动起来了。
不过，开源NPU加速库目前的功能还很残缺，支持了8比特量化、FP16精度，但还不支持4比特量化、BF16精度、NPU/GPU混合计算等等，技术文档也没有。
Intel承诺，后续会逐渐增加更多功能，比现在要多一倍。
文章来源于互联网:凤凰网-Intel酷睿Ultra NPU AI加速库开源：但功能残缺不全
相关推荐
-
英伟达RTX 3050 A笔记本独显跑分首曝：RTX 3050加强版
IT之家 9 月 6 日消息，英伟达此前被曝将推一款 RTX 3050 A 移动端 GPU，目前新品已经出现在跑分网站中，透露了一些性能信息。 该 GPU 配备 根据 Geekbe…
-
消息称苹果Apple Vision Pro耳机或于1月底发布
据一份来自中国的报告，苹果Apple的全新旗舰耳机产品Vision Pro可能将于1月的最后一周正式发布。这一消息来自华尔街见闻，尽管其谣言追踪记录未经证实，但此次独家信息的释放引…
-
华为MateBook X Pro官宣，余承东：首次支持华为盘古大模型
快科技4月10日消息，今日，华为官方宣布将推出全新华为MateBook X Pro笔记本，将在4月11日的华为鸿蒙生态春季沟通会上发布。 华为常务董事、终端BG CEO余承东表示，…
-
华为WATCH FIT 4智能手表发布：1.82英寸屏幕、蓝牙通话，999元起
IT之家 5 月 15 日消息，华为 WATCH FIT 4 智能手表今日首发亮相并开启预售，新款手表配备 1.82 英寸屏幕、支持蓝牙通话，售价 999 元起、首发 949 元起…
-
中兴AI家庭“四大件”发布：路由器秒变数字管家
凤凰网科技讯 4月28日，中兴通讯在第八届数字中国建设峰会期间发布AI家庭“四大件”战略体系，正式推出问天旗舰路由器、FTTR全光智慧屏、全球首款二合一云笔电及5G自由屏等创新产品…
-
这家搞同声传译的国产公司，在CES展上惊艳了一众外国友人
每年的这个时候，全球最新奇有趣的电子产品都会齐聚到拉斯维加斯，参加全世界最大的数码展会之一 CES （ 国际消费电子展 ）。 跟往年一样，这次咱也过去溜达了~ 这次的 CES 也相…
-
2周一更，Sonos致歉并公布新版应用路线图：修复BUG、扩充功能
IT之家 7 月 26 日消息，Sonos 官网今天发布博文，该公司首席执行官帕特里克・斯彭斯（Patrick Spence）在文中致歉，承诺 2024 年将加速改善新版 Sono…
-
初中生花70元自制牛顿反射式望远镜可观测月球：陨石坑清晰可见
快科技1月19日消息，河南郑州年仅14岁的初中生马俊鹤，凭借对天文的无限热爱和不懈追求，花费70元成功自制了一台能够清晰观测月球表面的天文望远镜。 这台望远镜虽然外观朴素，镜身上布…
-
小米智能手环8 Pro评测：功能全面升级，设计更趋完美
在智能手环市场日益激烈的竞争中，小米凭借其出色的产品设计和强大的功能，一直保持着领先地位。最新推出的小米智能手环8 Pro，不仅继承了前代产品的优点，还在设计、功能和用户体验等方面…
-
专为VR头显设计，LG推出10000尼特峰值亮度OLEDoS面板
IT之家 5 月 16 日消息，LG 近日推出了一款专门为 VR 头显设计的 OLEDoS 面板，该面板亮度至高可达到 10000 尼特，分辨率 4000 PPI，有望在未来应用于…
