快科技3月4日消息，Intel已经将NPU加速库开源并放上GitHub，使得基于酷睿Ultra处理器的AI PC可以运行TinyLlama、Gemma-2b之类的轻量级大语言模型。
酷睿Ultra首次引入了NPU AI引擎，可以执行一些轻负载的AI推理任务，并与CPU、GPU搭配处理各种AI工作。
这次开源的NPU加速库，当然是面向开发人员的，但如果你有一定的编程经验，也可以拿来体验体验。
Intel软件架构师Tony Mongkolsmai展示了利用此开源的NPU加速库，在一台微星尊爵14 AI Evo笔记本上，基于11亿参数的TinyLlma大模型，运行了一个AI聊天机器人，可以进行简单对话。
同时，Windows任务管理器显示，NPU确实被调动起来了。
不过，开源NPU加速库目前的功能还很残缺，支持了8比特量化、FP16精度，但还不支持4比特量化、BF16精度、NPU/GPU混合计算等等，技术文档也没有。
Intel承诺，后续会逐渐增加更多功能，比现在要多一倍。
文章来源于互联网:凤凰网-Intel酷睿Ultra NPU AI加速库开源：但功能残缺不全
相关推荐
-
消息称三星Galaxy S26系列手机将涨价，DRAM供应链短缺成主因
IT之家 11 月 4 日消息，据韩媒 etnews 今天报道，随着半导体存储市场景气向好，核心元器件价格接连攀升，各大厂家的成本压力持续加大，三星的下一代旗舰直板手机 Galax…
-
三星Galaxy Watch 7/Ultra通过认证，支持10W快充
有消息称，三星Galaxy Watch 7系列可能会在即将举行的Unpacked活动上正式亮相。在这之前，有外媒在7C认证网站上看到了三星Galaxy Watch 3的一些信息。同…
-
韩媒：受苹果OLED iPad销售低迷牵连，三星显示延缓第8代OLED面板扩产
IT之家 2 月 13 日消息，韩媒 The Elec 昨日（2 月 12 日）发布博文，由于 OLED iPad 的销售低迷，以及苹果推迟发布 OLED MacBook Air，…
-
网友晒方法让你用iPhone检测针孔摄像头引围观：苹果回应了
快科技11月12日消息，近日有网友发帖称，iPhone其实是可以检测针孔摄像头，这引来了不少人的围观。 按照相关网友发布的帖子看，打开iPhone自带放大器，点击底部滤镜图标选择红…
-
HP Stream Laptop笔记本电脑在德国Amazon这样买更值，可省30欧元，仅售249.00欧元
目前在德国的amazon商店购买HP Stream Laptop笔记本电脑，原价279.00欧元，优惠40欧元，优惠完仅售249.00欧元，此价格包括增值税，需要的朋友可以看一看。…
-
“双标”的石头科技，赴港IPO谁买单？
文 | 万 芙 曾被誉为A股“扫地茅”的石头科技，正站在一个关键的十字路口。这边，公司创始人、董事长昌敬因“套现近9亿元却劝投资者耐心一点”的言论冲上热搜，舆论压力下昌敬清空社交媒…
-
Galaxy Ring不兼容iPhone，三星高管：推动苹果用户改用三星手机
IT之家 3 月 1 日消息，三星 MX（移动体验）负责人卢泰文日前出席 MWC 2024 大会，展示了 Galaxy Ring 智能戒指，可跟踪血氧饱和度、睡眠状况，续航 5-9…
-
华为MateBook 14笔记本Linux版上架：可选Ultra5/7，5999元起
IT之家 4 月 13 日消息，华为 MateBook 14 笔记本 Linux 版现已在官网上架，可选三种版本，定价为 5999 元起，IT之家整理价格信息如下： Ultra 5…
-
分析师：OLED屏幕或将使iPad提高3%~5%的销量
苹果5月7日发布了最新的iPad Air和iPad Pro，此次新产品搭载OLED屏幕与新的芯片为重要亮点，DIGITIMES分析师黄耀汉预估，OLED屏幕将有机会使iPad提高3…
