快科技3月4日消息，Intel已经将NPU加速库开源并放上GitHub，使得基于酷睿Ultra处理器的AI PC可以运行TinyLlama、Gemma-2b之类的轻量级大语言模型。
酷睿Ultra首次引入了NPU AI引擎，可以执行一些轻负载的AI推理任务，并与CPU、GPU搭配处理各种AI工作。
这次开源的NPU加速库，当然是面向开发人员的，但如果你有一定的编程经验，也可以拿来体验体验。
Intel软件架构师Tony Mongkolsmai展示了利用此开源的NPU加速库，在一台微星尊爵14 AI Evo笔记本上，基于11亿参数的TinyLlma大模型，运行了一个AI聊天机器人，可以进行简单对话。
同时，Windows任务管理器显示，NPU确实被调动起来了。
不过，开源NPU加速库目前的功能还很残缺，支持了8比特量化、FP16精度，但还不支持4比特量化、BF16精度、NPU/GPU混合计算等等，技术文档也没有。
Intel承诺，后续会逐渐增加更多功能，比现在要多一倍。
文章来源于互联网:凤凰网-Intel酷睿Ultra NPU AI加速库开源：但功能残缺不全
相关推荐
-
微星MSI Raider GE78HX在加拿大亚马逊可以省500美元，仅售4299.99美元！
微星MSI Raider GE78HX是一款功能齐全、性能卓越的电脑，其折扣非常大，目前加拿大亚马逊正在开展一项优惠活动，您可以以4299.99美元的价格购买该产品，可以享受500…
-
开源3D建模软件Blender搁置苹果iPad版开发，将重心转向适配Android平板
IT之家 2 月 27 日消息，据科技媒体 Appleinsider 昨天报道，开源 3D 建模软件 Blender 在去年中旬宣布原生适配苹果 iPad，不过官方当时并没有给出具…
-
三星智能戒指即将开卖，谁会“魔戒”买单？
一次创新性的尝试。 经过多年铺垫，在今年MWC 2024上，三星正式对外宣布了自家智能戒指产品“Galaxy Ring”，这是一种与智能手环类似的智能穿戴设备，但体积更小、不带屏幕…
-
外星人Area 51旗舰游戏本再临：搭载英特尔酷睿Ultra 9 275HX处理器
IT之家 1 月 6 日消息，本月 2 日上传至 Geekbench 官方数据库的一份测试数据显示，戴尔 Alienware 外星人将在今年再度推出 Area 51 系列游戏本，可…
-
国内首款eSIM手机：苹果iPhone Air确认支持中国联通eSIM服务，国外旅行也能用
IT之家 9 月 10 日消息，苹果目前在中国大陆官网上线了各个新品的详细信息。根据介绍，iPhone Air 通过 eSIM 激活，不支持实体 SIM 卡。使用 eSIM 需要选…
-
2025真香折叠旗舰，OPPO Find N5“展开”说说
OPPO近日正式发布了全球最薄折叠旗舰 OPPO Find N5，作为全球首款搭载骁龙8至尊版的折叠产品，Find N5搭载全新钛合金天穹铰链，机身薄至 8.93mm，轻薄机身下还…
-
补丁已在路上，微软公布临时解决方案：修复Win11照片转圈/无法打开问题
IT之家 7 月 13 日消息，微软公司今天更新支持文档，针对组策略 / CSP 策略冲突导致无法打开 Windows 11 照片应用问题，发布临时解决方案，并承诺尽快公布永久解决…
-
苹果新专利：iPhone、iPad等设备可使用Vision Pro头显空中手势
快科技3月26日消息，据媒体报道，根据世界知识产权局（WIPO）最新公示的专利清单，苹果公司成功获得了一项全新的手势识别专利，预示着未来iPhone、iPad和MacBook等其他…
-
消息称苹果新一代Vision Pro将配新型双圈编织头带，佩戴更舒适
IT之家 10 月 4 日消息，外媒 MacRumors 今天披露，苹果正在开发新一代 Vision Pro，除了换用性能更强的 M5 芯片以外，还可能增加一款名为 Dual Kn…
-
苹果Vision Pro头显革新医疗，300名行业领袖探索如何重塑医疗体验
2 月 1 日消息，科技媒体 cultofmac 昨日（1 月 31 日）发布博文，报道称苹果 Vision Pro 头显在医疗领域大放异彩，其在手术及其他医疗场景中的应用潜力，引…
