快科技3月4日消息，Intel已经将NPU加速库开源并放上GitHub，使得基于酷睿Ultra处理器的AI PC可以运行TinyLlama、Gemma-2b之类的轻量级大语言模型。
酷睿Ultra首次引入了NPU AI引擎，可以执行一些轻负载的AI推理任务，并与CPU、GPU搭配处理各种AI工作。
这次开源的NPU加速库，当然是面向开发人员的，但如果你有一定的编程经验，也可以拿来体验体验。
Intel软件架构师Tony Mongkolsmai展示了利用此开源的NPU加速库，在一台微星尊爵14 AI Evo笔记本上，基于11亿参数的TinyLlma大模型，运行了一个AI聊天机器人，可以进行简单对话。
同时，Windows任务管理器显示，NPU确实被调动起来了。
不过，开源NPU加速库目前的功能还很残缺，支持了8比特量化、FP16精度，但还不支持4比特量化、BF16精度、NPU/GPU混合计算等等，技术文档也没有。
Intel承诺，后续会逐渐增加更多功能，比现在要多一倍。
文章来源于互联网:凤凰网-Intel酷睿Ultra NPU AI加速库开源：但功能残缺不全
相关推荐
-
跳过M3！曝Mac mini首发苹果M4 Pro
快科技5月23日消息，据媒体报道，iPad Pro首发M4芯片后，苹果Mac mini也会跳过M3芯片，直接从M2跃升至M4，新品最快会在今年年底登场。 据悉，Mac mini标准…
-
曝Panther Lake仅限移动平台，英特尔下一代台式机CPU平台将是Nova Lake-S
IT之家 8 月 10 日消息，消息源 Jaykihn 昨日（8 月 9 日）在 X 平台回复网友，爆料称英特尔 Panther Lake 仅用于移动设备，而 Arrow Lake…
-
谷歌或将与雷朋厂商开发Gemini智能眼镜
品玩7月22日讯，据 The Verge 报道，Google 目前正在与开发了雷朋智能眼镜的 EssilorLuxottica 接触，计划携手开发 Gemini 智能眼镜。 此前，…
-
更薄更强！三星Z Flip8传闻曝光 机身与显示双重进化
【CNMO科技消息】三星在今年对Z Flip7进行了一些有意义的升级，但Z Fold7凭借极其轻薄的设计和其他改进，成为了2025年三星折叠屏手机中明显的赢家。鉴于三星的升级周期趋…
-
JBL推出儿童专用Junior Free开放式耳机：能保护孩子听力，70欧元
IT之家 11 月 5 日消息，当地时间 4 日，JBL 在欧洲推出了面向儿童的 Junior Free 开放式耳机。这款耳机不仅能陪伴孩子成长，还让家长轻松监控和管理使用情况。J…
-
OPPO要“冻住”SoC，K13 Turbo打造散热套装：液冷、风冷一起上
快科技7月19日消息，OPPO K13 Turbo系列将于7月21日14:30发布，新机最大的特点就是自带风冷，是OPPO首次配备内置风扇。 风扇，位于主摄下方可以快速带走内部热量…
-
NVIDIA RTX 60系列用上更大显存：DLSS 5性能再翻倍
快科技2月3日消息，NVIDIA RTX 50系列显卡刚发布开售不久，关于RTX 60系列显卡的爆料就已经来了。 根据最新的泄露信息，RTX 60系列显卡将采用全新的Rubin G…
-
Nothing CEO裴宇透露收购“安卓之父”公司原因：曾考虑沿用Essential品牌名
IT之家 6 月 12 日消息，Nothing 曾于 2021 年 2 月收购了“安卓之父”Andy Rubin 创立的 Essential 公司，Nothing 联合创始人兼首席…
-
技嘉为Z890系列主板推Ultra Turbo功能，游戏帧率最高提升35%
IT之家 6 月 28 日消息，科技媒体 Tom’s Hardware 昨日（6 月 27 日）发布博文，报道称技嘉（Gigabyte）为支持英特尔酷睿 200S 处理…
-
NVIDIA、微软、谷歌等抢破头！台积电CoWoS封装要涨价20%
快科技11月3日消息，据摩根士丹利的最新报告，台积电正考虑对其3nm制程和CoWoS先进封装工艺提价，以应对市场需求的激增。 台积电计划在2025年实施涨价，预计3nm制程价格将上…
