快科技3月4日消息，Intel已经将NPU加速库开源并放上GitHub，使得基于酷睿Ultra处理器的AI PC可以运行TinyLlama、Gemma-2b之类的轻量级大语言模型。
酷睿Ultra首次引入了NPU AI引擎，可以执行一些轻负载的AI推理任务，并与CPU、GPU搭配处理各种AI工作。
这次开源的NPU加速库，当然是面向开发人员的，但如果你有一定的编程经验，也可以拿来体验体验。
Intel软件架构师Tony Mongkolsmai展示了利用此开源的NPU加速库，在一台微星尊爵14 AI Evo笔记本上，基于11亿参数的TinyLlma大模型，运行了一个AI聊天机器人，可以进行简单对话。
同时，Windows任务管理器显示，NPU确实被调动起来了。
不过，开源NPU加速库目前的功能还很残缺，支持了8比特量化、FP16精度，但还不支持4比特量化、BF16精度、NPU/GPU混合计算等等，技术文档也没有。
Intel承诺，后续会逐渐增加更多功能，比现在要多一倍。
文章来源于互联网:凤凰网-Intel酷睿Ultra NPU AI加速库开源：但功能残缺不全
相关推荐
-
英特尔Arrow Lake-S台式机CPU规格曝光：24核32线程、原生支持雷电4
快科技1月21日消息，近日，有媒体曝光了英特尔Arrow Lake-S桌面处理器的规格参数，最高有24核32线程，原生支持雷电4。 据介绍，英特尔Arrow Lake-S桌面CPU…
-
Omdia：2025年OPPO手机出货超1亿部，杀入全球第五
凤凰网科技讯 1月30日，根据市场研究机构Omdia最新报告，2025年OPPO出货量达1.007亿部，同比下降3%，全球排名第五。 2025年第四季度，OPPO出货量2680万部…
-
机械革命2026款耀世16 Pro游戏本预售：i7-14650HX+RTX5060，8699元
IT之家 2 月 26 日消息，机械革命现已官宣 2026 款耀世 16 Pro 游戏本，该机将于 2 月 26 日（今天）开启预售，3 月 1 日正式开售，首发价 8699 元。…
-
传奇芯片Z80，面世近50年后将停产
Zilog 在 Z80 上市 48 年后即将退役。它最初是作为 Intel 8080 的一个项目开发的，最终成为游戏和通用计算设备中最受欢迎和广泛使用的 8 位 CPU 之一。 由…
-
欧盟将迫使苹果为iPad添加应用侧载和替代浏览器引擎支持
鞭牛士报道，4月29日消息，据外电报道，在过去的几个月里，苹果公司迅速实施了技术和政策解决方案，以遵守《数字市场法案》。 作为 iOS 17.4 和 iOS 17.5 更新的一部分…
-
原因揭秘！英伟达为何会被国家市场监管总局立案调查
一夜之间，英伟达市值蒸发掉了889亿美元（约合人民币6460亿元）。 昨晚，英伟达因涉嫌违反发垄断法，被市场监管总局立案调查的消息迅速刷屏。 据央视报道，近日，因英伟达公司涉嫌违反…
-
余承东：鸿蒙版铁路12306实况窗上线 车次、座位等出行信息一目了然
凤凰网科技讯 9月30日，华为常务董事、终端BG董事长余承东发文称，鸿蒙版铁路12306实况窗上线，车次、座位、检票口信息，在实况窗里都能一目了然。 在2023年8月4日下午的华为…
-
苹果AirPods Pro 3心率监测功能获高度评价，准确性碾压其它耳机
IT之家 9 月 16 日消息，铁人三项运动员 DC Rainmaker 在其独立评测中，对苹果 AirPods Pro 3 搭载的全新心率监测功能展开了详细对比测试，并给出了“出…
-
LG电子与Meta将合作开发下一代XR设备
集微网消息，LG电子和Meta将携手开发下一代扩展现实（XR）设备。LG电子2月28日表示，为加快XR事业，将与Meta正式展开战略合作。 2月28日，Meta CEO扎克伯格访问…
-
荣耀王班：2025年荣耀沙特业务部手机发货量破200万台
【CNMO科技消息】12月29日，荣耀公司销售与服务总裁王班在社交媒体上祝贺荣耀沙特业务部2025年手机发货量突破200万台。 荣耀手机 荣耀在沙特的突破并非偶然。2025年初，该…
