快科技3月4日消息，Intel已经将NPU加速库开源并放上GitHub，使得基于酷睿Ultra处理器的AI PC可以运行TinyLlama、Gemma-2b之类的轻量级大语言模型。
酷睿Ultra首次引入了NPU AI引擎，可以执行一些轻负载的AI推理任务，并与CPU、GPU搭配处理各种AI工作。
这次开源的NPU加速库，当然是面向开发人员的，但如果你有一定的编程经验，也可以拿来体验体验。
Intel软件架构师Tony Mongkolsmai展示了利用此开源的NPU加速库，在一台微星尊爵14 AI Evo笔记本上，基于11亿参数的TinyLlma大模型，运行了一个AI聊天机器人，可以进行简单对话。
同时，Windows任务管理器显示，NPU确实被调动起来了。
不过，开源NPU加速库目前的功能还很残缺，支持了8比特量化、FP16精度，但还不支持4比特量化、BF16精度、NPU/GPU混合计算等等，技术文档也没有。
Intel承诺，后续会逐渐增加更多功能，比现在要多一倍。
文章来源于互联网:凤凰网-Intel酷睿Ultra NPU AI加速库开源：但功能残缺不全
相关推荐
-
小米澎湃OS为何取消了4×7桌面布局？原因不止一个
【CNMO科技消息】据外媒报道，近日，部分小米手机用户发现，在升级至最新版HyperOS系统后，原有的4×7、5×6等经典桌面图标网格布局选项已无法选择。这一变化引发社区热议，有用…
-
追觅眼部按摩仪E50 Pro开启预售 配氧化钛冷热敷系统
【CNMO科技消息】1月26日，追觅科技宣布其最新眼部按摩仪E50 Pro正式开启预售。这款产品不仅采用了行业领先的氧化钛冷热敷系统，还支持1.5秒极速热冷敷切换，为眼部健康管理领…
-
消息称微软下一代Xbox主机2026年底推出，游戏《使命召唤》首发护航
IT之家 5 月 19 日消息，数据挖掘者 The Ghost Of Hope 近日在 X 平台发帖，透露微软计划在 2026 年推出下一代 Xbox 主机，该机将以《使命召唤》作…
-
佳能EOS C50电影机真机亮相：32MP全画幅传感器，9月9日发布
IT之家 9 月 7 日消息，佳能已经宣布将于当地时间 9 月 9 日发布全新 EOS C50 Cinema Line 电影机新品。 昨天，佳能在 Instagram 上放出了一段…
-
一加Turbo 6系列支持IP66/68/69/69K超豪华满级防水：防泡水、防热水、防喷水
快科技1月6日消息，如今手机行业的防水功能卷个不停，不仅做到了防水溅，甚至还实现了防泡水、防热水、防喷水。 一加Turbo 6系列宣布支持IP66、IP68、IP69、IP69K超…
-
TCL李东生谈收购LGD广州工厂：目前还没有哪样技术能在大屏显示上取代液晶
《每日经济新闻》记者获悉，11月16日晚，TCL创始人、董事长李东生出席央视《对话》节目，谈到TCL华星光电技术有限公司（以下简称TCL华星）近期拟收购LGD（LG Display…
-
曝华为筹备MateBook标准版 3000元起售 面向学生群体？
【CNMO科技消息】12月31日，CNMO注意到，据数码博主透露，华为正筹备推出一款MateBook标准版笔记本电脑，该产品将主要定位于3000元至4000元的价格区间，目标消费群…
-
全球首发2nm芯片！三星Galaxy S26发布会海报偷跑：2月亮相
快科技1月30日消息，知名爆料人士晒出了三星Galaxy S26系列发布会海报，确认该机将于2月25日正式亮相，这是三星最强悍的直板旗舰。 据悉，本次发布会将会推出Galaxy S…
-
博主发现2025年了锤子官网依然能打开：锤子T1广告语变了
快科技10月29日消息，有博主发现，锤子科技官网如今依然能够访问，只是锤子T1的广告语变成了“我们眼中第九好用的智能手机”，评论区有网友问：前8名手机分别是谁。 资料显示，锤子T1…
-
华硕ASUS VivoBook 15 X515在加拿大亚马逊可以省27美元，仅售402美元！
华硕ASUS VivoBook 15 X515是一款功能强大、设计时尚的笔记本电脑，其折扣非常大,目前加拿大亚马逊正在开展一项优惠活动,您可以以402美元的价格购买该产品,可以享受…
