快科技3月4日消息，Intel已经将NPU加速库开源并放上GitHub，使得基于酷睿Ultra处理器的AI PC可以运行TinyLlama、Gemma-2b之类的轻量级大语言模型。
酷睿Ultra首次引入了NPU AI引擎，可以执行一些轻负载的AI推理任务，并与CPU、GPU搭配处理各种AI工作。
这次开源的NPU加速库，当然是面向开发人员的，但如果你有一定的编程经验，也可以拿来体验体验。
Intel软件架构师Tony Mongkolsmai展示了利用此开源的NPU加速库，在一台微星尊爵14 AI Evo笔记本上，基于11亿参数的TinyLlma大模型，运行了一个AI聊天机器人，可以进行简单对话。
同时，Windows任务管理器显示，NPU确实被调动起来了。
不过，开源NPU加速库目前的功能还很残缺，支持了8比特量化、FP16精度，但还不支持4比特量化、BF16精度、NPU/GPU混合计算等等，技术文档也没有。
Intel承诺，后续会逐渐增加更多功能，比现在要多一倍。
文章来源于互联网:凤凰网-Intel酷睿Ultra NPU AI加速库开源：但功能残缺不全
相关推荐
-
Apple AirPods Max在美国亚马逊可以省50美元，仅售499美元！
Apple AirPods Max是一款高品质、功能齐全的无线耳机，其折扣非常大，目前美国亚马逊正在开展一项优惠活动，您可以以499美元的价格购买该产品，可以享受50美元的折扣。 …
-
2023年中国显示器线上销量TOP10出炉：小米第2
快科技1月22日消息，洛图科技（RUNTO）最新发布报告显示，2023年，中国大陆显示器市场出货量为2450万台，同比下降1.5%。 其中，线上公开零售市场（不含抖快等内容电商）的…
-
Intel Arc锐炫独立显卡3岁生日快乐！前途一片迷雾
快科技10月20日消息，2022年10月，Intel正式发布锐炫Arc A770/A750，正式重返独立显卡市场，如今已经整整三年了。 当然，在那之前Intel还发布了入门机的锐炫…
-
外星人Alienware M18 QHD+在美国亚马逊可以省146美元，仅售2304美元！
外星人Alienware M18 QHD+是一款性能卓越、视觉震撼、舒适度极佳的游戏笔记本电脑，其折扣非常大，目前美国亚马逊正在开展一项优惠活动，您可以以2304美元的价格购买该产…
-
扎克伯格兴奋预告：Meta全息AR眼镜原型即将亮相
IT之家 6 月 30 日消息，Meta 公司首席执行官马克・扎克伯格表示，公司已“几乎准备好”展示其最新的全息增强现实 (AR) 眼镜原型，并对此表现出极大的兴奋之情。 在接受 …
-
真我15系列手机官宣9月16日发布，影像和手感为主打卖点
凤凰网科技讯 9月5日，真我手机官方宣布，真我15系列9月16日19点正式发布。根据官方海报，新机号称“夜拍神器”，主打卖点是影像和手感。值得注意的是，其中一颗镜头还配有彩色光环。…
-
CounterPoint报告2025Q2欧洲手机出货量：三星份额最高、荣耀增幅最大
IT之家 9 月 16 日消息，市场调查机构 CounterPoint Research 昨日（9 月 15 日）发布博文，报道称在经历了第 1 季度的低迷之后，欧洲智能手机市场在…
-
2024年预期增速9.7%，出货量将突破2000万台，投影仪为何成为大屏“新风口”？
近期，市场调研公司洛图科技发布最新报告：鉴于年初的发展势头强于预期，全球前景获得改善，将全球投影机市场的2024年规模增速预测上调至9.7%。预计整体出货量将突破2000万台，达到…
-
玩家爆改任天堂 64 手柄，将其打造成Game Boy Micro掌机
IT之家 10 月 1 日消息，据外媒 VGC 9 月 30 日报道，一位名叫 MaSaKee 的改装玩家近日展示了一件有趣的作品：把 Game Boy Micro 融合进了 Ni…
-
消息称2024款苹果iPad Pro出货量目标超900万台
IT之家 5 月 27 日消息，据 DigiTimes 报道，苹果首款采用 OLED 屏幕的 2024 款 iPad Pro 平板电脑出货目标将超过 900 万台，这一消息在整体 …
