微软Microsoft正式发布AI内容审核工具Azure AI Content Safety
微软Microsoft为了营造健康和谐的社区环境，减少图片或文本中关于偏见、仇恨、暴力等相关的负面内容，于今年 5 月测试推出了 AI 内容审核工具 Azure AI Content Safety，该工具经过多月测试之后于今天正式发布。
Azure AI Content Safety 提供了一系列经过训练的 AI 模型，能够检测图片或文本中与偏见、仇恨、暴力等相关的负面内容，并可以理解并检测包含八种语言的图片或文本，为被标记的内容严重性进行打分，指示人工审核员哪些内容需要采取行动。
该内容审核工具最初整合到 Azure OpenAI 服务中，微软现在以独立系统方式正式推出。
微软在官方博文中写道：“这意味着客户可以将其用于来自开源模型和其他公司模型的人工智能生成内容，以及调用部分用户生成的内容，进一步扩展实用性”。
微软表示，与其他同类型产品相比，该款产品在公正性和理解上下文方面有显著改进，但该款产品仍需要依赖人工审核人员标记数据和内容。这意味着最终其公正性还是取决于人类。而在处理数据和内容时，人工审核人员可能带着自己的偏见，因此依然无法做到完全中立审慎。
相关推荐
-
买车“抽送”手机：吉利推出“中国星东方曜限量定制款”魅族 22 机型
IT之家 9 月 23 日消息，在今天的吉利中国星全新东方曜上市发布会上，吉利汽车联合魅族推出一款“中国星东方曜限量定制款”魅族 22 手机。即日起至 12 月 31 日，针对购买…
-
华为FreeBuds Pro 4官宣：首款搭载纯血鸿蒙HarmonyOS NEXT的TWS耳机
IT之家 11 月 22 日消息，华为今日官宣了 FreeBuds Pro 4 耳机新品，这是首款搭载 HarmonyOS NEXT 的 TWS 耳机，将于 11 月 26 日华为…
-
真我GT7 Pro参数泄露：骁龙8 Gen4+3倍潜望镜
快科技6月8日消息，前不久，realme真我副总裁徐起透露，真我GT7 Pro新机将推向全球市场，近日有关该机的信息便泄露出来。 根据知名数码博主“数码闲聊站”爆料，真我GT7 P…
-
华硕正式上线Pro WS W890E-SAGE SE工作站主板，配备BMC
IT之家 2 月 3 日消息，随着英特尔正式发布至强 600 工作站处理器，华硕也上线了配套的 Pro WS W890E-SAGE SE 工作站主板。 这一型号采用 12̸…
-
《男孩们》第四季热播：创伤主题引发热议，剧情走向引关注
近日，备受期待的《男孩们》第四季再次凭借其引人入胜的剧情和深刻的主题赢得了观众和评论界的一致好评。特别是其中一集，以创伤为中心的故事不仅展现了角色们复杂的内心世界，还在情节和小规模…
-
首款极星手机Polestar Phone发布：7388元
快科技4月23日消息，今日晚间，首款极星设计的AI旗舰手机Polestar Phone正式发布，售价7388元（16GB+1TB）。 据悉，Polestar Phone采用了极致简…
-
iQOO Z11 Turbo游戏拍照双绝 打造中端机标杆
2026年1月12日，iQOO官方微博继续发布新品Z11 Turbo相关预热信息。整机主打卖点「游戏性能强，拍照超清晰」及首发配置「2亿大底主摄」官宣发布，让跨次元玩家在“玩得爽”…
-
消息称荣耀Magic7 RSR 主打影像，GT 新机配备 1.5K 纯直屏、大电池
IT之家 11 月 4 日消息，博主 @数码闲聊站 今日爆料称，荣耀接下来的重点为 Magic7 RSR 和 GT 手机，前者“看起来”主打影像，50K 主摄可变光圈 + 2 亿大…
-
三星S25 Ultra美国版现身数据库 配置曝光
【CNMO科技消息】近日，CNMO注意到，据海外媒体报道，三星正在积极开发其下一代旗舰产品——Galaxy S25 Ultra，预计将引领行业新标杆。 Galaxy S系列作为三星…
-
华为Mate 70系列预计首发纯血鸿蒙系统，鸿蒙生态应用数量迅猛增长
在操作系统领域持续创新的华为，近日传出重磅消息。据悉，华为计划在今年第四季度正式发布HarmonyOS NEXT纯血版鸿蒙系统，并有望在其即将发布的Mate 70系列手机上首次搭载…
