消息称OpenAI成立“防备”预警团队 监控旗下技术潜在威胁
日前，OpenAI公司宣布成立新的“防备”团队，旨在监控旗下技术可能带来的潜在威胁，防止其落入坏人之手，甚至被用于制造化学和生物武器。
该团队由麻省理工学院人工智能教授亚历山大・马德里领导，将招募人工智能研究人员、计算机科学家、国家安全专家和政策专家等，对OpenAI开发的技术进行持续监测和测试。一旦发现任何危险苗头，及时向公司发出警告。
OpenAI还发布了名为“防备框架”的指导方针，强调只推出评级为“低”和“中”的模型。防备团队将反复评估OpenAI最先进、尚未发布的AI模型，根据不同类型的感知风险评为四个等级，从低到高依次是“低”、“中”、“高”和“严重”。
OpenAI的“防备”团队介于两个现有团队之间：负责消除AI系统中种族偏见等现有问题的“安全系统”团队，以及研究如何确保AI在超越人类智能的未来场景中不会伤害人类的“超级对齐”团队。
OpenAI首席执行官萨姆・阿尔特曼表示，公司将继续推进技术发展，造福社会并从中获益。马德里表示，他既不同意那些担心AI已经超越人类智能的“末日论者”，也不同意那些希望移除所有AI发展障碍的“加速主义者”。
此次成立的“防备”团队将进一步保障OpenAI技术的安全性和稳定性，为AI技术的发展提供有力支持。
相关推荐
-
谷歌Google Play商店隐藏系统应用程序更新：用户担忧透明度问题
近日，Google Play商店的一项新变化引发了广泛关注：预装系统应用程序的更新不再显示在“待下载”部分。这一举措让用户对更新的管理和控制变得更为困难，同时也引发了关于透明度和安…
-
苹果 App Store 分析工具出现 BUG，开发者“日赚 1050 万美元”：增幅 999%
IT之家 4 月 12 日消息，如果你的银行账户天降巨额财富，你会是什么感受？近期部分苹果开发者就遇到了这样的事情，App Store Connect 显示过去 24 小时收入 2…
-
三星 Galaxy S26 Ultra 手机背面渲染图曝光：2 亿主摄，增大光圈
IT之家 7 月 26 日消息，数码博主 @i冰宇宙 今天（7 月 26 日）发布微博，分享了一张网友设计的三星 Galaxy S26 Ultra 手机的渲染图，并认为非常接近零售…
-
重新定义摄影！真我13 Pro系列官宣：全球首发索尼潜望长焦传感器
快科技7月2日消息，今天，真我在社交平台上宣布，真我13 Pro系列即将在印度登场，这款新品也将会在国内跟广大消费者见面。 根据官方公布的海报，真我13 Pro系列采用环形相机岛，…
-
三星卢泰文公布 Design Identity 5.0 设计理念：必备、创新、和谐
IT之家 4 月 8 日消息，三星电子近日发布新闻稿，其公司移动事业部总裁卢泰文畅谈 Design Identity 5.0，并提出了全新的 Essential∙Innovativ…
-
英伟达宣布RTX 5070显卡延至3月5日上市，官方指导价549美元起
IT之家 2 月 14 日消息，英伟达今天在官网宣布 RTX 5070 显卡上市时间推迟至 3 月 5 日，页面同时显示 RTX 5070 Ti 将在 2 月 20 日上市，两款显…
-
华硕推出“XG32UCG”32英寸显示器：4K 160Hz/FHD 320Hz双模，3999元
IT之家 4月12日消息，在目前正在进行的ROG DAY新品发布会上，华硕推出“ROG绝神32 Pro”32英寸显示器（型号为 XG32UCG），这款显示器主打“4K 160Hz/…
-
李书福佩戴AR眼镜进行“脱稿”演讲
3月25日上午，2025上海全球投资促进大会开幕。开幕式上，吉利控股集团董事长李书福以独特的方式完成演讲。 李书福佩戴AR眼镜进行“脱稿”演讲。澎湃新闻记者 吴栋 图 有别于传统的…
-
谷歌 Pixel 9a 手机完整规格曝光：Tensor G4 芯片、峰值亮度 2700 尼特、5100mAh 电池、4800 万主摄
IT之家 12 月 12 日消息，科技媒体 Android Headline 昨日（12 月 11 日）发布博文，分享了谷歌 Pixel 9a 手机的完整规格。消息称这款手机在保持…
-
联动白雪公主！小米Civi 4 Pro迪士尼公主限定版宣布6月27日发布
快科技6月25日消息，今日，小米手机宣布，小米Civi 4 Pro迪士尼公主限定版将于6月27日正式发布，新机将在明天开启预热，号称构思1年的旗舰定制之作。 预热海报中，白雪公主的…
