消息称OpenAI成立“防备”预警团队 监控旗下技术潜在威胁
日前，OpenAI公司宣布成立新的“防备”团队，旨在监控旗下技术可能带来的潜在威胁，防止其落入坏人之手，甚至被用于制造化学和生物武器。
该团队由麻省理工学院人工智能教授亚历山大・马德里领导，将招募人工智能研究人员、计算机科学家、国家安全专家和政策专家等，对OpenAI开发的技术进行持续监测和测试。一旦发现任何危险苗头，及时向公司发出警告。
OpenAI还发布了名为“防备框架”的指导方针，强调只推出评级为“低”和“中”的模型。防备团队将反复评估OpenAI最先进、尚未发布的AI模型，根据不同类型的感知风险评为四个等级，从低到高依次是“低”、“中”、“高”和“严重”。
OpenAI的“防备”团队介于两个现有团队之间：负责消除AI系统中种族偏见等现有问题的“安全系统”团队，以及研究如何确保AI在超越人类智能的未来场景中不会伤害人类的“超级对齐”团队。
OpenAI首席执行官萨姆・阿尔特曼表示，公司将继续推进技术发展，造福社会并从中获益。马德里表示，他既不同意那些担心AI已经超越人类智能的“末日论者”，也不同意那些希望移除所有AI发展障碍的“加速主义者”。
此次成立的“防备”团队将进一步保障OpenAI技术的安全性和稳定性，为AI技术的发展提供有力支持。
相关推荐
-
姜海荣预热荣耀 300 系列手机，耳夹式耳机成亮点
IT之家 11 月 19 日消息，荣耀终端有限公司中国区 CMO 姜海荣今日发文预热荣耀 300 系列手机，称其为“旅拍神器”和“拍神”，预计新机将在影像方面有所突破。 姜海荣在照…
-
OPPO K15 Pro系列配色公布：赛博光翼、起源灰等
IT之家 3 月 27 日消息，OPPO K15 Pro 系列外观配色今日公布，赛博光翼、起源灰、光尘粉、金色传说等，4 月 1 日发布。 除了此前公布的岚影呼吸灯、金属中框，这款…
-
刘作虎：OPPO 目前在折叠屏累计投入研发资金超 30 亿元，专利数量跻身全球 TOP3
IT之家 3 月 11 日消息，OPPO 今天下午举行了“无感折痕技术沟通会”，介绍了 Find N6 折叠屏手机在屏幕方面的技术。 IT之家注意到，OPPO 首席产品官、一加创始…
-
苹果晒游戏生态：在 iPhone / iPad / Mac 上演示《生化危机 7》《绝区零》等游戏
IT之家 7 月 13 日消息，科技媒体 Macotakara 昨日发布博文，表示其受苹果公司邀请，于 7 月 10 日参加了在美国纽约举办、以游戏为主题的媒体活动。 苹果公司在 …
-
M 家族最薄，三星 Galaxy M55 5G 手机真机曝光：骁龙芯片、最高 12GB 内存
IT之家 3 月 23 日消息，消息源 Mukul Sharma 近日发布推文，分享了三星 Galaxy M55 5G 手机的真机照片，表示该机成为 Galaxy M 系列最薄的一…
-
小米手机“xiaomi SU7 全新定制主题”上线，支持免费下载使用
感谢IT之家网友 風見暉一、Autumn_Dream、Anon_Tokyo 的线索投递！ IT之家 1 月 1 日消息，小米主题官方今日发文宣布，小米手机“xiaomi SU7 全…
-
黑鲨Black Shark GT3智能手表震撼上线，超百种运动模式+10天续航仅售238元起！
近日，备受瞩目的黑鲨Black Shark GT3智能手表在官方AliExpress店铺正式上线，定价39.99美元，优惠后到手价更是低至32.99美元，让众多消费者眼前一亮。这款…
-
Waymo在洛杉矶拓展无人驾驶robotaxi服务
据报道，Alphabet Inc的自动驾驶部门Waymo正寻求在洛杉矶扩大其无人驾驶robotaxi服务。该公司已经在洛杉矶测试乘车服务约一年时间，并希望获得运营和扩展其服务的许可…
-
MSi微星CLAW掌机曝光：搭载酷睿Ultra 7处理器
据海外媒体报道，MSi（微星）将于CES 2024上推出CLAW掌机，并且有望在2024年第一季度发售。近日，微星官方官宣了CLAW掌机的视频预告，并且表示“全新的微星龙即将问世”…
-
小米 Redmi Note 14 Pro 手机有望采用 1.5K 居中单孔双微曲屏，50MP 大底“居中类椭圆镜头”
IT之家 6 月 25 日消息，博主 @数码闲聊站今天曝光了一款神秘“子系”新机的配置，该机定位“走量中端”，采用 1.5K 居中单孔双微曲屏，50MP“大底影像方案”，无潜望长焦…
