1. 科技云首页

消息称OpenAI成立“防备”预警团队 监控旗下技术潜在威胁

小科 • • 未分类

消息称OpenAI成立“防备”预警团队 监控旗下技术潜在威胁

日前，OpenAI公司宣布成立新的“防备”团队，旨在监控旗下技术可能带来的潜在威胁，防止其落入坏人之手，甚至被用于制造化学和生物武器。

该团队由麻省理工学院人工智能教授亚历山大・马德里领导，将招募人工智能研究人员、计算机科学家、国家安全专家和政策专家等，对OpenAI开发的技术进行持续监测和测试。一旦发现任何危险苗头，及时向公司发出警告。

OpenAI还发布了名为“防备框架”的指导方针，强调只推出评级为“低”和“中”的模型。防备团队将反复评估OpenAI最先进、尚未发布的AI模型，根据不同类型的感知风险评为四个等级，从低到高依次是“低”、“中”、“高”和“严重”。

OpenAI的“防备”团队介于两个现有团队之间：负责消除AI系统中种族偏见等现有问题的“安全系统”团队，以及研究如何确保AI在超越人类智能的未来场景中不会伤害人类的“超级对齐”团队。

OpenAI首席执行官萨姆・阿尔特曼表示，公司将继续推进技术发展，造福社会并从中获益。马德里表示，他既不同意那些担心AI已经超越人类智能的“末日论者”，也不同意那些希望移除所有AI发展障碍的“加速主义者”。

此次成立的“防备”团队将进一步保障OpenAI技术的安全性和稳定性，为AI技术的发展提供有力支持。

文章来源于互联网:科技讯-消息称OpenAI成立“防备”预警团队 监控旗下技术潜在威胁

赞 (0)
小科小科
0 0
上一篇 2023年 12月 28日 pm6:00
下一篇 2023年 12月 28日 pm6:00

相关推荐

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

记住昵称、邮箱和网址，下次评论免输入