消息称OpenAI成立“防备”预警团队 监控旗下技术潜在威胁
日前，OpenAI公司宣布成立新的“防备”团队，旨在监控旗下技术可能带来的潜在威胁，防止其落入坏人之手，甚至被用于制造化学和生物武器。
该团队由麻省理工学院人工智能教授亚历山大・马德里领导，将招募人工智能研究人员、计算机科学家、国家安全专家和政策专家等，对OpenAI开发的技术进行持续监测和测试。一旦发现任何危险苗头，及时向公司发出警告。
OpenAI还发布了名为“防备框架”的指导方针，强调只推出评级为“低”和“中”的模型。防备团队将反复评估OpenAI最先进、尚未发布的AI模型，根据不同类型的感知风险评为四个等级，从低到高依次是“低”、“中”、“高”和“严重”。
OpenAI的“防备”团队介于两个现有团队之间：负责消除AI系统中种族偏见等现有问题的“安全系统”团队，以及研究如何确保AI在超越人类智能的未来场景中不会伤害人类的“超级对齐”团队。
OpenAI首席执行官萨姆・阿尔特曼表示，公司将继续推进技术发展，造福社会并从中获益。马德里表示，他既不同意那些担心AI已经超越人类智能的“末日论者”，也不同意那些希望移除所有AI发展障碍的“加速主义者”。
此次成立的“防备”团队将进一步保障OpenAI技术的安全性和稳定性，为AI技术的发展提供有力支持。
相关推荐
-
官宣：亚马逊Prime Day大促将于7月16日至17日举行
据报道，今日，亚马逊Prime Day时间终于确定。官方宣布将于北京时间 2024 年 7 月 16 日下午 15:00 至 17 日回归，这将是该公司举办的第十届 Prime D…
-
2025年手机市场回顾 技术进步带来体验质变效果
2025年手机市场进入“存量竞争+体验升级”双重阶段，单纯的参数堆砌已难打动用户，不过随着技术升级的不断叠加参数，让一些体验已经实现了质变效果。 2025年手机市场进入“存量竞争+…
-
一加 13T 标配旁路供电，后续将为一加 13 手机 OTA 升级
感谢IT之家网友 软媒新友1933769 的线索投递！ IT之家 4 月 4 日消息，一加中国区总裁李杰今日发文称，一加 13T 配备了“小屏手机从未有过”的 6000+mAh 冰…
-
消息称小米xiaomi本月还有发布会 或与澎湃系统有关
据博主 @李昂昂昂啊 爆料，这个月小米xiaomi还有发布会，与小米澎湃系统以及“真重磅”新品有关。 有网友询问能否展开说说，该博主回复称“反正消息不是手机”。此外，还有网友询问是…
-
三星Galaxy S24+美国Samsung Store优惠来袭：以旧换新最高可省600美元
在智能手机市场，三星Galaxy S24+以其出色的性能和合理的价格定位，成为了一款备受消费者关注的全能手机。三星美国Samsung Store现正提供Galaxy S24+的限时…
-
realme 12系列正式发布 挑战中端市场新格局
在全球5G手机市场竞争日趋激烈的背景下，realme再次以其敏锐的市场洞察力和强大的产品实力，为印度市场带来了两款全新中端5G手机——realme 12 5G和realme 12+…
-
谷歌Google Pixel 9 Pro外观曝光 采用6.5 英寸直屏
谷歌Google Pixel 9 Pro，这款备受期待的新旗舰手机，近日通过外媒的高清渲染图和360度动态视频，揭开了神秘面纱。这款手机的全新设计理念和卓越性能，无疑将重新定义高端…
-
Galaxy S26：硬體升級停滯不前，用戶期望難以實現
近年來，三星在智慧型手機硬體升級的步伐上明顯放緩，特別是在非超高階機型上。根據報道，Galaxy S25 將繼續沿用 Galaxy S24 的相機配置，而 Galaxy S24 又…
-
数十万个英伟达GPU，Meta攒疯了！
本周早些时候，马克·扎克伯格在 Meta 业绩发布会上表示，该公司正在“一个比十万个 H100 AI GPU 更大的集群上训练 Llama 4 模型，或者比我见过的其他人正在做的任…
-
小米Civi 4 Pro评测：全面升级，影像与性能新标杆
在当下的手机市场中，小米Civi系列一直以其独特的定位和出色的体验吸引着众多用户。作为该系列的最新成员，小米Civi 4 Pro不仅继承了前作的优秀基因，更在性能、影像等方面实现了…
