5 月 22 日消息，路透社报道，微软 、谷歌 、OpenAI 等 16 家科技公司在 21 日和 22 日举行的“人工智能（AI）首尔峰会”上承诺安全开发 AI 模型，在无法控制最极端风险的情况下关闭其尖端系统（cutting-edge systems）。
参会的公司还包括国内企业智谱 AI（备注：腾讯、阿里、美团和小米曾对其投资）、IBM、亚马逊、Meta 和三星。
安全承诺包括发布框架，阐明公司将如何衡量其模型的风险。在风险严重且“无法接受”的极端情况下，如果无法减轻风险，人工智能公司将不得不按下紧急停止开关，停止开发或部署其模型和系统。
这不是人工智能公司第一次做出听起来很高尚但不具约束力的安全承诺。亚马逊、谷歌、Meta 和微软在去年签署由美国政府促成的自愿保障措施，以确保他们的产品在发布时是安全的。
被誉为“人工智能教父”的计算机科学家约书亚・本吉奥对这些承诺表示欢迎，但他指出自愿承诺必须伴随监管。
文章来源于互联，不代表科技云立场！如有侵权，请联系我们。
相关推荐
-
中国智能手机制造商小米Xiaomi和华为HUAWEI挑战全球高端市场，与三星Samsung、苹果Apple激战正酣
随着科技的飞速发展，全球智能手机市场竞争愈发激烈。中国两大智能手机制造商小米Xiaomi和华为HUAWEI近日宣布将推出一系列新的高端手机型号，这一消息立即引起了业界的广泛关注。他…
-
波士顿动力联手《阿凡达》和《侏罗纪公园》动画制作公司，开创娱乐机器人新纪元
自从作为麻省理工学院的衍生公司成立以来，波士顿动力（Boston Dynamics）一直以其系统的娱乐价值而闻名。这家现属于现代汽车的公司，通过发布数十个广受欢迎的视频，长期以来一…
-
微软宣布2025年10月将停止支持Office 2016/2019，用户需紧急迁移
近日，微软公司发布重要公告，宣布将于2025年10月14日起，正式停止对Office 2016和Office 2019系列应用程序的支持，并关闭相关生产力服务器。这一决定将对广大企…
-
63 个美国国家公园数千条远足路线，苹果 iOS 18 为驴友带来“徒步旅行”功能
6 月 13 日消息，苹果 iOS 18 系统将更迭 Apple Maps 应用程序，引入全新的“徒步旅行”功能，目前已上线美国所有 63 个国家公园的数千条远足路线，目前尚不清楚…
-
钉钉×小冰：共同推出一键定制数字人，将在AI助理等领域全面合作
在1月9日举行的钉钉7.5产品发布会上，钉钉总裁叶军宣布，钉钉与小冰公司达成合作，共同推出一键定制数字人服务。钉钉已接入小冰数字人，用户可通过钉钉发放的邀请码免费参与数字人内测，在…
-
AT&T网络中断补偿：为受影响用户提供5美元话费补贴
美国最大的电信运营商AT&T近日就一起长达10小时的网络中断事件向用户道歉，另外给出了AT&T网络中断补偿，承诺为受影响的用户提供5美元话费补贴。此次AT&…
-
传闻小米官网突发回档 意外展示2019年旧款产品
近日，有消息称，小米官方网站（mi.com）发生了一起意外事件，其域名突然强制跳转至2019年的旧版官网“mi.com/html”。这一事件引发了广泛关注，许多用户纷纷表示惊讶和困…
-
AT&T数据泄露事件曝光，760万客户受影响
美国电话电报公司（AT&T）近日公布，一起大规模数据泄露事件已对其客户造成重大影响。此次事件涉及760万现有客户的敏感数据被非法发布在暗网上，同时6540万以前的账户持有人…
-
苹果iOS 18 Beta 1升降级指南详解
随着苹果公司最新操作系统iOS 18 Beta 1的发布，不少科技爱好者跃跃欲试，希望率先体验新功能。然而，专家提醒，测试版系统可能存在不稳定因素，包括影响使用的恶性bug、耗电过…
-
True Anomaly融资1亿美元，加速推进太空安全技术发展
太空和国防领域交汇的初创公司True Anomaly已成功融资1亿美元，这表明市场对于这类初创公司的需求仍然十分旺盛。本轮融资由Riot Ventures领投，Eclipse、AC…
