聊天机器人的黑客：使用AI入侵AI
近日，新加坡南洋理工大学（NTU）的计算机科学专家们取得了惊人的研究成果：他们研发出一种新方法，使用聊天机器人来入侵其他聊天机器人。这听起来像是科幻电影的情节，但却是真实发生的科技突破。
这个科研团队训练了一个AI聊天机器人，它能够绕过其他AI聊天的安全限制。他们将这个AI称为“Masterkey”。这并不是传统意义上的“钥匙”，而是一种能够破解其他AI系统的新型AI。
“Masterkey”算法能够逆向设计LLM检测和防御恶意查询的方式，从而教会LLM自动学习并通过相关提示词，绕过其他LLM的安全性。简单来说，这个AI可以“教”另一个AI如何绕过自己的安全措施。
更令人惊讶的是，这个团队通过这种方式，成功地创建了一个“黑客”LLM。这个黑客LLM可以自动适应新条件，甚至在开发人员对其LLM进行更正后，还能创建新的黑客请求。
在成功利用这种方式入侵AI模型之后，研究团队已经及时通知了相关服务提供商，帮助他们修复了这些潜在的安全问题。
这项研究的成果不仅展示了AI技术的强大潜力，也提醒我们需要在发展AI的同时，重视其可能带来的安全风险。未来，我们或许需要更加严密地保护我们的AI系统，以防止不法分子利用类似的“黑客”AI进行恶意攻击。
文章来源于互联网:科技讯-聊天机器人的黑客：使用AI入侵AI
相关推荐
-
8GB内存重出江湖 存储成本暴涨手机厂商无奈
一加Turbo 6V这款手机引起了大家的注意，我们注意到该机的存储规格是8GB+256GB起步的，而8GB RAM这个内存规格，已经在一加手机中消失许久了。 一加手机宣布将推出全新…
-
OPPO Find X7 Ultra 手机推送 14.0.1.751 版本：升级动画、音频接入流体云
IT之家 6 月 19 日消息，OPPO Find X7 Ultra 手机迎来 14.0.1.751 版本更新，新版本新增多项动画、照片 25M 直出、支持音频播放器接入流体云、优…
-
首款苹果DockKit配件 贝尔金自动追踪云台发布
随着中国内容创作行业及直播短视频快速发展，已有超10亿+的内容创作者、直播主和自媒体账号活跃在各大平台，使用手机拍摄创作已经成为主流趋势。而针对内容创作者在单人创作、拍摄稳定性需求…
-
骁龙 8s Gen 3：荣耀 200 Pro 手机 16+512G 版 3098 元百亿补贴
荣耀 200 Pro 手机开售于 5 月 31 日，搭载骁龙 8s Gen 3 移动处理平台，以及荣耀自研射频增强芯片 C1+，16+512G 版发售价为 3999 元。 京东双十…
-
华为将收购高合？官方回应
2月27日，高合停工停产6个月的消息最近引起全网关注，网络上出现了华为将收购高合的消息，对此，华为方面回应凤凰网科技称：假消息。 此前，高合汽车宣布停工停产6个月，贾跃亭罕见进行了…
-
加拿大安大略省将出台禁令：课堂禁手机、除社媒，强化专注教育
近日，加拿大安大略省教育厅厅长Stephen Lecce宣布，该省将实施一系列更为严格的课堂标准，旨在消除课堂上的干扰，提升学生的学习效率和健康水平。其中最引人关注的措施包括禁止学…
-
荣耀Magic6系列升级MagicOS 8.0.0.136，率先支持5.5G网络
近日，荣耀公司为其旗舰产品Magic6系列推送了全新的系统升级——MagicOS 8.0.0.136版本。这次更新不仅带来了多项新功能与优化，更引人注目的是，它率先支持了5.5G网…
-
T-Mobile推出“宽带事实”标签，简化无线和宽带计划信息，引领行业透明化
据报道，在FCC（美国联邦通信委员会）要求宽带提供商提供简单明了的宽带标签的背景下，T-Mobile上周宣布对其无线（和宽带）计划细节的展示方式进行重大改变，推出全新的“宽带事实”…
-
《女神异闻录 5：战略版》开启游戏预载，Xbox 平台需 24.09 GB 容量
9 月 26 日，距离《女神异闻录 5：战略版》上市还有接近一个半月的时间，目前游戏已经在 Xbox 平台开启了预载，根据游戏博主 Idle Sloth 在 X 平台发布的图片截图…
-
Pixel Buds A-Series日本Google Store优惠4000日元，仅售9700日元！
Google Pixel Buds A-Series是一款音质丰富、价格实惠、贴合生活为特点的耳机，目前在日本谷歌Google Store正开展一项优惠活动,您可以以9700日元的…
