聊天机器人的黑客：使用AI入侵AI
近日，新加坡南洋理工大学（NTU）的计算机科学专家们取得了惊人的研究成果：他们研发出一种新方法，使用聊天机器人来入侵其他聊天机器人。这听起来像是科幻电影的情节，但却是真实发生的科技突破。
这个科研团队训练了一个AI聊天机器人，它能够绕过其他AI聊天的安全限制。他们将这个AI称为“Masterkey”。这并不是传统意义上的“钥匙”，而是一种能够破解其他AI系统的新型AI。
“Masterkey”算法能够逆向设计LLM检测和防御恶意查询的方式，从而教会LLM自动学习并通过相关提示词，绕过其他LLM的安全性。简单来说，这个AI可以“教”另一个AI如何绕过自己的安全措施。
更令人惊讶的是，这个团队通过这种方式，成功地创建了一个“黑客”LLM。这个黑客LLM可以自动适应新条件，甚至在开发人员对其LLM进行更正后，还能创建新的黑客请求。
在成功利用这种方式入侵AI模型之后，研究团队已经及时通知了相关服务提供商，帮助他们修复了这些潜在的安全问题。
这项研究的成果不仅展示了AI技术的强大潜力，也提醒我们需要在发展AI的同时，重视其可能带来的安全风险。未来，我们或许需要更加严密地保护我们的AI系统，以防止不法分子利用类似的“黑客”AI进行恶意攻击。
文章来源于互联网:科技讯-聊天机器人的黑客：使用AI入侵AI
相关推荐
-
苹果Apple watchOS 10.4 Beta 2发布：新增Emoji并优化手势操作
今日，苹果为Apple Watch用户推送了watchOS 10.4 Beta 2的更新，此次更新距离上次发布仅隔8天。这次更新不仅引入了一系列新的Emoji表情符号，还针对特定手…
-
苹果Safari 18浏览器新功能曝光：AI驱动的智能搜索与网页橡皮擦
苹果公司正在为其广受欢迎的Safari浏览器开发新版本，预计将在2024年晚些时候以Safari 18的身份正式亮相。据AppleInsider报道，这款浏览器将包含一系列引人注目…
-
iQOO 15 手机搭载 7000mAh 蓝海电池，确认支持 40W 无线充电 + 100W 有线闪充
感谢IT之家网友 Autumn_Dream、風見暉一 的线索投递！ IT之家 10 月 15 日消息，iQOO 手机官方今日预热，iQOO 15 将搭载 7000mAh 蓝海大电池…
-
小米Xiaomi 14 Ultra配置曝光：搭载骁龙8 Gen3处理器
近日，小米14 Ultra手机现身GeekBench 4跑分库，小米Xiaomi 14 Ultra配置也被曝光。这款手机配备了16GB内存和最新高通骁龙8 Gen3处理器，运行最新…
-
微软Microsoft XGP入库两款游戏：《遗迹1/2》
微软Microsoft今日悄然将《遗迹：灰烬重生（Remnant）》、《遗迹 2（Remnant 2）》加入 Xbox Game Pass 游戏库，包含 Xbox 主机和 PC 平…
-
业内首个端侧AI反诈检测技术！荣耀MWC上海发布“AI换脸检测”
快科技6月26日消息，今天荣耀CEO赵明在MWC上海展会上发表了《AI共生时代，智能终端终将以人为中心赋能》主题演讲。 荣耀首次向外界展示了突破性端侧AI创新——AI换脸检测技术。…
-
realme 真我 Neo8 手机跑分曝光：高通第五代骁龙 8 芯片、16GB 内存
IT之家 1 月 10 日消息，型号为“RMX8899”的 realme 真我手机现身 GeekBench 跑分库，共有 4 条记录，按照多核得分排序，最高一条记录单核成绩为 28…
-
米哈游《绝区零》降噪测试将于11月24日开启 支持PC、安卓和iOS平台
米哈游官方今日宣布，《绝区零》降噪测试将于11月24日11:00开启，招募报名已于11月17日23:59:59结束。 本次测试类型为限量删档不计费测试，平台为 PC、安卓和 iOS…
-
苹果AI功能命名曝光：将支持iPhone 15 Pro以上机型
快科技6月8日消息，苹果的AI功能目前已确认命名为“Apple Intelligence”，并将在最新版本的iOS、iPadOS和MacOS中推出。 目前，苹果正计划通过与Open…
-
联发科天玑 8400 芯片详细参数曝光，消息称暂定 12 月 23 日发布
感谢IT之家网友 最亮的派大星、鶸KAI、华南吴彦祖、零刑 的线索投递！ IT之家 12 月 11 日消息，据博主 @数码闲聊站 今日消息，联发科天玑 8400 芯片暂定 12 月…
