聊天机器人的黑客：使用AI入侵AI
近日，新加坡南洋理工大学（NTU）的计算机科学专家们取得了惊人的研究成果：他们研发出一种新方法，使用聊天机器人来入侵其他聊天机器人。这听起来像是科幻电影的情节，但却是真实发生的科技突破。
这个科研团队训练了一个AI聊天机器人，它能够绕过其他AI聊天的安全限制。他们将这个AI称为“Masterkey”。这并不是传统意义上的“钥匙”，而是一种能够破解其他AI系统的新型AI。
“Masterkey”算法能够逆向设计LLM检测和防御恶意查询的方式，从而教会LLM自动学习并通过相关提示词，绕过其他LLM的安全性。简单来说，这个AI可以“教”另一个AI如何绕过自己的安全措施。
更令人惊讶的是，这个团队通过这种方式，成功地创建了一个“黑客”LLM。这个黑客LLM可以自动适应新条件，甚至在开发人员对其LLM进行更正后，还能创建新的黑客请求。
在成功利用这种方式入侵AI模型之后，研究团队已经及时通知了相关服务提供商，帮助他们修复了这些潜在的安全问题。
这项研究的成果不仅展示了AI技术的强大潜力，也提醒我们需要在发展AI的同时，重视其可能带来的安全风险。未来，我们或许需要更加严密地保护我们的AI系统，以防止不法分子利用类似的“黑客”AI进行恶意攻击。
文章来源于互联网:科技讯-聊天机器人的黑客：使用AI入侵AI
相关推荐
-
步iOS后尘！欧盟要求苹果iPadOS开放侧载
快科技4月30日消息，据媒体报道，欧盟将苹果的iPadOS定义为“数字看门人”，要求其遵循与iOS相同的新规定。未来，iPadOS将允许欧盟用户下载并使用替代应用商店、浏览器引擎等…
-
华为凭什么成“腕戴设备之王”？在柏林这家门店我们找到了答案
继手机销量重回国内第一后，华为又创造了一个纪录。据IDC统计，今年第二季度国内腕戴设备总销量为1554.7万台，其中华为腕戴设备总销量596.5万台，连续两季度行业第一。 什么，你…
-
小米618现货开售！全面取消预售制 手机至高优惠1000元
快科技5月20日消息，今日小米宣布正式启动2024年618大促活动。不同于以往，本次小米618活动变得更简单了，全面取消预售制，众多爆款产品价格闪降，现货直接开售。 在智能手机方面…
-
可用于冷却英伟达GB200 NVL72，Nidec向超微交付全球首款4U 250kw CDU
IT之家 12 月 6 日消息，日本 Nidec 尼得科当地时间昨日宣布开始向 Super Micro 超微电脑交付面向下一代数据中心机架冷却的全球首款 4U 250kw CDU（…
-
小米首款小折叠屏手机已规划五年、内部设计多种形态，雷军称“不做好不发布”
感谢IT之家网友 X42 的线索投递！ IT之家 7 月 17 日消息，小米首款小折叠屏手机 MIX Flip 今日已公开亮相，配备“全尺寸多功能大外屏”，将于 7 月 19 日正…
-
部分iPhone 17等用户反馈苹果iOS 26锁屏图标大小不协调
IT之家 10 月 22 日消息，科技媒体 Mac Observer 昨日（10 月 21 日）发布博文，报道称在 iOS 26 的多个测试版与正式版中，存在锁屏界面的手电筒和相机…
-
小米 Civi 4 Pro 手机开启预约，首发第三代骁龙 8s 处理器
IT之家 3 月 19 日消息，据小米商城官方消息，小米 Civi 4 Pro 已开启预约，新机将于 3 月 21 日 14:00 发布，号称“影像、性能、AI 能力全面跃升”。 …
-
realme 真我GT7手机官宣 4 月 23 日发布：挑战 3000 元内性能续航“双冠王”
感谢IT之家网友 Autumn_Dream、風見暉一、六月河 的线索投递！ IT之家 4 月 11 日消息，realme 真我手机官微今日宣布，首款天玑 9400 + 性能旗舰机型…
-
英特尔要在三星大本营“攻城略地”，极力推销18A工艺节点
IT之家 2 月 27 日消息，根据韩媒 The Elec 报道，英特尔已针对韩国无晶圆厂芯片公司，大幅增加了营销活动，以推广自家的 Intel 18A 工艺节点。 消息称英特尔首…
-
苹果Apple iPadOS 18传闻：将不再支持A10X Fusion芯片设备
近日，一个在X平台上拥有良好记录的私人账号爆料了关于iPadOS 18传闻的消息，据其表示，iPadOS 18将不再支持配备A10X Fusion芯片的iPad机型，这一决定意味着…
