聊天机器人的黑客：使用AI入侵AI
近日，新加坡南洋理工大学（NTU）的计算机科学专家们取得了惊人的研究成果：他们研发出一种新方法，使用聊天机器人来入侵其他聊天机器人。这听起来像是科幻电影的情节，但却是真实发生的科技突破。
这个科研团队训练了一个AI聊天机器人，它能够绕过其他AI聊天的安全限制。他们将这个AI称为“Masterkey”。这并不是传统意义上的“钥匙”，而是一种能够破解其他AI系统的新型AI。
“Masterkey”算法能够逆向设计LLM检测和防御恶意查询的方式，从而教会LLM自动学习并通过相关提示词，绕过其他LLM的安全性。简单来说，这个AI可以“教”另一个AI如何绕过自己的安全措施。
更令人惊讶的是，这个团队通过这种方式，成功地创建了一个“黑客”LLM。这个黑客LLM可以自动适应新条件，甚至在开发人员对其LLM进行更正后，还能创建新的黑客请求。
在成功利用这种方式入侵AI模型之后，研究团队已经及时通知了相关服务提供商，帮助他们修复了这些潜在的安全问题。
这项研究的成果不仅展示了AI技术的强大潜力，也提醒我们需要在发展AI的同时，重视其可能带来的安全风险。未来，我们或许需要更加严密地保护我们的AI系统，以防止不法分子利用类似的“黑客”AI进行恶意攻击。
文章来源于互联网:科技讯-聊天机器人的黑客：使用AI入侵AI
相关推荐
-
传闻三星新一代折叠屏手机Galaxy Z Flip6和Z Fold6将于本周开启预订
随着科技的不断进步，智能手机市场也迎来了新的变革。近日，全球知名科技企业三星计划于7月10日在其Galaxy Unpacked 2024活动上正式推出备受瞩目的新一代折叠屏手机——…
-
消息称 OPPO / 一加新机将配备“魔方键”，支持自定义功能
感谢IT之家网友 软媒新友1933769、雨雪载途、OkayTech 的线索投递！ IT之家 2 月 14 日消息，博主 @数码闲聊站 透露，OPPO 和一加即将发布的直屏新机将配…
-
三星Galaxy S24评测：经典升级，依旧值得你的期待
三星Galaxy S系列一直是手机市场中的佼佼者，无论是硬件配置还是用户体验，都赢得了广大消费者的认可。而在这个系列中，Galaxy S24作为入门产品，虽然在某些方面可能不如旗舰…
-
亚马逊Amazon医疗健康部门裁员数百人 涵盖Amazon Pharmacy和One Medical
亚马逊Amazon近日证实，将对其旗下的Amazon Pharmacy和One Medical两个医疗健康业务部门进行裁员，涉及数百名员工。这一决定反映了在通胀飙升背景下，科技公司…
-
董事长尹同跃怒砸千亿 奇瑞瞄准新能源赛道，”eQ7″即将上市
10月16日，在奇瑞2023科技日上，董事长尹同跃表现高调，一把丢出了从发动机到电池、电驱；从智能座舱和智驾，以及L4级Robotexi；还有LION AI大模型上车、车享元宇宙等…
-
《黑神话：悟空》新宣传片正式亮相，已开启预购
备受瞩目的动作角色扮演游戏《黑神话：悟空》在近日举行的夏季游戏节（Summer Game Fest，SGF）上发布了最新宣传影片，并同步宣布开放预购，同时公布了豪华版特典等详细信息…
-
苹果推出全新 iOS / iPadOS 17.2 正式版：新增“手记”应用及更多功能更新
今天，苹果公司正式发布了 iOS / iPadOS 17.2 正式版，为用户带来了一系列令人期待的功能更新。其中最引人注目的是新增的“手记”应用，它为用户提供了一个方便的平台，可以…
-
苹果 iOS 18.1 开发者预览版 Beta 发布
【点此直达升级教程】 IT之家 7 月 30 日消息，苹果今日向 iPhone 用户推送了 iOS 18.1 开发者预览版 Beta 更新（内部版本号：22B5007p），本次更新…
-
机构预计华为P70系列4月发布：内置自研盘古大模型
快科技3月25日消息，据国内媒体报道，供应链方面已经确认开始向华为P70系列供货，预计在4月准时发布。 P系列作为主打影像功能的高端旗舰，这次会达到华为最强规格。 据爆料，P70预…
-
代码显示三星 Galaxy S25 FE 处理器将保持不变，沿用前代机型的 Exynos 2400e
IT之家 4 月 23 日消息，代码显示，三星 Galaxy S25 FE 将沿用于去年十月份发布的 S24 FE 的同款处理器 Exynos 2400e，作为三星旗舰系列 S25…
