聊天机器人的黑客：使用AI入侵AI
近日，新加坡南洋理工大学（NTU）的计算机科学专家们取得了惊人的研究成果：他们研发出一种新方法，使用聊天机器人来入侵其他聊天机器人。这听起来像是科幻电影的情节，但却是真实发生的科技突破。
这个科研团队训练了一个AI聊天机器人，它能够绕过其他AI聊天的安全限制。他们将这个AI称为“Masterkey”。这并不是传统意义上的“钥匙”，而是一种能够破解其他AI系统的新型AI。
“Masterkey”算法能够逆向设计LLM检测和防御恶意查询的方式，从而教会LLM自动学习并通过相关提示词，绕过其他LLM的安全性。简单来说，这个AI可以“教”另一个AI如何绕过自己的安全措施。
更令人惊讶的是，这个团队通过这种方式，成功地创建了一个“黑客”LLM。这个黑客LLM可以自动适应新条件，甚至在开发人员对其LLM进行更正后，还能创建新的黑客请求。
在成功利用这种方式入侵AI模型之后，研究团队已经及时通知了相关服务提供商，帮助他们修复了这些潜在的安全问题。
这项研究的成果不仅展示了AI技术的强大潜力，也提醒我们需要在发展AI的同时，重视其可能带来的安全风险。未来，我们或许需要更加严密地保护我们的AI系统，以防止不法分子利用类似的“黑客”AI进行恶意攻击。
文章来源于互联网:科技讯-聊天机器人的黑客：使用AI入侵AI
相关推荐
-
微星推出AXE5400三频Wi-Fi 6E USB适配器：自带底座设计、支持即插即用
IT之家 1 月 25 日消息，微星今天推出一款 AXE5400 三频 Wi-Fi 6E USB 适配器，旨在让早期计算机也能获得 6Ghz 网络支持，该适配器号称“即插即用”，但…
-
荣耀 YOYO 智能体搭载自动领券功能， AI 手机已进化成双十一省钱机
10 月 15 日，荣耀发布了自进化 AI 原生手机荣耀 Magic8 系列，将行业从“iPhone 时代”带入“AI Phone 时代”。在发布会上，有一个环节吸引了很多网友的关…
-
比亚迪把所有充电链路打通 800V+升压+双枪+自加热
12月19日，比亚迪在北京举办了“不止于快，全能进化——比亚迪全场景高效充电技术沟通会”，全面展现了在新能源汽车发展的不同时期，比亚迪不断推出更符合新能源用户需求和充电国情的解决方…
-
2023年中国显示器线上销量TOP10出炉：小米第2
快科技1月22日消息，洛图科技（RUNTO）最新发布报告显示，2023年，中国大陆显示器市场出货量为2450万台，同比下降1.5%。 其中，线上公开零售市场（不含抖快等内容电商）的…
-
索尼坚持PS5出货2500万台目标不变，第二季度净利润下滑近三成
索尼集团今日公布了2023财年第二季度的财务业绩，显示其营收、用户和利润均有不同程度的增长。索尼表示，尽管面临着供应链的挑战和其他业务的疲软，仍然维持了今年PlayStation …
-
有线传大文件、视频更快，vivo X300 系列手机全系标配 USB 3.2 接口
IT之家 10 月 2 日消息，vivo 产品经理韩伯啸今天在微博透露，X300 系列手机将全系标配 USB 3.2 接口，相比 USB 2.0 传输速度更快，利好经常使用数据线传…
-
联发科与一加合作，首发旗舰芯片家族新成员天玑 9400e
2025 年 5 月 14 日，一加联合联发科技举办了主题为“芯旗舰新上限”的游戏战略沟通会。会上，双方共同宣布联合成立游戏联合实验室，首次将芯片级游戏技术风驰游戏内核写入天玑平台…
-
苹果Apple发布iOS 17及PadOS 17最新安装数据
苹果公司近日公布了iOS 17和iPadOS 17的安装数据，揭示了这两款操作系统的普及情况。 在iPhone方面，过去四年发布的手机中，高达76%的用户已经安装了iOS 17，表…
-
苹果Apple iOS 17.4 Beta 4发布：直观电池健康显示与全新CarPlay体验
近日，苹果为iPhone和iPad用户推送了iOS/iPadOS 17.4开发者预览版Beta 4更新。时隔7天，此次更新为用户带来了众多新功能与优化。 其中，最为引人注目的变化莫…
-
苹果胜诉VirnetX：13年专利纠纷终落幕
近日，美国最高法院拒绝了VirnetX要求复审其针对苹果5.03亿美元索赔的请求，苹果胜诉VirnetX，标志着这场历经13年的专利侵权诉讼战正式结束。苹果在这场漫长的法律战中最终…
