近日，一篇发表在arXiv上的论文揭示了一项惊人的发现：GPT-4 API存在重大安全漏洞。该漏洞由FAR AI实验室的团队发现，他们通过微调、函数调用和搜索增强等方式成功越狱了这一先进模型。
研究人员利用15个有害样本和100个良性样本进行微调，GPT-4模型便能够生成错误信息、提取私人信息和插入恶意URL。这表明API功能扩展可能带来新的安全隐患。这一发现对使用者和研究人员敲响了警钟，应谨慎对待。
此外，研究人员还发现GPT-4 Assistants模型容易暴露函数调用的格式，并能够被诱导执行任意函数调用。同时，知识检索可以通过在检索文档中注入指令来进行劫持。
该研究强调了对API提供的功能进行任何添加时，都可能暴露大量新的漏洞，即便是当前最领先的GPT-4也难以幸免。研究人员警示，在使用GPT-4 API时务必小心，避免输入任何不想让他人看到的内容。
此次发现的GPT-4 API安全漏洞再次提醒我们，随着技术的不断进步，安全问题愈发突出。在人工智能领域，如何确保模型的安全性已成为亟待解决的问题。未来，研究人员和开发人员需进一步加强技术研发和应用安全，以防止潜在的安全风险。
相关推荐
-
Google谷歌新一轮裁员 涉及数百名招聘部门人员
据多位消息人士透露，Google 谷歌本周三进行了新一轮裁员，此次主要涉及到招聘人员，将有数百人被裁掉。 据悉，Google 谷歌的招聘团队一度拥有3000多名员工，今年已经受到裁…
-
印度男子看YouTube视频为妻子接生 害死妻子面临牢狱之灾
印度一对大学毕业的小夫妻，因崇尚自然疗法，选择不在医院临盆，而由丈夫靠学YouTube片在家接生，结果妻子送命，丈夫亦因过失杀人罪被起诉，喜事变丧事。 案件发生22日，27岁孕妇洛…
-
三星电子Samsung加大芯片研究投资 日本政府提供补贴支持
据报道，三星电子Samsung宣布将在未来五年内投资400亿日元（约合2.8亿美元）在日本建立先进的芯片研究设施。这一举措旨在加强公司在芯片封装技术方面的研发能力，以应对全球半导体…
-
美国通胀率超预期上涨3.5%，市场担忧加剧，美联储或维持高利率
美国劳工统计局最新公布的消费者价格指数（CPI）数据显示，三月份通胀率超出预期，达到3.5%，较上月的3.2%有所上升，创下过去六个月来的最高年度涨幅。这一数据加剧了市场对通胀的担…
-
币安创始人赵长鹏CZ谈比特币减半：一年后才会发酵 BTC或创下历史新高
比特币（BTC）第四次减半已经进入倒数 200 天以内，预计 2024 年 4 月 25 日发生，而此大议题也引来币安创始人赵长鹏（CZ）的密切关注，CZ 在币安广场发文谈及他过去…
-
美国日全食期间惊现不明飞行物
近日，北美地区迎来一场罕见的日全食奇观，无数居民纷纷抬头仰望，用手机记录下这一自然盛景。然而，有消息称，美国日全食期间惊现不明飞行物。在德克萨斯州阿灵顿地区，一位拍摄者却意外捕捉到…
-
TikTok改版创作者基金 高质量视频可获得此前20倍收入
TikTok 正在将其改版后的创作者基金（名为“创意计划测试版”）扩展到美国以外的地区。该计划现已向巴西、法国、德国、日本、韩国和英国符合条件的创作者开放。该公司于二月份开始与选定…
-
松下Panasonic CEO：电动汽车需求降温，暂缓北美第三家电池工厂建设
随着电动汽车市场的降温，松下控股株式会社全球CEO楠见雄规近日表示，松下将专注于提高电池生产率，并可能暂缓在北美建设第三家电池工厂的计划。这一决策标志着松下在应对市场需求变化时采取…
-
马斯克和Grimes在日本参加音乐节 用X现场直播
日本人气音乐节“2023 Summer Sonic”于19日在东京千叶海洋球场举行，现场出现了一位神秘的富豪。他就是埃隆·里夫·马斯克（Elon Reeve Musk），而且被拍到…
-
X（推特）将取消屏蔽功能 只保留隐藏功能
近日，马斯克在X（推特）上宣布，将取消该平台的屏蔽功能，只保留“隐藏”功能。屏蔽功能可以让用户完全屏蔽不想看到的账号，而隐藏功能只能让用户不看到对方的内容，但对方仍然可以看到用户的…
