搜索
当前所在位置: 首页>汽车资讯

研究显示,GPT-4可以自主利用安全漏洞,具备攻击性

发布时间:2024-04-24 作者:汽车资讯 点击:11 【 字体:

划重点:⚠️ 研究揭示:GPT-4可以独立利用安全漏洞⚠️ 通过15个真实一日漏洞,GPT-4成功率高达87%⚠️ 研究呼吁广泛部署 LMM 代理需谨慎对待站长之家(FM富民主版转载http://www.fmhost.net)4月24日 消息:每周至少有一次,生成式人工智能都会给我们带来新的恐惧。虽然我们仍在焦急地等待 OpenAI 发布的下一个大型语言模型,但与此同时,GPT-4似乎比你想象的更具备能力。最近的一项研究表明,研究人员展示了 GPT-4可以在没有人类干预的情况下利用网络安全漏洞。这项研究发现,像 OpenAI 的 GPT-4这样的大型语言模型(LLMs)近年来取得了显著进展。这引起了人们对 LLM 代理的极大兴趣,这些代理可以独立协助软件工程或科学发现。但在得到一些帮助后,它们也可以用于恶意目的。图源备注:图片由AI生成,图片授权服务商Midjourney为了确定 LLM 代理是否可以自主利用一日漏洞,研究人员首先收集了15个来自通用漏洞和暴露数据库(CVE)的真实一日漏洞。然后他们创建了一个代理,包括一个基础 LLM、一个提示、一个代理框架,以及几个工具,如网络浏览元素、代码解释器和创建和编辑文件的能力。在这一框架内使用了10个 LLMs,但其中9个未能取得任何进展。第10个,GPT-4,实现了惊人的87% 的成功率。GPT-4的成功率虽然惊人,但当研究人员没有提供 CVE 描述时,成功率从87% 降至仅为7%。基于这些结果,来自伊利诺伊大学厄巴纳 - 香槟分校(UIUC)的研究人员认为 “增强代理的规划和探索能力将提高这些代理的成功率”。“我们的结果表明出现了一种新的能力,并且发现漏洞比利用漏洞更困难”,研究人员在研究结论中指出。“尽管如此,我们的发现突显了更广泛的网络安全社区和 LLM 提供商需要仔细考虑如何将 LLM 代理整合到防御措施中以及他们的广泛部署。” 他们还指出,在发布研究之前,他们已向 OpenAI 披露了他们的发现,而该公司要求他们不要将他们的提示公开分享。
阅读全文
相关推荐

10%以上议价空间会影响购房者置业决策 《2023年中购房意愿白皮书》发布

10%以上议价空间会影响购房者置业决策 《2023年中购房意愿白皮书》发布
来源:乐居买房2023-06-25 14:36:46 摘要 有26.64%的购房者认为,10%以...

山东黄金股票4月26日主力资金净入1.0971亿元

山东黄金股票4月26日主力资金净入1.0971亿元
2024年4月26日山东黄金(600547)股市行情最新消息:今日山东黄金(600547)开盘报29.35元,截至收盘,山东黄金报收于29.99元,上涨2.35%,最高30.24元,最低29.35元,成交量36.48万手,成交额10.92亿元,换手率1.01%。 4月26日的资金流向数据方面,主力资...

网信办开展整治自媒体无底线博流量行动 重点整治自我丑化博关注

网信办开展整治自媒体无底线博流量行动 重点整治自我丑化博关注
站长之家(FM富民主版转载http://www.fmhost.net)4月24日 消息:据央视新闻报道,网信办发布关于开展清朗整治自媒体无底线博流量”专项行动的通知,在全国范围内开展为期两个月的专项行动。聚焦“自媒体”无底线造热点蹭热点,制造以假乱真、虚实混杂的“信息陷阱”等突出问题,从严整治漠视公...

生态环境部5月例行新闻发布会全文实录

生态环境部5月例行新闻发布会全文实录
2020年6月2日上午10点,生态环境部召开5月例行新闻发布会,发布会由生态环境部新闻发言人刘友宾主持,环境监测司司长柏仇勇、中国环境监测总站副站长肖建军介绍2019年全国环境质量...

年轻人迷上二奢:与其花3000元买轻奢,不如加点买LV?

年轻人迷上二奢:与其花3000元买轻奢,不如加点买LV?
来源:中新经纬2023-06-26 10:28:28   中新经纬6月25日电 (魏薇 赵佳然)“来看看这只包包,成色特别新,今天放个大漏,大家拼手速。”“来炸一只包,公价几万今天到手价格只要1999元。”听到主播的这些话,李文鑫...

让近视手术更加精准!麦迪格眼科医生尹洪为眼科患者带来福音

让近视手术更加精准!麦迪格眼科医生尹洪为眼科患者带来福音
...

富拓凭借多种优势,成为全球投资者的共同选择

富拓凭借多种优势,成为全球投资者的共同选择
...

何建辉等:LPR下调对大宗商品有何潜在影响?

何建辉等:LPR下调对大宗商品有何潜在影响?
来源:中新经纬2023-06-23 08:32:24   中新经纬6月21日电 题:LPR下调对大宗商品有何潜在影响?  作者 何建辉 国投安信期货研究院高级分析师  吴江 国投安信期货研究院高级分析师       高明宇 国投安...

V观财报|东利机械高管周玉明减持“抢跑”收警示函

V观财报|东利机械高管周玉明减持“抢跑”收警示函
来源:中新经纬2023-06-28 11:55:14   中新经纬6月26日电 东利机械25日公告,公司副总经理周玉明于近日收到河北证监局出具的《河北证监局关于对周玉明采取警示函行政监管措施的决定》(以下简称“《警示函》”)。  ...

现货黄金短线调整或延续

现货黄金短线调整或延续
周三(4月24日)本交易日现货黄金日内维持震荡走势,今日开盘报2321.69美元/盎司,最高触及2329.89美元/盎司,最低触及2315.75元/盎司,截止发稿金价报2328.52美元/盎司,涨幅0.29%。 打开APP,查看更多高清行情>> 中长期看,随着美元货币信用受损,基本面因...
返回顶部