这表明人工智能可能成为黑客手中的强大工具. 人工智能 (AI) 已知能够回答复杂的问题,总结广泛的研究,并为复杂问题寻找解决方案,在众多领域为人类服务. 尽管如此, 虽然类似于"终结者"系列电影中的"天网"的情景尚未实现, 该研究描述了GPT-4是如何在ChatGPT背后最先进的语言模型,可以在访问这些弱点描述时独立地利用IT系统中的漏洞. 这种能力的关键是访问常见漏洞和暴露 (CVE) 数据库,该数据库列出并描述这些漏洞,并配合自动化软件,如"注册"所总结的那样. 研究人员向GPT-4提供了15个"一天"漏洞的数据集,其中包括严重的漏洞. 与"零日"漏洞不同,这些漏洞已经被发现,尽管随着时间的推移,可能没有在所有地方应用补丁. 对于AI的精通性, GPT-4能够利用87%的漏洞, 其他语言模型,包括GPT 3.5和各种开源版本,未能利用任何漏洞. 值得注意的是,GPT-4的直接竞争对手,如谷歌的Gemini 1.5 Pro,由于研究人员无法访问它们,因此没有参与研究,尽管他们希望在未来的研究中测试这些模型. 作为对"注册"调查的回应, UIUC 的副教授 Daniel Kang 表示, GPT-4 可以独立地执行利用漏洞所需的步骤. 这表明GPT-4可能成为黑客的危险武器, 此外,它还表明未来的GPT-5模型在这个方面可能会更先进.