在人工智能编程助手日益普及的当下，一次本应被人工智能「解放双手」的常规开发任务，险些让一家公司付出惨痛代价。近日，据外媒报道，软件开发咨询公司 Softjourn 的一名工程师，在使用人工智能代理推荐一个「听起来很可靠」的软件包时，该代理给出一个格式与常用库极为相似的名字。若非公司一项不起眼的硬性规定，这个恶意软件包可能已经入侵了他们的系统。
据了解，Softjourn 公司的工程师在一次业务中，向人工智能代理请求推荐一个用于常见任务的软件包。人工智能代理迅速给出了一个名字。在许多组织中，开发人员会直接采纳建议并下载安装。然而，Softjourn 公司有一条严格执行的规定：任何人工智能的软件建议都必须双重核实，以确保其合法性。工程师遵循这一流程，在 GitHub 上查看了该包的部分源代码，随即发现了疑点——该包下载量极少，且仓库刚创建没几天。
人工智能模型可能导致供应链攻击风险
这并非人工智能模型的偶发失误，而是一种被命名为「slopsquatting」（即「人工智能幻觉包名抢占」）的新型供应链攻击。人工智能模型有时会「幻觉」出一些听起来合理但实际上并不存在的包名。攻击者早已注意到这一规律，并提前抢注这些人工智能臆造出的包名，上传恶意代码，坐等开发者上钩。Softjourn 董事总经理 Sergiy Fitsak 警告称，攻击者赌的就是「开发者在截止日期压力下会先安装、后检查」。
Softjourn 成功规避了这场风险，但 Fitsak 强调：「我们之所以能发现它，是因为我们已经养成了检查下载量、审查 GitHub 源代码的习惯，即使人工智能推荐的只是一個看起来很普通的包」。