网络安全研究人员发现，利用大型语言模型（LLM）大规模生成恶意 JavaScript 代码的新变种，可以更好地躲避检测。"虽然 LLM 难以从头开始创建恶意软件，但犯罪分子可以轻松地利用它们重写或混淆现有的恶意软件，使其更难被检测到，"Palo Alto Networks 42 部门的研究人员在一份新的分析报告中说。 "犯罪分子可以促使 LLM 执行看起来自然得多的转换，这使得检测这种恶意软件变得更具挑战性。" 随着时间的推移，只要进行足够多的转换，这种方法就有可能降低恶意软件分类系统的性能，诱使它们相信一段邪恶代码实际上是良性的。
虽然 LLM 提供商越来越多地实施了安全防护措施，以防止它们误入歧途并产生意外输出，但不良行为者已经将 WormGPT 等工具宣传为一种自动制作令人信服的钓鱼邮件的方法，这些邮件会被尾随至潜在目标，甚至会创建新型恶意软件。
早在 2024 年 10 月，OpenAI 就披露它阻止了 20 多个试图利用其平台进行侦查、漏洞研究、脚本支持和调试的操作和欺骗性网络。 Unit 42 表示，它利用 LLM 的力量迭代重写现有的恶意软件样本，目的是避开机器学习（ML）模型（如 Innocent Until Proven Guilty (IUPG) 或 PhishingJS）的检测，在不改变功能的情况下有效地为创建 10,000 种新型 JavaScript 变种铺平道路。
这种对抗性机器学习技术旨在使用各种方法（即变量重命名、字符串拆分、插入垃圾代码、删除不必要的空格以及完全重新实现代码）对恶意软件进行改造，每次都会将其作为输入输入到系统中。
"该公司表示："最终输出是恶意 JavaScript 的新变体，它保持了原始脚本的相同行为，但恶意得分几乎总是低得多。
更糟糕的是，这种重写的 JavaScript 工件在上传到 VirusTotal 平台时，还能躲过其他恶意软件分析器的检测。 基于 LLM 的混淆技术提供的另一个关键优势是，它的大量重写看起来比 obfuscator.io 等库实现的重写自然得多，后者由于对源代码引入更改的方式，更容易可靠地检测和指纹识别。"在生成式人工智能的帮助下，新恶意代码变种的规模可能会扩大，"42 号单元说。 "不过，我们可以使用同样的策略重写恶意代码，帮助生成训练数据，从而提高 ML 模型的鲁棒性。" TPUXtract 攻击目标是谷歌边缘 TPUs# 此次披露的消息是，北卡罗来纳州立大学的一组学者设计了一种被称为 TPUXtract 的侧信道攻击，对谷歌边缘张量处理单元（TPU）进行模型窃取攻击，准确率高达 99.91%。 这可能会被用于窃取知识产权或后续网络攻击。
"研究人员说："具体来说，我们展示了一种超参数窃取攻击，它可以提取所有层配置，包括层类型、节点数量、核/滤波器大小、滤波器数量、步长、填充和激活函数。 "黑盒攻击的核心是捕捉 TPU 在进行神经网络推断时发出的电磁信号（这是运行离线 ML 模型的计算强度造成的后果），并利用这些信号推断模型的超参数。 然而，这取决于对手是否能实际访问目标设备，更不用说是否拥有昂贵的设备来探测和获取踪迹了。
"这项研究的作者之一艾登-艾苏（Aydin Aysu）说："因为我们窃取了架构和层的细节，所以我们能够重新创建人工智能的高级功能。 "然后，我们利用这些信息重新创建了功能性人工智能模型，或者是该模型的一个非常接近的替代模型。" EPSS被发现易受操纵攻击# 上周，Morphisec还披露，像漏洞预测评分系统（EPSS）这样的人工智能框架可能会受到对抗性攻击，影响其评估风险的方式以及已知软件漏洞在野外被利用的可能性。
安全研究人员伊多-伊卡尔（Ido Ikar）说："这次攻击针对的是EPSS功能集中的两个关键特征：社交媒体提及率和公开代码可用性。"他补充说，通过在X上分享有关安全漏洞的随机帖子，并创建一个包含漏洞利用程序的空文件的GitHub仓库，"人为夸大这些指标"，从而影响模型的输出是可能的。
这项概念验证（PoC）技术表明，威胁行为者可以利用 EPSS 对外部信号的依赖性来提高特定 CVE 的活动指标，从而有可能 "误导 "那些依靠 EPSS 分数来确定漏洞管理工作优先次序的组织。 "在通过生成的社交媒体帖子和创建占位漏洞库注入人工活动之后，模型预测的漏洞利用概率从 0.1 上升到了 0.14，"Ikar 指出。 "此外，该漏洞的百分位数排名从第 41 位上升到第 51 位，使其超过了感知威胁的中位数水平。
信息来源：https://thehackernews.com/2024/12/ai-could-generate-10000-malware.html
AI API 安全 DMARC 中国 云安全 五角大楼 人工智能 关税 加密货币 勒索软件 品牌冒充 国家安全 威胁情报 应用程序安全 恶意软件 数字货币 时事政治 时政 时政新闻 木马病毒 欺诈管理和网络犯罪 欺骗 民族国家攻击 漏洞和威胁 特朗普政府 社会工程学 社会工程学、网络战 移动安全 端点安全 缺口 网络安全 网络安全运营 网络攻击和数据泄露 网络犯罪 网络罪犯 网络钓鱼 网络间谍 网络风险 美国贸易代表办公室 联邦贸易委员会 脆弱性 金融与银行 间谍软件 阿联酋 骗局