OpenAI 周五透露，它禁止了一组使用其 ChatGPT 工具开发疑似人工智能 （AI） 驱动的监控工具的帐户。
据说社交媒体监听工具可能来自中国，由 Meta 的 Llama 模型之一提供支持，有问题的账户使用人工智能公司的模型生成详细描述并分析文件，用于能够收集有关西方反华抗议活动的实时数据和报告并与中国当局分享见解的设备。
研究人员 Ben Nimmo、Albert Zhang、Matthew Richard 和 Nathaniel Hartley 指出，由于“网络在推广和审查监控工具方面的行为”，该活动被代号为 Peer Review，并补充说该工具旨在摄取和分析来自 X、Facebook、YouTube、Instagram、Telegram 和 Reddit 等平台的帖子和评论。
在该公司标记的一个例子中，行为者使用 ChatGPT 调试和修改据信运行监控软件的源代码，该软件被称为“千月海外舆情 AI 助手”。
除了将其模型用作研究工具来揭示有关美国智库以及澳大利亚、柬埔寨和美国等国家的政府官员和政治家的公开信息外，该集群还被发现利用 ChatGPT 访问来阅读、翻译和分析英文文档的屏幕截图。
其中一些图片是西方各个城市维吾尔人权抗议活动的公告，很可能是从社交媒体上复制的。目前尚不清楚这些图像是否真实。
OpenAI 还表示，它破坏了其他几个被发现滥用 ChatGPT 进行各种恶意活动的集群 –
- 欺骗性就业计划 – 来自朝鲜的网络，与欺诈性 IT 工作者计划有关，该计划涉及为虚构求职者创建个人文件，例如简历、在线工作简介和求职信，并提出令人信服的回应来解释异常行为，例如避免视频通话、从未经授权的国家/地区访问公司系统或不定时工作。一些虚假的工作申请随后在 LinkedIn 上分享。
- 赞助的不满 – 一个可能起源于中国的网络，参与创建英语社交媒体内容和西班牙语长篇文章，批评美国，随后由秘鲁、墨西哥和厄瓜多尔的拉丁美洲新闻网站发布。一些活动与一个名为 Spamouflag 的已知活动集群重叠。
- 浪漫诱饵骗局 – 一个账户网络，参与翻译和生成日语、中文和英语的评论，以发布在社交媒体平台（包括 Facebook、X 和 Instagram）上，与疑似源自柬埔寨的浪漫和投资骗局有关。
- Iranian Influence Nexus – 一个由五个帐户组成的网络，参与生成了 X 篇亲巴勒斯坦、亲哈马斯、亲伊朗、反以色列和反美国的帖子和文章，并在与伊朗影响力行动相关的网站上分享，这些行动被追踪为国际虚拟媒体联盟 （IUVM） 和 Storm-2035.其中一个被禁止的账户被用来为这两项行动创建内容，这表明“以前未报告的关系”。
- Kimsuky 和 BlueNoroff – 由朝鲜威胁行为者运营的帐户网络，参与收集与网络入侵工具和加密货币相关主题相关的信息，以及调试远程桌面协议 （RDP） 暴力攻击的代码
- 青年倡议秘密影响行动 – 一个账户网络，参与为一个名为“Empowering Ghana”的网站创建英文文章，以及针对加纳总统选举的社交媒体评论
- 任务骗局 – 一个可能来自柬埔寨的帐户网络，该网络参与了乌尔都语和英语之间的评论翻译，作为骗局的一部分，该骗局引诱毫无戒心的人从事执行简单任务（例如，喜欢视频或撰写评论）的工作，以换取不存在的佣金，访问该佣金需要受害者自掏腰包。
这一发展是在不良行为者越来越多地使用 AI 工具来促进网络虚假信息活动和其他恶意作之际发生的。
上个月，谷歌威胁情报小组 （GTIG） 透露，超过 57 个与中国、伊朗、朝鲜和俄罗斯有联系的不同威胁行为者使用其 Gemini AI 聊天机器人来改进攻击周期的多个阶段，并对主题事件进行研究，或执行内容创建、翻译和本地化。
OpenAI 表示：“如果与上游提供商（如托管和软件开发商）、下游分发平台（如社交媒体公司）和开源研究人员共享，人工智能公司可以从威胁行为者那里收集到的独特见解就特别有价值。
“同样，上游和下游提供商和研究人员对威胁行为者的洞察力为 AI 公司开辟了新的检测和执行途径。”
信息来源：https://thehackernews.com/2025/02/openai-bans-accounts-misusing-chatgpt.html
Acunetix Acunetix Premium AI appscan AppScan Standard（标准版） HCL AppScan WebTest 云安全 五角大楼 人工智能 人类心理学 关税 加密货币 勒索软件 品牌冒充 国家安全 威胁情报 安全漏洞 应用程序安全 恶意软件 数字货币 时事政治 时政 时政新闻 暗网 木马病毒 欺诈管理和网络犯罪 民族国家攻击 漏洞和威胁 特朗普政府 特朗普的 2026 财年预算 社会工程学 移动安全 端点安全 网络安全 网络安全运营 网络攻击和数据泄露 网络犯罪 网络罪犯 网络钓鱼 网络间谍 网络风险 美国贸易代表办公室 脆弱性 间谍软件