ChatGPT 成为恶意黑客行为者的工具

OpenAI 在最新发布的报告中透露，已中断了20多个滥用其 ChatGPT 服务的操作，这些操作包括调试恶意软件、目标侦察、漏洞研究以及生成影响操作的内容。

报告还发现了一项针对 OpenAI 员工的鱼叉式网络钓鱼活动，该活动由一个疑似来自一个称为SweetSpecter ，报告详细列出了几个已知使用 ChatGPT 的威胁行为者的案例研究，以及部分攻击者的战术、技术和程序（TTPs）和妥协指标（IoCs）。

总体而言，OpenAI 报告称，网络威胁行为者使用 ChatGPT 的活动主要限于可以通过搜索引擎或其他公开工具完成的任务，几乎没有利用 ChatGPT 进行选举相关影响操作的例子得分高于布鲁金斯学会的突破尺度（Breakout Scale）的第二类。

CyberAv3ngers 使用 ChatGPT 研究 ICS 设备默认凭据

报告中提到的一个已知威胁行为者是 CyberAv3ngers，该组织涉嫌与伊朗IRGC有关联。CyberAv3ngers 主要针对关键基础设施，包括水和废水处理、能源和制造设施，特别是在美国、以色列和爱尔兰。

OpenAI 发现该组织使用 ChatGPT 服务研究关键基础设施中使用的工业控制系统（ICS），包括搜索 Tridium Niagara 和 Hirschmann 设备的默认凭据。威胁行为者还研究了 CrushFTP、Cisco Integrated Management Controller 和 Asterisk VoIP 软件的漏洞，并寻求关于如何创建 Modbus TCP/IP 客户端、调试 Bash 脚本、扫描网络和 ZIP 文件以查找可利用的漏洞以及混淆提供的代码等方面的指导。

OpenAI 员工成为鱼叉式网络钓鱼活动的目标

报告还揭示了一项针对 OpenAI 员工的鱼叉式网络钓鱼活动，该活动由疑似来自中国的威胁行为者 SweetSpecter 实施。OpenAI 在收到“可信来源”的提示后展开了调查，发现威胁行为者发送电子邮件给 OpenAI 员工的个人和公司账户，伪装成 ChatGPT 用户寻求帮助解决在使用服务时遇到的错误。

这些电子邮件附带了一个 ZIP 文件，其中包含一个 LNK 文件。当用户打开该文件时，会显示一个列出各种错误的文档；然而，文件在后台会启动 SugarGh0st 远程访问木马（RAT）在受害者的机器上。OpenAI 发现其电子邮件安全系统阻止了这些鱼叉式网络钓鱼邮件进入公司邮箱。此外，OpenAI 发现 SweetSpecter 单独使用 ChatGPT 进行漏洞研究、目标侦察、脚本调试和撰写社会工程内容的帮助。

威胁行为者通过 ChatGPT 泄露自己的恶意代码

在 ChatGPT 报告中发现的第三个网络操作中，一个位于伊朗的威胁行为者 STORM-0817 被发现正在开发一种尚未部署的新 Android 恶意软件。

STORM-0817 向 ChatGPT 提供了代码片段以进行调试和开发支持，泄露了一种相对初级的监控软件，旨在从 Android 设备中检索联系人、通话记录、安装的应用程序、截图、设备信息、浏览历史、位置和外部存储中的文件。

通过整理威胁行为者发送给 ChatGPT 的信息，OpenAI 发现 STORM-0817 正在创建两个 Android 包——com.example.myttt 和 com.mihanwebmaster.ashpazi——包含恶意软件，并试图使用 ChatGPT 帮助开发服务器端代码，以促进受感染设备与命令和控制（C2）服务器之间的连接，该服务器使用 WAMP 设置，测试域名 stickhero[.]pro。

AI 驱动的选举影响活动未能获得势头

报告还包含了许多关于针对美国、卢旺达和欧盟选举的影响活动的案例研究，但指出这些活动无一在社交媒体上获得显著关注。