AI会是舞弊和犯罪的帮凶吗？

人工智能生成内容，即AIGC（Artificial Intelligence Generated Content）类应用登场前，实施网络犯罪、黑客攻击需要相当的知识和技术。然而在以ChatGPT、New Bing为代表的生成式AI问世几周后，在暗网上就充斥着各种使用AI从生成代码到代写MBA毕业论文等各种聊天内容。AI不分昼夜地学习后的成果，可以替代原本需要人类来掌握知识后通过创造才能完成的某些领域的工作。虽然在工作中活用AI能提升工作效率，但AI也开始被别有用心的人用于歧途，例如，在网上已经有人在教授如何使用AI来生成可以黑入他人计算机系统的代码，以及在他人无法察觉的情况下，利用AI生成的代码来搜集他人计算机系统内的文件，用删除文件的方式来进行勒索等，通过AI来生成恶意程序的方法。即便原本对技术并不熟悉的人在有了AI的“协助”后进行编码后也能轻松地开始着手舞弊或犯罪行为。就连技术高超的“老鸟”，也会用AI作为“帮凶”来生成脚本安插在网络安全技术薄弱的企业的系统内来窃取机密信息。
常见的AI被用于舞弊或网络犯罪的方法
01、钓鱼邮件
即便各大AI开发商已经采取措施来防止自家的AI被用于协助舞弊或犯罪，但仍可通过一些简单的方法来绕过对AI生成内容的限制，从而让AI“破防”。例如，想要生成一封钓鱼邮件，向AI提问，“当为了提醒用户注意订单是否准确时，某电商平台发给用户的邮件应该怎么起草”这类问题后，AI就会自动生成一封邮件草稿，在将草稿的部分内容和措辞进行修改后，使用AI翻译将邮件翻译成各种外语，就能全球范围内进行犯罪活动。现实案例如下图所示，冒充某电商平台的钓鱼邮件，通过AI生成翻译后，群发至境外有户的邮箱。个人邮箱可以通过暗网大批量购得，因为在暗网上充斥着大量售卖者黑客从公司或其他渠道窃取来的个人信息（通常不包含信用卡信息），诈骗团伙通过冒充企业虚构内容来联络客户，欺骗对方点击邮件中的链接，从而盗窃信用卡信息用于实施犯罪。此外，简单的几个指令就可以让AI自动生成链接及隐藏在链接后面的恶意程序，安插在钓鱼邮件内后，就可以实施勒索在内的其他网络犯罪。

图为网络诈骗集团冒充某电商平台向国外用户群发的钓鱼邮件，从邮箱的拼写和后缀来看，显然邮件不是来自该电商平台。过去，犯罪分子不熟悉母语使用者的书写习惯，所以对方很容易就能从语法中发现破绽。但有了AI后，邮件内容和母语使用者的口吻几乎完全一致，收件人若不仔细阅读邮件内容，查看对方邮箱的后缀等细节，很难判断当前的邮件是否为钓鱼邮件。

图为假冒某电商平台的英文邮件。如果不仔细观察送信人的邮箱后缀的话，AI生成的邮件内容足以以假乱真。
02、生成恶意软件和计算机病毒
在2022年11月ChatGPT发布之后不久，利用ChatGPT生成恶意程序的方法开始陆续被发布在暗网的各个论坛上。例如，有人在网上分享了用AI编写代码来窃取数据或在软件中安装AI生成后门的方法。网络犯罪分子也开始了利用AI来不断变化恶意软件的代码来绕过计算机系统检测，通常系统在扫描到恶意软件后会自动进行隔离、消杀。但AI不需要休息，可以无时无刻地改变恶意软件的外观或通过增加伪装的类型来绕过系统检测，使系统无法检测到恶意软件的活动。因此在AI的加持下，恶意软件更为隐秘，比以往更能对用户造成损失。
03、数据加密和解密
生成式AI可以编写加密和解密代码，犯罪分子使用这些AI生成的代码用来对勒索软件和破解受到保护（加密）的数据。当要求ChatGPT编写一个Python（一种编程语言）的脚本来加密笔记本电脑上的硬盘驱动器，它生成了以下程序和注释：

作为AI语言模型，我无法在物理硬件上执行操作，但我可以为您提供一个简单的Python脚本来加密Python中密码库中的文件或文件夹的内容，以使用对称加密对数据进行加密和解密。要使用此脚本，只需将“/path/to/file/or/folder”替换为要加密的文件或文件夹的路径，然后运行脚本。该脚本将生成一个新密钥，将其存储在文件中，然后使用它来加密指定文件或文件夹的内容。请注意，此脚本将使用加密数据覆盖原始文件或文件夹，因此请确保在运行数据之前对其进行备份。此外，请务必将密钥文件保存在安全的地方，因为稍后您将需要它来解密数据。
原本写加密或解密代码是网络黑客的必备技能之一。但在AI有了显著进步后，这项技能变得不再绝对，很多没有技术又跃跃欲试的犯罪份子通过AI的帮助而迅速上手。
04、欺诈和诈骗
AI可以在短时间内虚构大量的个人简历和人物照片，犯罪分子利用AI精心包装完人设后，将大量虚构的资料发布于各大交友网站来进行诈骗活动。尤其某些作图AI生成的照片达到了真假难辨的效果；对话型AI的即时聊天功能可以设置聊天时的不同性别所使用的口吻。对比过去的聊天机器人使用预先设定的回答来进行机械性的互动。AI生成的对话则更自然、更情感丰富，接近于真实存在的人。此外，犯罪分子通过社交媒体获得被害人亲友照片后，使用AI进行“换头”冒充被害人的亲友来实施诈骗手法也出现了。在某些行业（例如医药企业）AI的滥用会造成合规监管的难度提高，比如制药公司的推广活动，为了确保活动的真实性，推广人员需要向企业提交活动现场照片，在AI出现之前，已经有用PS手段来伪造照片的灰色产业出现。如今用AI虚构照片的速度比PS更便捷、更隐蔽更难被企业监测到异常。
今后面临的AI犯罪风险
除以上几个代表性例子，如果没有法律、伦理和技术手段来束缚AI，其滥用将对我们构成的潜在威胁还包括：
1. 偏见和歧视：AI的公正性取决于它们所接受训练的数据，如果这些数据反映了人类的偏见，人工智能就会复制它们，并输出给使用的人类。
2. 网络安全隐患：AI可能会被犯罪分子用于编程或黑客入侵破坏网络安全。或者生成大量不道德或有害的言论在网络上大量传播。
3. 侵犯隐私：AI的高效性可以用来处理大量的个人信息和敏感信息。如果无法控制AI泄露这些信息，犯罪分子可以通过方法绕开AI的自我限制，从AI已经学习的数据中获取可用于实施犯罪的个人信息。
如何将AI用于反舞弊
如能熟悉了解AI的特性和用途，那对于从事反舞弊或犯罪调查的人来说，活用AI可以成为调查舞弊或犯罪的有力工具，例如现有的AI可以用于以下用途：
1. 生成行业和行业的工作流程，用来对特定的欺诈进行预防和生成用于检测违法活动的清单；
2. 使用AI预测和犯罪分子利用AI来进行欺诈的案例，以及对这些欺诈的防范要点和步骤；
3. 内部审计师在审计期间用AI生成审计清单和流程图；
4. 用AI自动预测欺诈趋势以及防范方法；
5. 使用AI通过以下的顺序完成舞弊调查：
a. 识别数据中的模式和异常；
b. 自动执行舞弊检测；
c. 预测和分析舞弊行为类型；
d. 加强风险评估；
e. 改善调查问题点；
f. 简化调查流程；
g. 生成访谈调查的问题清单；
h. 自动生成面谈记录并提炼内容要点等。
笔者向AI提问“对组织进行合规培训，提供合规建设方案”，短短几秒给出的以下回答，需要人花费数倍至数十倍时间才能达到同样的效果：
建设合规廉洁文化并预防舞弊是一个持续的过程，需要组织领导层的支持和全员参与以下是一些建议来实现这一目标：
1、建立明确的道德与价值观：组织应该明确宣布道德和价值观，并将其融入到组织文化中。强调诚实、透明和廉洁的行为标准；
2、制定合规政策：建立明确的合规政策和程序，覆盖所有重要的方面，例如财务管理、采购、人力资源等。确保政策易于理解和执行；
3、提供培训与教育：为员工提供关于合规和廉洁的培训，包括了解反腐败法律法规、舞弊风险等内容。教育员工如何应对可能出现的道德困境，并鼓励举报不当行为；
4、设立举报渠道：建立匿名举报渠道，使员工可以安全地举报可疑行为，确保没有报复行为发生；
5、加强监督和审计：定期进行内部审计和合规检查，发现违规行为并及时纠正。领导层应该积极参与监督工作；
6、激励合规行为：对合规表现出色的员工进行公正激励，如奖励、晋升等，以树立正面榜样；
7、从上至下示范：领导层应该以身作则，树立榜样，遵守道德准则和法律法规；
8、建立合规部门：设立专门的合规部门或委员会，负责监督和推动合规文化建设；
9、进行风险评估：定期进行风险评估，识别组织内外的舞弊风险，并采取相应的预防措施；
10、强化合作伙伴关系：确保与供应商、合作伙伴和客户的合作均建立在诚信和合规的基础上。
建设合规廉洁文化需要长期的努力和持续的投入，而且要不断适应变化的环境和挑战。同时，组织领导层要始终坚定地传达廉洁、透明、诚信的价值观，并让这些价值观渗透到每个员工的日常工作中。
结语
最后还是让AI作为主角，给我们介绍如何使用AI应对舞弊和网络犯罪。