“红队”，就是指对模型进行渗透测试的攻击方。在AI的“红队测试”中，AI作为防守方，而红队成员则需要模拟现实世界中可能存在的对手及其工具、策略和过程，对AI进攻，以识别风险并改进系统的整体安全状态。