正在读取岗位…

专家人才库,安全测试(专家级)

Expert Talent Pool, Safety Testing (Expert)

软件与 IT全职
薪资标准
按项目、领域和经验而定;按实际工作小时支付
501.73 – 1,170.69 CNY / 小时原币种 USD 75–175/小时

AI 摘要

这是面向 AI 安全测试项目的远程专家池岗位,负责红队评估、越狱与提示注入及工具滥用测试、公平性评估、政策审核和整改建议。要求至少五年相关经验,并具备 AI 安全测试及带领或审核测试人员的实操经验;项目周期从一周到数月。

岗位速览

用工形式
全职
工作语言
英语(提及)
经验门槛
至少五年在安全测试、信任与安全、政策研究、公平性研究、对抗性机器学习或相关领域(如网络安全、生物安全、化学安全或儿童安全)的工作经验

岗位介绍

关于该职位

加入一个专注于支持人工智能安全测试项目的专家团队。您将负责对安全性、公平性以及特定领域内的安全性进行评估,帮助在人工智能系统部署之前识别并解决相关风险。

您的工作内容

  • 设计并领导“红队”(red teaming)攻击测试活动,以识别高风险模型功能中的安全漏洞。
  • 开发越狱技术,并将其记录下来,以便后续重现和知识共享。
  • 测试代理系统,查找涉及不可信输入的漏洞。
  • 检查支持工具的模型(包括具有代码执行、浏览或消息传递功能的模型),以发现潜在的滥用场景。
  • 设计偏见测试框架,评估模型在不同人群和语言环境下的公平性。
  • 根据书面安全政策审核模型行为,并报告合规性方面的不足。
  • 制定审核指南,处理特殊情况,并审查其他审核人员的的工作。
  • 根据漏洞的严重程度对发现的问题进行分类,并提出相应的修复建议。
  • 我们正在寻找什么样的人才
  • 至少五年在安全测试、信任与安全、政策研究、公平性研究、对抗性机器学习或相关领域(如网络安全、生物安全、化学安全或儿童安全)的工作经验,并具备实际的人工智能安全测试经验。
  • 有设计测试计划、威胁模型、红队攻击方案或审核方案的经验。
  • 有领导或审核测试人员或审核员的经验。
  • 具备针对人工智能系统进行红队攻击测试、越狱测试、提示注入测试或工具滥用测试的实际操作经验。
  • 能够评估问题的严重性,并撰写清晰、可操作的修复建议。
  • 熟悉Burp Suite、Garak或PyRIT等工具,或了解OWASP LLM Top 10相关知识。
  • 具备出色的英语写作能力,并能在遵循伦理准则的前提下处理敏感信息。
  • 薪酬与福利

基于项目的薪酬为每小时75至175美元,具体金额取决于项目类型、工作领域以及工作经验。薪酬按照实际工作小时数计算。

地点

完全远程办公。项目周期从一周到几个月不等。

薪资范围:15.6万美元至36.4万美元

最初发布于 Himalayas

查看原岗位