正在读取岗位…

专家人才库,安全测试(专家级,5年以上工作经验)

Expert Talent Pool, Safety Testing (Expert, 5+ Years)

数据与人工智能全职
薪资标准
薪资依项目、领域及经验而定
501.73 – 1,170.69 CNY / 小时原币种 USD 75–175/小时

AI 摘要

该远程职位面向 AI 安全测试专家,负责红队评估、越狱与提示注入测试、公平性测试及安全审计,并记录风险与修复建议。要求相关领域至少五年经验及 AI 安全测试实操经验;项目为期一周至数月,按实际工作小时支付。

岗位速览

用工形式
全职
工作语言
英语(提及)
经验门槛
至少五年在安全测试、信任与安全、政策研究、公平性研究、对抗性机器学习或相关领域(如网络安全、生物安全、化学安全或儿童安全)的工作经验

岗位介绍

关于该职位

加入一个精心挑选的专家团队,支持人工智能安全测试项目。您将负责在安全、公平性以及专门的安全领域开展评估工作,帮助在模型部署前识别并解决相关风险。

您的工作内容

  • 设计并领导红队(red teaming)攻击活动,以识别高风险模型功能中的攻击途径。
  • 开发越狱(jailbreak)技术,并将其记录下来,以便后续重现和知识共享。
  • 在处理不可信输入时,测试代理程序是否存在快速注入(prompt injection)漏洞。
  • 使用具备代码执行、浏览和消息传递等功能的工具来探测模型,以发现可能的滥用场景。
  • 设计偏见测试框架,并评估模型在不同人群和语言环境下的公平性。
  • 根据书面政策进行安全审计,并记录合规性方面的不足之处。
  • 制定内容审核指南,审查边缘案例(edge cases),并评估其他审核人员的工作表现。
  • 评估发现的漏洞的严重程度,并提出相应的修复建议。
  • 我们正在寻找什么样的人才
  • 至少五年在安全测试、信任与安全、政策研究、公平性研究、对抗性机器学习或相关领域(如网络安全、生物安全、化学安全或儿童安全)的工作经验,同时具备实际的人工智能安全测试经验。
  • 具有设计测试计划、威胁模型、红队攻击方案或审核方案的经验。
  • 有审查或指导测试人员或审核人员的经验。
  • 具有针对人工智能系统进行红队攻击测试、漏洞利用测试、提示注入测试或工具滥用测试的实际操作经验。
  • 能够根据问题的严重程度对测试结果进行评估,并提出相应的修复建议。
  • 熟悉Burp Suite、Garak或PyRIT等工具,或了解OWASP LLM Top 10相关安全漏洞列表。
  • 具备出色的英语写作能力,并能够在明确的伦理准则下处理敏感信息。
  • 薪酬与福利

时薪为75至175美元,具体取决于项目类型、工作领域以及工作经验。薪酬按照实际工作时长计算。

地点

完全远程办公。项目周期可能从一周到几个月不等。

最初发布于 Himalayas

查看原岗位