正在读取岗位…

专家人才库,安全测试专员

Expert Talent Pool, Safety Testing Associate

数据与人工智能全职
薪资标准
依项目、领域和经验而定
200.69 – 401.38 CNY / 小时原币种 USD 30–60/小时

AI 摘要

该岗位为全远程 AI 安全测试工作,主要通过编写测试对话、尝试越狱与提示注入、审查模型行为并按政策标注内容。要求具备相关测试或内容审查经验、良好的英文写作与记录能力;薪酬依项目、领域和经验而定,按工时支付。

岗位速览

用工形式
全职
工作语言
英语(提及)
经验门槛
具备0至5年的工作经验

岗位介绍

关于该职位

加入一个专注于支持人工智能模型评估项目的专家网络,担任安全测试员。你的工作内容包括识别并记录人工智能系统可能出现的故障情况,从而帮助提升与你的专业背景相匹配的项目中的模型安全性。

您的工作内容

  • 编写提示语并设计多轮对话,以测试模型是否遵循安全指南。
  • 尝试已知和新型的“越狱”技术(即绕过模型限制的方法),并记录哪些方法成功或失败。
  • 在文档和工具输出中利用隐藏的指令来检测是否存在提示注入漏洞(即攻击者通过输入特定指令来操控模型的行为)。
  • 评估使用代码、浏览器或电子邮件等工具的模型是否可能被操控以执行有害操作。
  • 比较不同人群、姓名和语言背景下的模型响应,以识别潜在的偏见。
  • 根据项目安全政策审查模型的响应,并标记出违反规定的情况。
  • 根据项目指南将内容标记为“安全”或“不安全”。
  • 我们正在寻找什么样的人才
  • 具备0至5年的工作经验;无需具备人工智能数据相关的工作经验。
  • 具备安全测试、CTF(Capture The Flag,夺旗赛)、信任与安全、内容审核、政策分析、公平性或偏见研究、对抗性机器学习、质量保证等方面的经验,或在网络安全、生物技术或化学等相关领域有工作经验。
  • 具备通过尝试破坏软件、系统或模型并记录相关步骤和结果来进行测试的经验。
  • 具备运用书面政策或指南来评估或标记内容或行为的经验。
  • 熟悉语言模型的“越狱”技术(如prompt injection,提示注入)、红队(red teaming)等安全测试方法会很有帮助。
  • 熟悉Burp Suite、Garak、PyRIT等类似工具,或了解OWASP LLM Top 10等安全评估框架会很有帮助。
  • 具备出色的英语写作能力,注重文档编写规范,并能够在有明确指导原则的前提下处理敏感信息。
  • 薪酬与福利

薪酬为每小时30至60美元,具体取决于项目类型、工作领域及工作经验。支付方式按照实际工作小时数计算。

  • 地点
  • 完全远程办公。

最初发布于 Himalayas

查看原岗位