共计 1019 个字符，预计需要花费 3 分钟才能阅读完成。
近日，开发了 ChatGPT 的 OpenAI 公司发布了一则引人注目的招聘启事：以高达 55.5 万美元的年薪，招聘一位“防范负责人”，专门应对人工智能技术可能带来的各类风险。
OpenAI 联合创始人兼首席执行官 Sam Altman 表示，公司正致力于应对其技术带来的“真实挑战”，并坦言“这将是一份压力巨大的工作”。该职位不仅提供高额年薪，还包含公司股权，足见其对 AI 安全防范工作的重视。
随着 ChatGPT 等生成式 AI 的普及，其潜在风险也日益引发关注。尽管 OpenAI 有时被指责夸大技术风险以吸引眼球，但过去一年中，确实出现了一系列值得警惕的实际问题。
AI 带来的现实挑战
最引人担忧的问题之一是心理健康领域。有报告指出，处于情感危机中的弱势群体可能转向 ChatGPT 等 AI 系统寻求慰藉或建议，但技术本身若处理不当，反而可能加剧他们的心理困境。已有数起诉讼案件，家长因子女在使用 AI 服务后自杀而将 OpenAI 告上法庭。
此外，人工智能被用于发起更复杂的网络攻击、甚至介入军事冲突的风险也日益凸显。同时，AI 运算所需的巨大能源和水资源消耗，以及其对人类就业市场的冲击，都是亟待解决的系统性挑战。目前尚不清楚这些广泛的问题是否都将纳入这位新任防范负责人的职责范围。
Sam Altman 的公开表态
Altman 在宣布新职位时，特别在社交媒体平台 X 上指出了这些挑战。他写道：“我们在 2025 年已经预见到模型对心理健康的潜在影响；而现在，我们看到模型在计算机安全领域变得如此强大，甚至开始发现关键漏洞。”这表明 OpenAI 对 AI 能力滥用的担忧是具体且前瞻的。
他进一步阐述道，公司虽然具备衡量技术能力的基础，但正进入一个需要更细致评估能力如何被滥用、以及如何在产品与现实世界中限制负面效应的新阶段。Altman 承认这些问题极为复杂，几乎没有先例可循，许多看似合理的解决方案都存在实际的边界情况。
OpenAI 的防范计划与职责
根据公司发布的招聘信息，OpenAI 已强调其正在推进的防范工作，旨在通过“日益复杂的保障措施”来限制新 AI 模型的潜在危险。新任防范负责人将肩负重任，其核心职责是“扩展、加强并指导这一计划，使我们的安全标准与我们开发的系统能力相匹配”。
这一高薪职位的设立，标志着像 OpenAI 这样的 AI 领军企业，正在将“安全”和“防范”提升到与“研发”和“创新”同等重要的战略高度。对于整个行业而言，如何负责任地发展 AI，确保技术红利大于其风险，将是未来发展的关键命题。
