共计 814 个字符,预计需要花费 3 分钟才能阅读完成。
近日,一个名为“AI 对齐中心对齐中心”(CAAAC)的新网站通过幽默的方式,揭示了致力于人工智能(AI)安全的研究者与 AI 公司之间复杂且微妙的关系。该网站表面上看似正经,实则是一场精心策划的讽刺。
在 AI 领域,“对齐”(alignment)是指确保 AI 系统符合人类价值观的研究方向。这一领域已发展为一个充满政策文件和基准测试的研究领域,用于对 AI 模型进行排名。然而,随着研究的深入,一个问题浮现:谁来对齐这些对齐研究者?
CAAAC 应运而生,声称要将数千名 AI 对齐研究者协调到“一个最终的 AI 中心奇点”。乍看之下,CAAAC 的设计酷炫而平静,标志是汇聚的箭头,象征团结。然而,页面停留 30 秒后,这些线条会拼出“胡说八道”,揭示其讽刺本质。
该网站由曾推出“The Box”的团队创建,旨在通过幽默揭示 AI 安全研究中的荒谬之处。CAAAC 联合创始人 Louis Barclay 在接受《The Verge》采访时表示:“这个网站是任何人在这个千年或下一个千年中关于 AI 最重要的阅读材料。”
CAAAC 的设计与 AI 对齐研究实验室如此相似,以至于即使是业内人士最初也认为它是真实的。机器学习研究员和技术律师 Kendra Albert 表示,CAAAC 嘲笑了那些专注于“非常、非常理论化”的 AI 接管世界风险的研究者,而忽视了现实中的真正问题,如模型中的偏见、能源危机和工人被取代。
CAAAC 的招聘页面声称,所有申请者只需相信“AGI(通用人工智能)将在未来六个月内消灭所有人类”即可加入。网站还提供了一个生成式 AI 工具,允许用户在“不到一分钟,零 AI 知识要求”的情况下创建自己的 AI 中心,包括一位执行董事。
对于更有雄心的求职者,点击网站后,他们将在 Rick Astley 的“Never Gonna Give You Up”歌声中陶醉,完成这场讽刺之旅。
CAAAC 通过幽默和讽刺,揭示了 AI 安全研究中的复杂性和潜在问题,提醒业界在追求理论化的同时,不要忽视现实中的挑战。