共计 1624 个字符，预计需要花费 5 分钟才能阅读完成。
最新研究表明，人工智能（AI）能够设计出多种危险蛋白质的 DNA，这些设计巧妙地绕过了 DNA 制造商的生物安全筛查措施。这一发现引发了科学界对生物安全的新一轮担忧。
生物技术公司为科学家生产定制 DNA 时，已经建立了严格的保护措施，以防止危险的生物材料落入不法分子之手。这些措施包括筛查订单，以识别任何试图购买天花或炭疽基因的请求。然而，《科学》杂志上的一项新研究展示了 AI 如何轻松绕过这些生物安全流程。
一个 AI 研究团队发现，蛋白质设计工具可以用来“改写”有毒蛋白质的 DNA 代码，以保留其结构和可能的功能。微软首席科学官 Eric Horvitz 指出，计算机科学家使用 AI 程序生成了超过 75,000 种危险蛋白质变体的 DNA 代码，而 DNA 制造商使用的防火墙无法始终检测到它们。
Horvitz 表示：“令我们担忧的是，这些重新编写的序列绕过了 DNA 合成公司全球使用的生物安全筛查系统，这些系统用于标记危险订单。”尽管迅速编写并应用了修复程序，但生物安全筛查软件仍然无法检测到一小部分变体。
这一研究再次凸显了 AI 如何加剧了长期以来对强大生物工具潜在滥用的担忧。Horvitz 强调：“人工智能驱动的蛋白质设计是科学中最令人兴奋的领域之一。我们已经在医学和公共卫生领域看到了进展。然而，像许多强大的技术一样，这些工具也经常被滥用。”
多年来，生物学家一直担心他们不断改进的 DNA 工具可能被用来设计强大的生物威胁，如更具毒性的病毒或易于传播的毒素。他们甚至辩论是否应该公开某些实验结果，尽管公开讨论和独立复制一直是科学的命脉。
发表这项新研究的研究人员和期刊决定保留一些信息，并将限制谁可以访问他们的数据和软件。他们聘请了一个第三方，一个名为国际生物安全与生物科学倡议的非营利组织，来决定谁有合法的知情需求。Horvitz 表示：“这是第一次在科学出版物中采用这种模型来管理共享危险信息的风险。”
长期以来一直担心未来生物安全威胁的科学家们对这项工作表示赞赏。约翰霍普金斯大学的微生物学家和免疫学家 Arturo Casadevall 说：“我的总体反应是积极的。在这里，我们有一个系统来识别漏洞。你所看到的是一种尝试纠正已知漏洞的努力。”
然而，Casadevall 也指出，这个团队没有进行任何实验室工作来实际生成 AI 设计的任何蛋白质，以查看它们是否真的会模仿生物原始威胁的活动。随着社会应对这种来自 AI 的新兴威胁，这样的工作将是一个重要的现实检查，但这可能会很棘手，因为它可能被禁止开发生物武器的国际条约所禁止。
这并不是科学家们第一次探索 AI 在生物环境中的恶意使用潜力。例如，几年前，另一个团队研究了 AI 是否可以用于生成与神经毒剂具有相同特性的新型分子。在不到六个小时的时间里，AI 工具合成了 40,000 个符合要求标准的分子。它不仅提出了已知的化学战剂，如臭名昭著的 VX，还设计了许多未知的分子，这些分子看起来是合理的，并且预计更具毒性。
斯坦福大学的研究员 David Relman 指出，那个团队也没有公开发布 AI 工具设计的化学结构，或在实验室中创建它们，“因为他们认为它们太危险了。”“他们只是说，我们告诉你这一切是为了警告。”
Relman 认为，这项最新研究展示了 AI 如何被用来逃避安全筛查，并找到解决这一问题的方法，这是值得称赞的。与此同时，他表示，这只是说明了一个巨大的问题正在酝酿。
尽管有这些担忧，一些生物安全专家看到了令人安心的理由。Twist Bioscience 是定制 DNA 的主要供应商，在过去十年中，它不得不将订单提交给执法部门的次数不到五次。Twist Bioscience 的政策和生物安全负责人兼国际基因合成联盟董事会主席 James Diggans 说：“这是极其罕见的事情。在网络安全领域，有许多参与者试图访问系统。在生物技术领域并非如此。真正试图制造滥用的人数可能非常接近于零。因此，我认为这些系统是防止这种情况的重要堡垒，但我们都应该从这种情况并不常见的事实中找到安慰。”
