人工智能可以用来制造毒素蓖麻毒素，但它也可以从蓖麻豆中获得，这在许多花园中都可以找到
美国摄影档案/阿拉米
人工智能承诺改变生物学，使我们能够设计更好的药物、疫苗甚至合成有机体，比如用来食用废塑料。但有些人担心，它也可能被用于更黑暗的目的，创造生物武器，直到为时已晚才能被传统方法检测出来。那么，我们应该担心多少呢？
“AI的进步正在推动生物学和医学的突破，”微软首席科学官埃里克·霍维茨说道。“随着新的力量的增加，我们需要对警惕负责。”
他的团队发表了一项研究，研究AI是否可以设计出与已知有危险的蛋白质相同功能的蛋白质，但不同到不能被识别为危险的程度。这个团队并没有透需他们尝试重新设计哪些蛋白质——部分研究内容被隐瞒——但很可能包括毒素，如蓖麻毒素、众所周知的用于1978年暗杀的毒素，以及肉毒杆菌，更为人所知的是肉毒杆菌神托。
<p要制造像肉毒菌这样的蛋白质，你需要食谱——即编码它的DNA。当生物学家需要特定的DNA片段时，他们通常会从专门制作所需片段的公司订购。
<p由于担心潜在的生化恐怖分子可能通过这种方式订购生化武器的配方，一些DNA合成公司自愿对订单进行筛查，以查看是否有人试图制造危险物质。蛋白质是由氨基酸序列构成的，筛查会检查这种氨基酸序列是否与任何“存在关注的序列”匹配，即潜在的生物武器。
<p但AI理论上可以设计出具有不同氨基酸序列的蛋白质版本，却仍然具有相同功能。霍维茨及其同事尝试了对72种潜在危险蛋白质进行这样的处理，并显示筛查方法通常会忽略这些可替代版本。
<p这并没有听起来那么可怕。首先，出于明显原因，团队并没有真的制造重新设计的蛋白质。但在今年早些时候的一项单独研究中，他们测试了对无害蛋白质的重新设计版本——基本上发现它们没有发挥作用。
<p其次，尽管曾经发生过企图的生化恐怖袭击，尽管数量极少，但没有理由认为这是自愿扫描系统失败的原因。已经有许多方法可以绕过它，而不必诉诸AI重新设计——例如，蓖麻毒素可以从蓖麻植物中获得，这些植物在许多花园中都能找到。这项研究相当于警告说一家银行可能会遭到一些高度复杂的《碟中谍》式计划的抢劫，而事实上保险库门已经被敞开。
<p最后，除了排除国家行动者外，没有任何生物恐怖分子曾经使用基于蛋白质的生物武器杀死任何人。日本奥姆真理教试图使用肉毒菌毒死人，但只成功使用化学剂。寄往白宫的沙棘酸信件并没有杀死任何人。根据人数统计，枪支和爆炸远比生物毒素更危险。
<p那么，这是否意味着我们不用担心AI设计的生物武器？并非如此。尽管霍维茨的研究仅涉及蛋白质，但病毒才是真正的威胁——AI已经用于重新设计整个病毒。
<p上个月，加州斯坦福大学的一个团队公布了他们努力重新设计感染大肠杆菌的病毒的结果。与重新设计的蛋白质相同，结果并不让人印象深刻——302种通过AI设计的病毒中，只有16种可以感染大肠杆菌。但这只是个开始。
<p当被问及AI设计的病毒时，DNA制造公司Twist Bioscience的詹姆斯·迪甘斯，也是霍维茨团队的成员，表示在检测引起担忧的病毒DNA方面比检测引起担忧的蛋白质更容易。“合成筛查通过更多信息而不是更少信息运行得更好。因此，在基因组尺度上，这是非常详尽的。”
<p但并非所有DNA制造公司都进行这种筛查，台式DNA合成仪的使用也变得越来越普遍。人们已经找到许多方法绕过旨在阻止AI提供制造炸弹指令等措施的安全条款。一个AI工具的设计目前正处于拒绝创建危险病毒或尝试检测恶意意图的阶段，但人们已经找到了很多绕过这些保障措施的方法。
<p要明确的是，历史表明“野生”病毒带来的风险远远高于生物恐怖主义的风险。尽管当前美国政府声称，据证据显示，SARS-CoV-2是由蝙蝠病毒跳到其他野生动物，然后传播给人类形成的——并不牵涉到实验室。
<p而且，潜在的生物恐怖分子可以简单通过释放已知病毒，如天花，造成极大破坏。由于生物武器控制工作中存在许多漏洞，无需诉诸AI欺诈方法来绕过。 是有很多原因可作为担忧。
<p由于各种技术不断发展，未来释放AI设计的病毒的风险可能接近零。但这种风险随着各种技术的不断发展而增长。covid-19大流行展示了新病毒即使并不特别致命，也能造成多大破坏的情况。将来仍然有理由担忧。
话题:
