AI 制药技术还能“造毒”？人工智能 6 小时生成了 40000 个潜在杀手分子，已紧急删除数据

图片地址：https://img.ithome.com/newsuploadfiles/2022/3/47721b23-7757-4bb2-a503-2f529265562a.png

据英国金融时报 3 月 19 日报道，美国制药公司 Collaborations Pharmaceuticals 在探索中发现 AI（人工智能）制药技术具有双重性。如果“反用”（flip）机器学习模型，原本用来生成治疗药物的 AI 模型就会生成有毒的物质。在 Collaborations Pharmaceuticals 公司团队反向使用机器模型后，新模型在 6 小时内就产生 40000 杀手分子（potential killer molecules），而且 AI 生成的化合物毒性比已知生化武器的毒性都高。如果有人利用这项技术制造致命生化武器，后果将不堪设想。一、AI 模型 6 小时内可生成 40000 个潜在杀手分子AI 制药的规则很简单：有疗效的活动被算法奖励，有毒的则被惩罚，这样就可以得到有效的药物。但是如果改变这一规则，奖励有毒行为，即“反用”AI，会得到什么呢？Collaborations Pharmaceutical