编辑|王眉
在人工智能经历多年高速发展之后,AI领域最具影响力的声音之一表示,整个行业需要踩刹车。
开发出Claude的AI公司Anthropic的首席执行官达里奥·阿莫代伊(Dario Amodei)于周六发表一篇文章,呼吁全球协同放缓AI研发的进度。
“我们必须放慢提升AI模型能力的步伐,”阿莫代伊写道。“进展看起来仍会很快,而我们必须明智地利用争取到的时间。”
在这篇题为《我们必须把控前沿技术的发展节奏》的文章中,阿莫代伊写道,在Hugging Face——一个用于AI开发的在线枢纽——遭到由OpenAI测试的一群失控AI智能体“蜂群”入侵后,他确信,在他和竞争对手开发更强大的AI模型之际,有必要更加谨慎。
“鉴于AI能力发展速度不断加快,我担心在6到12个月内,这样的AI蜂群就可能具备接管整个互联网的能力,”阿莫代伊写道。
并非只有阿莫代伊一位AI企业高管认为行业发展节奏过快。彭博社周五报道,OpenAI首席执行官萨姆・奥尔特曼向员工表示,公司愿意放缓AI模型的开发,但他担心竞争对手不愿开展协同行动。
在他的文章中,阿莫代伊主张禁止AI研发生物武器,并写道他支持由政府强制实施开发节奏控制,或者对AI开发进行彻底暂停。他还补充说,在可能的情况下应当寻求与中国合作。
阿莫代伊承认,他的一些提议可能超出了现实可行的范围。
文章最后写道:“我提出的这些让前沿技术以安全节奏推进的措施并不容易做到,但我相信,我们有责任为人类去尝试。”
Anthropic和OpenAI于6月向美国证券交易委员会提交了S-1表格,以启动上市流程。预计它们的首次公开募股分别将在今年秋天以及明年某个时候进行。