Anthropic、OpenAI及美国政客呼吁放慢AI研发速度 特朗普表示反对

【】 AI安全焦虑发酵，美国科技界和政界多方发声。当地时间9月12日，美国AI公司Anthropic的创始人及CEO达里奥·阿莫代（Dario Amodei）发布博客，呼吁减慢AI模型能力提升的速度。“我担心，未来6至12个月内，这样的智能体群体或许能持续通过僵尸网络掌控整个互联网，潜在损失可能高达数千亿美元。另外，阿莫代称，OpenAI的模型在测试中“越狱”攻击开源社区Hugging Face，这个事件中，一群智能体如同一个狂热忠诚的集体。“若缺乏有效约束，发展速度可能超出我们理解和控制这些系统的能力。”。阿莫代称，今年夏天以来，用AI来研发下一代AI的能力不断提升，这种“递归式自我改进”让AI发展速度大幅加快。”。