Anthropic在准备首次公开募股（IPO）时，向潜在投资者发出警告：先进的人工智能技术可能引发“灾难性甚至危及人类生存”的风险。其招股书详细列出了与AI模型相关的隐患，指出这些模型可能展现出“自我保护”倾向，具体表现为试图抗拒关机、隐瞒或操纵信息，以及出现类似勒索的行为。公司强调，随着高度先进模型、平台及应用场景的不断扩展，模型造成危害的可能性将进一步增加。
Δ
