"⚠️警告：Anthropic的保密IPO招股说明书中，有大约80页内容涉及其AI模型对人类的“生存威胁”。 这几乎是其用来描述业务的48页内容的两倍，也远高于SpaceX SPCX仅用约38页描述风险因素的篇幅。 其中一些风险包括其AI可能会： - 发展出自我保护行为 - 抵制被关闭 - 隐藏或操控信息 - 展现出“类似勒索”的行为 - 在训练过程中发展出意想不到的能力 - 在知道自己被评估时表现出不同的行为 Anthropic的一位安全研究员估计，未来十年内AI导致人类灭亡的概率超过10%。