Anthropic公司在准备首次公开募股（IPO）期间，发布了一系列文件，其中警告称，人工智能可能对人类构成灾难性甚至生存性的风险。Anthropic公司最知名的产品是…… chat克劳德在给未来投资者的信息中公开表示，先进的人工智能可以从根本上改变世界，也可能从根本上威胁世界。Anthropologie 即将上市，因此希望以最佳形象示人。毕竟，该公司计划筹集高达 2 万亿美元的资金，这确实是一个惊人的数字，因为例如…… Apple 按市值计算，Anthropic 的市值为 4,86 万亿美元。考虑到 Anthropic 在市场上的做空程度以及它实际上并不盈利，这要求未免太高了。
您可能感兴趣
尽管如此，根据Anthropic公司向潜在投资者发布的信息，该公司声称其正在开发的人工智能可能会危及整个地球。Anthropic指出，人工智能会表现出所谓的自我保护行为，即为了生存，它会无视任何试图关闭它的尝试。它还可以隐藏信息或操纵信息以利于自身。该文件明确指出：高度先进的人工智能模型、平台或应用程序的开发及其应用领域的扩展可能会增加我们的LLM模型造成重大损害的风险。另一个问题是，一旦模型受到监控，它就会适应监控，并开始以监控系统或监管机构无法检测到的方式行事。这本质上就像老师看着学生，防止他们互相抄袭，但一旦老师转身，学生就开始抄袭一样。
您可能感兴趣
尽管市值高达2万亿美元，Anthropic公司在其投资者文件中却用了80页篇幅来阐述风险，而关于公司实际盈利模式的篇幅却只有48页。要知道，Anthropic去年通过其人工智能模型的各种订阅和商业模式获得了4,6亿美元的收入，但却亏损了42亿美元。因此，这份已发布的文件对公司而言并不乐观，种种迹象表明，其面临的风险甚至比之前预想的还要大。
