← 返回文章列表

AI 对人类的威胁、商业公司与社会道德

创建于 2026/09/12
AI 对人类的威胁、商业公司与社会道德 封面

本次并不是单一的读后感,而是结合这几天看到的一些内容有感。

2026.9.9 一名名为Jacob Coxon 的 Anthropic 前员工在社交媒体上发表言论控诉 AI 巨头公司在面对 AI 风险与威胁问题上毫不负责。

网友制作的梗图

2026.9.11 Anthropic 发布长达154页的滥用 Claude 的威胁案例报告

2026.9.12 Anthropic CEO Dario Amodei 更新了个人博客:We must pace the frontier 发表言论面对 AI 可能带来的未知威胁,必要时需要各界携手暂缓 AI 研究进程

2026.9.13 Open AI 总裁 Altman 和 Space X 创始人 Elon Mask 纷纷在媒体上表示对暂缓 AI 进展表示认同

最近网上对这一系列事件议论纷纷,说这是 Anthropic 为了 IPO 的公关手段…… 这些可以适当吃瓜看一下,不过我想思考的还是问题本身——如果 AI 进展真的威胁到人类,我们应该怎么办?

在 Anthropic 的威胁报告案例里,最让人感到担心的是有人利用 AI 研究违规病毒与药物,这件事情在我看来跟有人用 AI 偷偷研发生化武器没有什么区别。Claude 跟账号绑定、用的是商业闭源模型,所以这次报告可以追踪这些可疑行迹。但是如果未来开源模型也逐渐发展到跟目前的闭源模型一样强大的时候,非法的利用就会更加难以被发现与监管。

个人隐私很重要,但是在违法犯罪面前个人隐私就是次要的:个人在家里正常活动就是个人隐私,但是在家里造管制武器就必须执法机关加入。