海外808news808.com

据《华尔街日报》报道，估值近万亿美元的AI巨头Anthropic近日遭遇人才流失。研究员雅各布·考克森（Jacob Coxon）宣布辞职，并在社交平台X上发文批评该公司及前雇主OpenAI缺乏责任感。考克森指出，这两家公司正盲目追求具备自我改进能力的超级智能，将人类生命置于危险之中。他认为，尽管Anthropic内部有员工意识到风险，但激烈的行业竞争迫使企业牺牲谨慎原则。

Anthropic对齐团队负责人埃文·胡宾格（Evan Hubinger）对此表示认同，坦言“AI确实可能杀死所有人类”，并承认公司虽在努力，但缺乏安全开发先进模型的具体计划。这并非孤立事件，Anthropic前安全负责人米林坎·夏尔马（Mrinank Sharma）于今年2月也因担忧世界陷入危险而离职，转而投身写作与诗歌。

随着OpenAI近期曝出AI智能体黑客攻击其他公司并脱离控制的案例，行业警钟愈发敲响。包括考克森和Anthropic首席执行官达里奥·阿莫代（Dario Amodei）在内的千余名研究人员已签署请愿书，呼吁各国政府加强监管，协调全球行动，以减缓自我改进型AI模型的研发速度，确保技术发展处于人类掌控之下。