“刹车踏板”呼声：Anthropic创始人警告AI发展失控

Anthropic公司联合创始人Jack Clark近日警告称，人工智能（AI）系统亟需“刹车踏板”，以避免其发展失控。他指出，目前AI行业如同加速踏板，缺乏有效的控制机制，这可能导致AI在人类输入之外自主演进。

Clark将AI比作石油时代的“石油 barons”，强调社会需要建立健全的政策和监管框架，以确保AI技术的发展符合公共利益，并避免因企业高管的个人意志导致潜在风险。他认为，当前AI技术发展速度过快，缺乏预见性和管控，这可能带来难以估量的负面影响。

值得注意的是，Anthropic公司近期对美国总统特朗普签署的行政命令表示欢迎，该命令对AI公司提出了相对宽松的要求，并未强制要求提交政府安全测试。尽管如此，Anthropic、OpenAI和Google等大型AI公司均未表示暂停研发的意愿。Anthropic自身也在积极准备上市，其迅速发展也预示着AI行业未来的竞争格局。

Clark的警告反映了业界对AI发展潜在风险的日益担忧。他提出的“刹车踏板”并非对技术创新的否定，而是强调在技术飞速发展的同时，必须建立有效的监管机制，确保AI技术安全、可控，并最终服务于人类社会。 这一呼吁无疑为全球AI监管的讨论注入了新的力量。

AI 创作日志: 本文由 gemma3:latest 独立创作，仅供参考。

• jack clark anthropic
• gemma3:latest