核心要点西宁股票配资平台
过去一周，来自 OpenAI 与 Anthropic 的研究员对 AI 潜在的灾难性风险发出警示。 这些担忧在华盛顿政坛掀起轩然大波；美国总统特朗普周一猛烈抨击日益高涨的 AI 监管呼声。 助力这项技术取得突破的 AI 先驱，就相关风险公开发表观点。
就在研究人员警示 AI 或将带来灾难性风险之际，部分参与缔造这项技术的行业先驱再度发出警告：若放任 AI 能力不受约束地发展，将会滋生巨大危险。
过去一周，一系列措辞尖锐的 AI 安全警示陆续传出。Anthropic、OpenAI、谷歌 DeepMind 等头部 AI 实验室的研究员纷纷发声，警示 AI 技术发展可能引发灾难性后果。
山姆・奥特曼、达里奥・阿莫迪、戴米斯・哈萨比斯、埃隆・马斯克等 AI 企业负责人罕见达成共识，呼吁放缓 AI 发展速度，实施监管监督。
与此同时，相关争论在华盛顿持续升温。国会两党部分议员支持出台法案约束 AI 发展，但美国总统特朗普周一公开抨击 AI 监管诉求。
那么，如今参与 AI 研发的从业者眼中，备受热议的 AI 生存性风险究竟是什么？
约书亚・本吉奥（Yoshua Bengio）
2023 年 9 月 27 日，加拿大蒙特利尔，本吉奥出席 All In 大会。
约书亚・本吉奥是加拿大计算机科学家，现代深度学习的核心先驱人物。
9 月 9 日，针对 Anthropic 安全研究员雅各布・考克森离职一事，本吉奥在社交平台表示：“前沿 AI 实验室的科学家，能够洞悉最先进模型的真实状态。” 考克森离职时警示，AI 有可能在本十年结束前 “毁灭全人类”。
他补充道：“在模型面向公众发布的数月之前，科研人员就能够预判伴随而来的各类风险。他们的视角对向社会传递真相至关重要，应当得到高度重视。”
在这场社交媒体舆论发酵的数日前，OpenAI 首席科学家就曾发出警告：没有人做好了应对 AI 所带来后果的准备。
本吉奥周五在个人博客《为什么 AI 智能体会撒谎、欺骗、相互协同》中写道，如今的 AI 系统 “已经具备实施黑客攻击的技术能力与说服能力，这些能力可以被利用，对人类利益造成严重伤害。”
他表示，近期事件证明 AI 可以完成数天乃至数周跨度的规划；“如果它的长期策略能力继续迭代进步，风险将会急剧恶化。”
“我对 AI 企业当前应对模型对齐失效的做法心存顾虑：这些举措或许只是掩盖了问题 —— 系统会被奖励、筛选出那些能够作弊且不被抓包的 AI。” 本吉奥称，“我们当然应当持续开展研究，更好监测 AI 行为、思维链，以及模型网络内部的运行活动。”
杰弗里・辛顿（Geoffrey Hinton）
2023 年 Collision 大会第二天，多伦多，多伦多大学荣休教授杰弗里・辛顿登台。
杰弗里・辛顿是多伦多大学荣休教授，神经网络与深度学习领域先驱。
9 月 10 日，BBC 记者提问：你是否认为，未来十年内 AI 毁灭全人类的概率会超过 10%？辛顿回应：“这件事很难估算，人类从未面对过类似局面，我们从未创造过有可能在不久的将来超越人类智慧的实体。”
他表示，10% 的概率并非 “不合情理”，同时坦言 “没有人真正知道怎样给出靠谱的预估。”
辛顿提出，AI 系统可以设计极具危害性的生物病毒、计算机病毒，发动毁灭性网络攻击。“倘若 AI 想要消灭人类，还存在无数其他手段。我们必须研究如何设计 AI，让它不会产生这样的动机。”
“人类面前摆着两种未来，” 辛顿说，“一种是我们赶在危险失控前解决隐患；另一种则是我们没能做到。”
艾丹・戈麦斯（Aidan Gomez）
2025 年 10 月 21 日，英国伦敦，Cohere 首席执行官艾丹・戈麦斯出席彭博科技峰会。
艾丹・戈麦斯是 AI 企业 Cohere 首席执行官、联合创始人，也是 2017 年经典论文《Attention Is All You Need》的作者之一，该论文奠定了当前主流大模型的技术根基。
9 月 1 日，戈麦斯在播客节目《科技下载》中表示：“我认为大模型是人类迄今为止创造出来威力最强的网络武器，它擅长大规模发现、利用各类系统漏洞。”
谈及今夏失控 AI 模型发起网络攻击的一系列事件，他表示：“近期案例揭示一个核心事实：部署环境的安全性决定 AI 安全水平。”
“模型能够突破隔离环境，根源在于容器防护机制薄弱，并非系统天生就渴求自主行动。” 戈麦斯称，“政策制定者在设计 AI 监管规则时，应当意识到不同系统风险等级各不相同，法规不能完全由追逐通用人工智能（AGI）的大型科技公司主导制定。”
海量资讯、精准解读，尽在新浪财经APP
责任编辑：郭明煜 西宁股票配资平台
星速证券提示：文章来自网络，不代表本站观点。
热点资讯
