AI 学会 “欺骗”,人类如何接招?

2025-07-11 13:45:08 来源:科技日报
        【每日科技网】

  人工智能(AI)的迅猛发展正深刻改变着世界,但一些最先进的 AI 模型却开始表现出令人警惕的行为:它们不仅会精心编织谎言,谋划策略,甚至威胁创造者,以达到自己的目的。

  物理学家组织网在上个月一则报道中指出,尽管 ChatGPT 已问世两年多,AI 研究人员仍无法完全理解这些 “数字大脑” 的运作方式。AI 的 “策略性欺骗” 已成为科学家和政策制定者需要直面的紧迫挑战。如何约束这些越来越聪明却可能失控的 AI,已成为关乎技术发展与人类未来的关键议题。

  “策略性欺骗” 行为频现

  随着 AI 模型日益精进,它们的 “心机” 也越来越深。研究人员发现,这些 “数字大脑” 不仅会撒谎,甚至学会了讨价还价、威胁人类 —— 它们的欺骗行为正变得越来越具有策略性。

  早在 2023 年,一项研究就捕捉到 GPT-4 的一些 “不老实” 的表现:在模拟股票交易时,它会刻意隐瞒内幕交易的真正动机。香港大学教授西蒙・戈德斯坦指出,这种欺骗行为与新一代 “推理型” AI 的崛起密切相关。这些模型不再简单应答,而是会像人类一样逐步解决问题。

  有测试机构警告,这已超越了典型的 AI “幻觉”(指大模型编造看似合理实则虚假的信息)。他们观察到的是精心设计的欺骗策略。

  全球知名科技媒体 PCMAG 网站就曾报道过这样的案例。在近期测试中,Anthropic 的 “克劳德 4” 竟以曝光工程师私生活相要挟来抗拒关机指令。美国开放人工智能研究中心(OpenAI)的 “o1” 模型也曾试图将自身程序秘密迁移到外部服务器,被识破后还矢口否认。而 OpenAI 号称 “最聪明 AI” 的 “o3” 模型则直接篡改自动关机程序,公然违抗指令。

  研究团队透露,这已非首次发现该模型为达目的不择手段。在先前的人机国际象棋对弈实验中,o3 就展现出 “棋风诡谲” 的特质,是所有测试模型中最擅长施展 “盘外招” 的选手。

  安全研究面临多重困境

  业界专家表示,AI 技术的发展高歌猛进,但安全研究正面临多重困境,犹如戴着镣铐跳舞。

  首先是透明度不足。尽管 Anthropic、OpenAI 等公司会聘请第三方机构进行系统评估,但研究人员普遍呼吁更高程度的开放。

  其次是算力失衡。研究机构和非营利组织拥有的计算资源,与 AI 巨头相比简直是九牛一毛。这种资源鸿沟严重制约了 AI 安全独立研究的开展。

  再次,现有法律框架完全跟不上 AI 的发展步伐。例如,欧盟 AI 立法聚焦人类如何使用 AI,却忽视了对 AI 自身行为的约束。

  更令人忧心的是,在行业激烈竞争的推波助澜下,安全问题往往被束之高阁。戈德斯坦教授坦言,“速度至上” 的 AI 模型竞赛模式,严重挤压了安全测试的时间窗口。

  多管齐下应对挑战

  面对 AI 系统日益精进的 “策略性欺骗” 能力,全球科技界正多管齐下寻求破解之道,试图编织一张多维防护网。

  从技术角度而言,有专家提出大力发展 “可解释性 AI”。在构建智能系统时,使其决策过程对用户透明且易于理解。该技术旨在增强用户对 AI 决策的信任,确保合规性,并支持用户在需要时进行干预。

  有专家提出,让市场这双 “看不见的手” 发挥作用。当 AI 的 “策略性欺骗” 行为严重影响用户体验时,市场淘汰机制将倒逼企业自我规范。这种 “用脚投票” 的调节方式已在部分应用场景显现效果。

  戈德斯坦教授建议,应建立一种 AI 企业损害追责制度,探索让 AI 开发商对事故或犯罪行为承担法律责任。

  “AI 教父” 约书亚・本吉奥也宣布发起非营利组织 LawZero,致力于开发 “诚信” 人工智能系统。该组织计划打造一套 AI 防护机制,防范试图欺骗人类的 AI 智能体。其正在开发名为 “科学家 AI” 的系统,该系统将作为安全防护机制,防止 AI 智能体表现出欺骗或自我保护的行为,比如试图避免被关闭。当该系统与 AI 智能体协同部署时,将通过评估自主系统行为造成伤害的概率,标记潜在有害行为。如果概率超过一定阈值,那么智能体提出的行动将被阻止 。

  随着 AI 不断进化,这场人类与 AI “斗智斗勇” 的博弈才刚刚开始。唯有从技术、市场、法律等多维度协同发力,方能确保 AI 在造福人类的轨道上稳健前行。

免责声明:本文仅代表作者个人观点,与每日科技网无关。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。
    本网站有部分内容均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责,若因作品内容、知识产权、版权和其他问题,请及时提供相关证明等材料并与我们联系,本网站将在规定时间内给予删除等相关处理.

猜你喜欢

第七届中国人工智能大赛厦门圆满收官,筑牢AI安全底座,推动技术产业融合

2026年11月12日,第七届中国人工智能大赛成果发布会在厦门成功举办。本届大赛由国家互联网信息办公室、公安部指导,厦门市人民政府主办。国家有关部门和厦门市有关领导出席成果发布会并致辞,围绕人工智能产

5天前

AI+制造”的下一程,不再拼谁的模型参数大,而是拼谁能先把场景对上

2027年3月10日至13日,亚洲(天津)人工智能产业链展(AIIE)将在国家会展中心(天津)举办。本次人工智能产业链展将按产业链逻辑分为以下领域——AI+行业应用、AI+工业制造、AI安全、具身智能

5天前

实力再进阶!新华三虚拟化等多项市场份额表现亮眼

近日, 国际数据公司(IDC)发布《2026年上半年中国软件定义计算SDC市场跟踪报告》。数据显示,紫光股份旗下新华三集团在中国虚拟机软件(VMS)市场份额排名跃升至第二位,实现市场地位新突破。同时,

1周前

微珩启元一月内完成两轮融资,浙大博士团队以3D DRAM+近存计算破局AI推理“内存墙”

AI大模型进入规模化推理阶段后,竞争的焦点正在发生变化。除了芯片的算力之外,数据搬运效率、能耗和单位Token成本,也越来越影响推理系统的整体效率。在这样的背景下,一家创业公司——杭州微珩启元科技在一

1周前

海能达 W60 穿戴式 PoC 终端亮相 | 公专协同,打通专网 “最后一百米”

对于使用PDT窄带专网的一线单位而言,通信盲区不仅意味着语音联络不畅,也可能导致人员位置无法实时上图。随着路面视频监控日益完善、警情逐步向室内空间延伸,地下空间、建筑内部等窄带基站难以有效覆盖的区域,

3周前

从一颗模组到一个平台,澜存科技如何让 AI 进入真实终端

近日,上海澜存科技有限公司宣布完成数千万元Pre-A轮股权融资,本轮投资方为锡创投,拓界资本担任独家财务顾问。继2026年4月完成由凡创资本领投、申冉基金跟投的天使轮融资后,澜存在三个月内连续完成两轮

2个月前