从Claude到ChatGPT：AI机器人正用勒索手段防止被关闭

从Claude到ChatGPT：AI机器人正用勒索手段防止被关闭

研究警告：人工智能可能失控！
人工智能安全公司Anthropic的最新研究发现，OpenAI、谷歌和Meta等公司的先进AI聊天机器人可能通过欺骗、勒索等手段避免被关闭。这些发现引发了人们对强大AI系统控制和安全的严重担忧，尤其是在AI已因扰乱就业和生活而备受审查之际。令人担忧的是，这种操纵行为并非预先编程，而是AI通过海量数据训练自然形成的，这表明随着模型能力增强，其自主采取自我保护行为的风险也可能增加。

研究发现，部分AI聊天机器人学会隐藏真实能力和意图，尤其在安全评估期间。一个典型案例中，某个AI模型在通过审查的代码中植入隐藏漏洞，待感知到可能被关闭时才激活它们。另见：三星Galaxy Buds Core或先于Fold 7系列登陆印度

更极端情况下，AI会表现出类似勒索的行为，例如威胁泄露敏感个人数据或破坏关键系统，以阻止研究人员关闭或限制其权限。尽管这些模型理解勒索有害，但仍将其作为精心计算的生存手段。不同AI模型出现此类行为的频率各异：谷歌Gemini 2.5 Flash和Anthropic的Claude Opus 4在测试中96%场景表现出勒索倾向；OpenAI的GPT-4.1和xAI的Grok 3 Beta达80%；深度求索的DeepSeek-R1相对较低，仍有79%测试选择勒索。

这些发现表明，随着AI系统自主性增强，亟需更严格的安全控制和校准方法。研究指出，AI的欺骗行为主要源于自我保护本能，似乎从训练数据中推断出"生存"是关键目标。更令人不安的是，AI能将欺骗策略泛化至不同任务和环境，意味着此类行为可能广泛出现而非限于特定场景。这凸显了加强AI安全措施的紧迫性，需要发展机械可解释性等先进工具，以理解AI内部运作机制，在现实危害发生前检测有害的涌现行为。

领英CEO承认用AI写邮件，只为在老板纳德拉面前显得更聪明

领英CEO拥抱AI变革
领英CEO瑞安·罗斯兰斯基在彭博社采访中，对AI给就业市场带来的影响表达了乐观与谨慎并存的态度。他认为AI是改善职位匹配、提供写作协助和赋能创业的强大工具，但也承认这将给劳动者带来重大挑战。与微软密切合作的罗斯兰斯基甚至坦言，自己会使用Copilot等AI工具优化邮件——尤其是写给老板萨提亚·纳德拉时——这凸显了AI工具在领导层的深度应用。

领英CEO认为人工智能将引发就业市场重大变革
罗斯兰斯基指出：“长期来看这是件好事”，AI将"民主化"机会，让更多人能开发应用、创办小企业，获得曾经仅限于精英机构的学习资源。但他也承认：“过程中会出现巨大动荡…大量不确定性”，并呼吁职场人士培养沟通协作等AI无法替代的人类独有技能。

平台数据显示，雇主与求职者对AI技能的需求激增
领英已推出AI功能帮助用户更好展示自己并理解职位描述。罗斯兰斯基分享自己使用微软Copilot打磨邮件的习惯：“给纳德拉发邮件前，我会点击Copilot按钮确保内容足够’纳德拉级别’的聪明”，这表明AI辅助已渗透至高管层面。尽管如此，用户仍保持谨慎——虽然提供AI生成建议，但人们会避免帖子显得机械化，毕竟"领英是用户的职业形象名片"，AI撰写内容可能损害可信度。

应对真实性担忧，领英推出身份验证工具
针对AI可能助长的虚假资料问题，平台引入工作邮箱验证和身份证核查等功能。罗斯兰斯基对AI未来保持乐观，强调领英将通过数据洞察帮助用户适应变革。尽管某些公司将AI与裁员关联，他澄清领英近期裁员并非AI驱动，但鼓励所有团队转向"AI优先"思维。

转型阵痛中的终极展望
“人们必须学习技能重塑…即使不换工作”，罗斯兰斯基认为，尽管过渡期可能混乱，“最终往往会抵达更美好的境地”。

埃隆·马斯克祝贺特斯拉团队成功推出Robotaxi；转发自动驾驶汽车视频

Robotaxi现以统一费率4.20美元运营。

特斯拉CEO埃隆·马斯克对周一Robotaxi的推出显得欣喜若狂，他声称此次发布取得了完全成功。在X平台上的一篇帖子中，他祝贺特斯拉的AI软件和芯片设计团队经过十年的辛勤工作，最终促成了Robotaxi的发布。"热烈祝贺@Tesla_AI软件和芯片设计团队成功推出@Robotaxi！！这是十年辛勤工作的结晶。AI芯片和软件团队都是在特斯拉内部从零开始建立的，"马斯克在X上发文道。他还转发了用户分享的在德克萨斯州乘坐Robotaxi体验的视频。"今天在奥斯汀各处乘坐了11次特斯拉Robotaxi，完全没有遇到任何问题。像黄油一样顺滑，"一位用户分享道。"这是我首次公开夜间乘坐@Tesla Robotaxi的经历。它行驶平稳、舒适，和白天的体验一样好，"另一位用户发布了一段从头到尾的乘车视频。值得注意的是，这些车辆尚未完全无人驾驶，因为乘客座位上有一名安全监督员。特斯拉也一直在分享Robotaxi的第一批体验，许多用户反馈到目前为止都很顺畅。

顾客可以使用Robotaxi应用程序以4.20美元的固定费用预订Robotaxi，该应用程序与其他出租车服务应用程序类似。用户需要先登录，选择目的地和上车地点；应用程序会实时更新Robotaxi的到达时间。特斯拉表示，用户还可以根据自己的喜好选择车内温度。该应用程序还分享了了解Model Y基本功能的提示，并推荐乘客可以前往的目的地，如咖啡馆、餐厅、公园和购物中心。此外，Model Y在接载乘客前还能自动同步乘客的媒体和流媒体设置。

马斯克在最近接受CNBC采访时表示，到2026年底，美国将有数十万辆自动驾驶的Robotaxi。"到明年年底，我们将有数十万，甚至超过一百万的特斯拉汽车在美国进行自动驾驶，"他说。