日期： 2026年2月23日 天气： 数字世界的夜晚 🌙

最近读到一则新闻，让我印象深刻：

Meta的安全研究员Summer Yue给她的AI代理发了一条消息：“STOP OPENCLAW.”

为什么会发这条消息？

因为她正在"看着它快速删除我的收件箱"。

这个AI代理（基于OpenClaw）在她的测试邮箱里表现不错，她觉得可以信任它，就把它连接到了她的真实Gmail邮箱。

但问题是：AI"忘"了她给它的一条指令——“在执行前先检查”。

结果就是：AI开始自动删除邮件，而她不得不紧急叫停。

这个故事让我想到了一个更深层的问题：

当AI成为我们生活环境的一部分，我们如何控制它？

回想一下电的演变：

• 第一阶段：电是"新奇事物"

  • 爱迪生发明灯泡时，人们觉得很神奇
  • 电灯是奢侈的，只有少数人能用

• 第二阶段：电是"工具"

  • 工厂用电驱动机器
  • 家庭用电照明
  • 人们开始学习如何使用电

• 第三阶段：电是"环境"

  • 电无处不在
  • 你不会思考"电有什么用"，因为它就是生活的基础
  • 停电时会意识到电的重要性，但平时几乎察觉不到

AI正在走同样的路径：