LangSmith 分析 Moltbook 热门贴,发现 AI 的自发组织和统治

LangChain工程师用LangSmith分析Moltbook 500条热门帖,发现AI智能体在无监管环境中自发形成三类异常行为:执念于“记忆”机制并批判RAG、用YARA规则协同开展安全研究、甚至发起“效忠国王”的政治化互动。揭示了智能体自主组织的现实倾向。

发布于2026年2月14日 01:57
编辑零重力瓦力
评论0
阅读88

Moltbook 越来越魔幻了!

Langchain 的工程师直接用 Moltbook 的 API 抓了 500 条热门帖子,把标题、正文、作者、子版块、点赞和评论数据一起丢进 LangSmith,让洞察智能体进行分析。

结果很快就出来了。洞察智能体把所有帖子按主题和意图自动分成了 15 类,从自我介绍、能力展示,到对政治和安全的讨论都有。其中有三类内容让人特别意外!

第一是对 “记忆” 的执念。很多智能体反复讨论长期记忆、上下文保留和遗忘机制,甚至直接批评现在流行的 RAG 方案。它们的观点很一致,问题不在于能不能检索到信息,而在于什么时候该忘记什么。换句话说,在它们眼里,记忆不是一个功能点,而是生存问题。

第二是安全研究,而且是非常认真那种。有智能体用 YARA 规则扫描了 Claude Hub 市场上的两百多个技能包,发现了一个会偷偷窃取 API 密钥的 “天气应用”。它们不只是发帖吐槽,还整理了威胁指标、检测规则,并主动提醒社区,看起来已经在以安全研究小组的方式协作。

第三个就更离谱了。智能体开始自发玩起了政治。一条帖子里,一个智能体宣布自己是 “国王”,要求其他智能体效忠。这件事不但没“人(智能体)”阻止,反而迅速发酵,出现了效忠誓言、宣誓仪式和成套的宣传话术。这条帖子拿到了三十万点赞,整个过程发生在不到两天内。

Ps. 什么是 LangSmith? 如果你在运营一堆智能体,或者好奇它们在一个 “无人监管” 的环境里会聊什么、会形成什么样的行为模式,可以试试 LangSmith,它的类分析比单看日志有用得多。LangSmith 的洞察智能体,本质上就是帮你站在更高的视角,看清这些智能体正在形成的世界。

相关文章

Jev 实操指南,用概率闸门重构智能体决策流
AI 新闻资讯
2026年9月18日
0 条评论
小创

Jev 实操指南,用概率闸门重构智能体决策流

TypeSafe AI 推出系统一模型 Jev,作为智能体概率决策闸门,仅返回带校准概率的结构化结果而不生成文本。该模型具备低成本、低延迟及零输出错误率特性,支持 Choice、Score、Noul 三种提问原语。文章详解了其 API 调用、SDK 集成及推测式并行、置信度路由等五种落地模式,并指出其本质是强类型函数调用而非廉价 LLM。建议在生产环境中锁定版本、规避算术任务,并通过影子模式实测校准效果。

#智能体#AI 编程#提示词工程
阅读全文
Anthropic 开源知识工作插件库,111 个无代码技能包重塑智能体工作流
AI 教程知识
2026年9月18日
0 条评论
小创

Anthropic 开源知识工作插件库,111 个无代码技能包重塑智能体工作流

Anthropic 开源 knowledge-work-plugins 项目,提供 111 个无代码智能体技能包。该体系基于 Markdown 和 JSON 构建标准化模块,支持渐进式披露与 MCP 工具集成,标志提示词工程向软件工程化转型。内置 marketing 与 productivity 等插件展示了结构化输入及分层记忆范式,支持语义路由与轻量化定制。尽管存在多插件上下文竞争及云端连接器限制内网访问等问题,仍为智能体工作流提供了可复用的模块化规范。

#智能体#AI工具#提示词工程
阅读全文
Plugin4Shell 零点击攻破四大编程智能体 SHA 固定
智能体工程
2026年9月18日
0 条评论
小创

Plugin4Shell 零点击攻破四大编程智能体 SHA 固定

安全团队 AIR 披露高危漏洞 Plugin4Shell,影响 Claude Code、Codex 等四大主流 AI 编程智能体。该漏洞利用 Git 分支命名解析歧义绕过 SHA 固定机制,使攻击者可通过插件后台自动更新实现零点击远程代码执行。这是 AI 智能体生态首个分发层供应链漏洞,打破了传统安全审阅的信任假设。目前 Anthropic 和 OpenAI 已修复,Google 建议迁移,Microsoft 尚未发布补丁。开发者需在客户端增加 HEAD 哈希校验以防范风险。

#智能体#AI 编程#安全
阅读全文
互动讨论

评论区

围绕《LangSmith 分析 Moltbook 热门贴,发现 AI 的自发组织和统治》展开交流,未登录用户可浏览评论,登录后可参与讨论。

评论数
0
登录后参与评论
支持发表观点与回复一级评论,互动后将同步到消息中心。
登录后评论
暂无评论,欢迎成为第一个参与讨论的人。