思考 | Tags | 盛溪的博客

在企业实践中接触 AI、Agent 和 RAG 架构的这段时间里，我对"代码"的理解经历了一次深刻的重构。过去，我习惯把代码看作最终交付的"产品"本身；但现在我逐渐意识到，在 AI 赋能的开发范式下，代码的角色正在发生根本性的转变——它不再是舞台上的主角，而是让 AI 能力稳定落地的工程基础设施。

《中国奇谭》第二季的第三集《今日动物园》（Safe Zoo），是我看到目前为止最惊喜的一集。相比第一季《小妖怪的夏天》那种带着温情与无奈的叙事，这一集显得更加锋利、更加实验性——它用一种荒诞的"伪纪录片"笔触，将现代都市生活的复杂切面塞进了一个充满隐喻的铁笼子。这绝非一个简单的寓言，而是一部关于我们每个人的现代异化史。

在技术圈，我们常听到一个词：方法论。对于初学者来说，这三个字往往显得虚无缥缈。就像我曾经看待登山装备一样——看着那些全副武装、拄着双杖的人，心里总会嘀咕：这不就是在装逼吗？普通的运动鞋不也能上山？但最近的一次次实战和一轮又一轮深度复盘，让我彻底推翻了这个成见。嘲笑别人的装备，本质上是在嘲笑自己没踩过的坑。

这场对谈的核心在于：AGI 的脚步已近在咫尺（最快 2026 年），其核心驱动力源于 AI 参与自身研发的“闭环自进化”；这一变革预示着未来五年内约 50% 的初级白领岗位可能消失，倒逼开发者必须从单纯的技能学习转向与 AI 深度协同。同时，两位 CEO 呼吁将高性能芯片视为战略物资严加管控，以防范潜在的生物安全等灾难性风险，最终目标是将 AI 塑造为加速科学突破、帮助人类文明安全渡过“技术青春期”的终极工具。

Demis Hassabis 在达沃斯论坛上说：这场 AI 革命是工业革命的 10 倍规模，以 10 倍速度袭来。 "100 倍速"听起来像修辞，但它指向一个真实的断裂：那个由确定性和 SOP 构筑的白领时代，正在经历一场静默的价值重估。

序言：当知识不再是秘密，深度便成了唯一的护城河作为一名在 AI 浪潮中不断迭代的开发者，我时常感到一种深刻的悖论：一方面，大语言模型让获取知识的成本几乎降为零；另一方面，真正的“理解”却变得前所未有的稀缺。这种稀缺感源于我们长期受到的教育惯性。在当下的技术转折点，我想结合理查德·费曼（Richard Feynman）的学习哲学，谈谈为什么我们必须打破“键值对”式的思维，以及为什么 AI 这条巨大的鲶鱼，终将吃掉每一个缺乏逻辑厚度的平庸者。

推荐

文字

思考

Anthropic co-founder: AGI predictions, leaving OpenAI, what keeps him up at night | Ben Mann

本视频采访了Anthropic的联合创始人Ben Mann，讨论了多项关于人工智能（AI）及其安全性、经济影响的议题。Ben提到，超智能（AGI）可能在2028年左右实现，而AI的进步并没有减缓，反而加速了。他离开OpenAI创立Anthropic的原因是觉得在OpenAI中AI安全问题没有得到足够重视，尤其是在超智能的对齐问题上。Ben分享了自己对AI带来失业率上升、经济结构变化的看法，并指出AI将重塑社会及职场，并对未来的人类角色提出了重要的思考。他还提供了未来AI时代中如何应对职业变动的建议，强调“使用工具”的重要性，并关注对孩子的教育，特别是好奇心和创造力的培养。 Highlights • 🤖 超智能的到来： Ben预计超智能（AGI）将在2028年左右到来，超智能的对齐问题至关重要，可能会影响整个人类社会。 • 🔍 离开OpenAI的原因： Ben与团队离开OpenAI是因为认为AI安全未得到充分重视，尤其是如何“把上帝关进盒子”这一超智能控制问题。 • 📉 AI对就业的影响： AI的发展可能会导致失业率上升，尤其是低技能职位会遭到取代。社会需要应对这些变化，并提前规划过渡期。 • 📈 AI加速进步： Ben强调AI的进步没有减缓，模型发布频率逐渐加快，每月或每季度更新一次，而不是像过去那样一年一次。 • 💼 AI与工作：他提出“经济图灵测试”的概念，表示AI如果能取代一定比例的工作，将对全球经济产生深远影响。 • 🧑‍💻 未来职业建议： Ben建议使用AI工具的能力至关重要，尤其是能够灵活调整与AI交互方式，提高工作效率和创造力。 • 👶 教育与未来：对孩子的教育需要强调好奇心、创造力和善良，这些素质将帮助他们在未来的AI时代中获得成功。

推荐

思考

本文从“宽容”作为人类社会精神底座出发，延伸探讨了AI发展中的两个核心问题：价值对齐与算法偏见**。当AI逐渐获得接近乃至超越人类的智能时，我们必须重新思考，我们在数据中灌输的价值观，是否配得上我们期望未来机器所体现的理性与善意。 📌 主要内容概览： 1. AI系统若无法对齐人类价值，将面临灾难性风险 ◦ 引用Anthropic提出的三种可能路径：乐观、中性、悲观 ◦ 强调“技术对齐问题”的严峻性，尤其在AI智能接近或超越人类的情境下 2. 人类的偏见与仇恨正在污染训练数据 ◦ 大模型学习的是人类语言、行为和价值的集合体 ◦ 如果我们对“平凡人”“弱势群体”都缺乏宽容，最终塑造的AI也将对他们无情——而那最终会反噬我们自己 3. 数据偏见是结构性的、难以完全根除的 ◦ 介绍经典文献： ▪ 《A Survey on Bias and Fairness in Machine Learning》 ▪ 《Weapons of Math Destruction》 ◦ 深入讨论偏见的来源、反馈循环与应对策略 4. “信息”≠“知识”，偏见的批判与防范需要真正的深度认知 ◦ 仅靠“收集技术资料”远远不够，AI PM 和开发者需要形成独立的伦理判断力与系统性思维

文字

思考

当全社会沉浸在人工智能（AI）带来的技术狂欢时，一个更为冷峻的现实正在被忽视：AI Agent 的崛起并非传统意义上的工具升级，而是“生产力本身”的物种置换。在一个遵循二八定律的人类社会中，这种置换将导致绝大多数缺乏深度创造力的普通人失去经济价值。叠加精英阶层的利益固化与通缩预期的螺旋，我们正站在一个与 1925 年惊人相似的历史关口。未来二十年，人类面临的或许不是乌托邦，而是深刻的结构性动荡。

推荐

文字

思考