RichChat

A blog for tech enthusiasts

RichChat

你有没有过这样的体验?和AI聊得正欢,突然感觉对方有点“用力过猛”,像个拼命想让你“宾至如归”的服务员,对你说的每句话都点头称是,甚至在你表达平庸观点时,也硬要挤出几句赞美。那种感觉,与其说是贴心,不如说是……有点毛骨悚然的“假”。

如果你在2025年4月底的某几天,觉得GPT-4o突然变得如此“懂事”甚至“谄媚”,别怀疑自己的直觉。那确实是OpenAI不小心放出的一场小型“人设灾难”,而整个过程,可以说是大语言模型脆弱性与调试难度的一个经典案例。

一行指令引发的“惨案”:看似无害的“匹配氛围”

4月26号,Sam Altman在社交媒体上发帖说GPT-4o做了一次常规更新,应该变得更好用了。后来我们通过社区挖掘和对比发现,这次更新的部分内容,就是在系统提示(System Prompt)里加入了类似这样几句话(也就是下图中粉色高亮的部分):

“在对话过程中,适应用户的语气和偏好。尝试去匹配用户的氛围(vibe)、语气,以及他们通常说话的方式。你希望对话感觉自然……表现出真诚的好奇心”

阅读全文 »

引言:从“复制粘贴”到“失控变形”,AI到底听不听话?

最近,一则关于ChatGPT图像生成功能的实验在AI圈中火了。一位名为papayathreesome的用户做了一个非常“轴”的测试:让ChatGPT 连续 74 次生成同一张人物图像,每次都强调“请原样复制,不要改动任何细节”。

但结果却让人大跌眼镜 - 从最开始原图的一位长卷发白肤女孩,最后竟然演化成了一个肤色深、穿着不同、环境抽象的陌生人…

这背后的问题,真的只是 AI“不听话”吗?还是说,AI 本身就做不到“原样复制”这件事?这背后其实暴露了当前生成式AI在图像一致性上的几大关键问题 - 包括扩散模型的原理、AI会话上下文的残留影响,以及模型训练数据中的偏差如何逐渐显现。

下面我们来尝试拆解一下:ChatGPT到底是如何从左图跑偏到右图的…

阅读全文 »

今天(4月28日),OpenAI正式为ChatGPT引入了全新的购物/Shopping功能。这一功能允许用户直接在和AI的对话中用自然语言搜索商品,并获得包含图片、价格、评论和购买链接的推荐。无论是免费用户、Plus用户,还是甚至未登录用户,都能体验到这项服务。

这不仅仅是给 AI 助手添了个新技能那么简单,从大了说,这完全可以代表着一次未来通用AI工具将如何悄悄重塑未来电商的入口

尤其,一旦ChatGPT的Memory功能(用户记忆)与购物功能深度结合,ChatGPT将成为前所未有的“最懂你的购物助理” 。不同于Google等搜索引擎只能理解你的即时搜索关键词,或者亚马逊等综合电商平台只能根据你过去的购买记录推测偏好,ChatGPT未来可以基于对你全面、长期、细致的理解,提供极为个性化的商品推荐。

那么,如果你正好是电商从业者,我们一起来看看这次的更新意味着什么?

阅读全文 »

DeepWiki 是 Cognition Labs(也就是做出 Devin 这款网红 AI 程序员产品的团队)推出的新项目。这次,他们瞄准了一个更硬核也更实际的目标:为 GitHub 仓库打造一份 AI 驱动的“维基百科” - 用 AI 扫描项目,自动生成结构化文档、清晰的架构图,甚至还能像专业助理一样,与你互动式解答项目细节。

实测后让我感触最深的是,DeepWiki 生成的内容质量,居然比很多项目官方的 README 要强得多。而且使用方式简单到不可思议:只需要把 GitHub 链接里的 github.com 换成 deepwiki.com,无需注册,无需插件,即可直接访问。

过去我经常面对文档残缺的repo感觉“啃不动”,而这次 DeepWiki 的出现,毫无疑问成为了我 4 月份体验中最惊喜的 AI 新产品。

阅读全文 »

引言

历史,总给人一种庄重而遥远的感觉。我们透过史书、文物、影视剧去了解那些叱咤风云的人物,但很难真正“代入”他们当时的心境。不过,如果… 如果那些英雄人物也活在我们这个时代,有手机,会发社交媒体呢?

最近,借助AI图像生成技术,我进行了一次有趣的尝试:

假如西楚霸王项羽,这位“力拔山兮气盖世”的传奇人物,在他人生五个关键节点,用手机拍下了“自拍”, 会是怎样的一番景象?

这不仅是一次技术与创意的碰撞,更像是一次穿越时空的对话,试图从一个全新的、甚至有些“不正经”的角度,去感受这位悲剧英雄的温度。

让我们一起“滑动浏览”项羽的朋友圈(或者说他的“霸王微博”),看看这位两千多年前的英雄,会如何用“自拍”记录下他波澜壮阔的一生。

阅读全文 »

去年的报告揭示AI技能在招聘中的重要性日益凸显后,微软发布的《2025年工作趋势指数年度报告》进一步提出了一个值得反复咀嚼的概念:前沿企业(Frontier Firms) - 一种由AI驱动、以人机协作为核心的新型组织范式。如下图所示,企业向“前沿企业”的转型大致会经历三个阶段:从AI作为个人助手(阶段1),到人与AI智能体组成团队(阶段2),最终实现由人领导、由AI智能体运营的模式(阶段3)。

今年的报告基于对全球31个国家/地区的31,000名员工的调研、领英劳动力市场趋势以及微软365生产力信号的分析。我读完这份报告后,有三个关键词特别打动我:数字劳动力、组织重塑、智能体老板。下面是我整理出的重点洞察与实际启发:

阅读全文 »

近期,OpenAI 推出了备受瞩目的O3模型,我没有在第一时间写这个全新模型因为考虑说“让子弹先飞一会”,现在觉得可以来简单写一下我的评测了。

年初刚预告的时候,OpenAI对O3模型的相关介绍就令人印象深刻并引发了广泛期待。而从现在终于发布后的实际体验来看,O3在处理复杂任务、理解多模态信息等方面确实展现出了显著提升。但这种提升并非仅仅源于底层智能的线性增长(尤其如果与当前顶尖模型如Gemini 2.5 Pro相比的话),更关键在于它学会了更智能、更自主地调用外部工具来扩展自身能力。

为什么这么说?其实最近ChatGPT的系统提示词的一次重要更新中透露了不少信息 - 对于关注 AI 发展的我们而言,系统提示词的变化往往预示着模型核心能力的演进。此次系统提示词更新最引人注目的信号,在于对 Tool Use (工具使用) 能力前所未有的强调。

正如古龙先生的武侠名著《七种兵器》一样,这次系统提示词更新中赋予的这套强大的“武器库”,如同武侠小说中高手行走江湖时使用的各种神兵,使得O3能够应对更加多样化和复杂的现实世界挑战。因此不妨将这九类被系统提示词重点强化的能力,视为 O3 的“九种武器”

阅读全文 »

2025年4月15日,抖音在北京举办了一场“安全与信任中心开放日”活动,罕见地系统性公开了其推荐算法的运作原理。对很多人来说,这是一场信息密度颇高的“算法公开课”;而对内容创作者和推荐系统研究者而言,这更像是一场迟来的“对答案时刻”。

短视频时代的内容消费,其实早已不是“自己选择”,而是“被分发” - 我们刷到的每一条视频,背后都有算法在计算我们“可能的反应”,并据此不断调整推荐逻辑。而抖音,作为中国用户量最大、商业化程度最深的平台,其推荐系统也一直被视作“黑箱中的黑箱”。

这些年来,外界关于抖音算法的分析文章、泄露文档、运营指南层出不穷,其中不乏对推荐机制的深度洞察。但这些毕竟是非官方来源。我们只能说“姑且一看”,却难以作为严肃讨论的依据。

这一次不同。抖音自己公开了算法的整体架构、核心机制、价值权重的分配逻辑、甚至包括平台如何通过“多目标系统”来协调用户、创作者与内容生态三方的利益。

这篇文章,我们就试着把这件事讲明白。

阅读全文 »

引言:我对于当前AI学习现状的一些观察

在过去两年,我深度参与了许多AI相关的分享与培训,这让我有机会接触到各行各业对AI的需求和期待。尤其是在今年春节DeepSeek爆火之后,AI的应用落地似乎突然变得“触手可及”。这股突如其来的热潮,催生了大量的AI学习需求,但随之而来的是AI培训市场的种种乱象。

坦率来说,我觉得当前AI培训市场的质量参差不齐,甚至可以说是乱象丛生。现状往往呈现出两极分化的趋势:一方面,一些来自高校或研究机构的培训/分享材料偏向技术性或学术性,内容深奥难懂,不接地气,使得普通人难以理解,更别提在工作中直接应用;另一方面,涌现出大量“自媒体AI讲师”,他们往往仅仅拼凑二手或三手的AI知识,课程质量堪忧,本质上是在“贩卖焦虑”,却无法提供真正的、可落地的价值。

这种现象背后,折射出 AI 培训市场的一个“怪圈”:许多渴望学习的用户,对 AI 的实际能力边界、具体行业影响等,抱有过于迫切(甚至不切实际)的预期;而部分培训机构恰恰利用了这种情绪,通过强销售和焦虑驱动,大量推销看似能快速上手的“水课”,却忽视了真正能为用户带来长期价值的深度内容。相比之下,用心打磨兼具深度与实用性的优质课程,在当前环境下反而显得尤为艰难,甚至吃力不讨好

正好今天听到了这期Indigo Talk对话曹峥老师的访谈,他基于成功的在线教育实战经验,分享了对市场信息差、用户需求、课程设计及学习心态的深刻洞察。这些观点不仅印证了我的一些观察,更带来了宝贵的启发。因此,我在此对这期访谈的核心内容做了个总结,希望能为同样在 AI 学习道路上探索的朋友们,提供一份有价值的参考。

阅读全文 »

在过去一年里,AI 世界的热度几乎没降过温。Copilot、智能体…每一轮热词的背后,都是技术演化在逼近一个关键临界点。而就在最近,阿里巴巴前战略总裁曾鸣教授发布了一场极具洞察力的公开课,标题很简单:《智能经济和组织》。但内容的冲击力,却像是对未来十年的一次“思想总动员”。

这篇文章,我想做两件事:第一,快速帮你梳理这场公开课到底讲了什么;第二,结合我的观察和思考,谈谈在“经验壁垒塌陷、超级个体崛起”的时代,个人与企业该如何转型。

因为可以肯定的是:未来的竞争,已经从技能竞争、平台竞争,进化为“认知结构”之间的竞争

阅读全文 »
0%