商业 AI：它能（和不能）做什么

目前商业 AI 领域增长最快的说辞是我们每周都会听到的：一位创始人打算跳过与软件供应商的全部沟通，直接让 AI 在一个周末内构建好他们的 POS 系统。这种说辞听起来很合理。你描述你想要什么，模型编写代码，你周一开张营业。人们正在通过这种方式做出真正令人瞩目的成果：落地页、内部仪表板、移动应用的雏形。

然后，他们尝试进行一次真实的付款，周末就变成了一个季度（明白这个双关语了吗？）。

这并不是对 AI 的警告。我们一直在使用它，而理解它真正擅长什么的商家正在超越那些不理解的商家。但目前在商业领域正上演着一种特定的失败模式，理解它为什么会发生是很有价值的，而不仅仅是知道它发生了。

关于时间的一点说明：本文写于2026年7月，当时 Claude Opus 4.8、Gemini 3.5 Flash 和 GPT-5.5 是大多数人正在使用的模型。这一阵容很快就会显得过时。这些工具月复一月地发生变化，今天真实存在的局限性在你阅读本文时可能已经被解决，同时又会出现没人指出过的新奇特特性。请将下面的具体内容视为一个快照，并养成检查你实际运行的任何模型的当前能力和已知弱点的习惯。

这些模型究竟是如何工作的

大型语言模型是一个预测引擎。它阅读了大量的文本 and 代码，其核心只做好了一件事：根据目前写好的所有内容，估算下一个最可能出现的文本块。仅此而已。它没有可以查找内容的数据库，也没有可以核对真实事实的内部账本。它产生最合理的后续内容。

这种设计正是它在某些任务中让人感觉神奇的原因。编写产品描述、起草电子邮件、生成渲染整齐按钮网格的 React 组件：这些都是模式补全问题，模型已经看过数百万个示例。输出看起来正确，因为从统计学上讲，它就是正确的。

当“最合理”和“实际正确”不再是一回事时，麻烦就来了。

幻觉，plainly

当模型生成一些听起来很自信但完全错误的内容时，业界称之为幻觉。这个词听起来像是一个小故障。其实不然。这是系统按设计运行、在合理与真实发生分歧的情况下产生合理文本的结果。

向模型询问退还部分费用的 API 方法，如果它没有看过完全一致的当前文档，它不会说“我不知道”。这不是一个可能的后续内容。相反，它会发明一个看起来和真实方法一模一样的方法名，带有正确的命名规范和合理的参数。它读起来很有权威性。但在客户要求退款的那一刻，它会默默地失败。

这在商业中比在几乎任何其他地方都更重要，因为出现细微错误的代价是资金流动不正确。幻觉生成的博客引言令人尴尬。而幻觉生成的税务计算、退款流程或库存扣减则是拒付、审计或向客户重复收费。

为什么构建商业系统比看起来更难

当有人说“帮我建一个 POS”或“帮我建一个店铺”时，他们通常脑海中浮现的是屏幕：产品网格、购物车、结账按钮。AI 可以快速生成该屏幕，而且看起来很专业。

但屏幕只是简单的 10%。让它成为一个商业系统而不是一张系统图片的，是它背后的所有东西，而几乎所有这些都是状态和集成，而不是布局：

支付。收钱涉及支付处理器、商户账户、PCI 合规性、令牌化卡片处理，以及一打边缘情况，如拒卡、部分扣款、退款、争议和货币转换。模型可以编写看起来像是在调用支付 API 的代码。该代码是否安全、合规并正确处理了失败情况则是完全不同的问题，而这才是关键问题。

库存。库存不是页面上的一个数字；它是一个在两个客户同时结账最后一件商品、退货进来、手动盘点调整时，必须保持正确的数字。并发处理不当，你就会超卖。模型在处理这种状态化、易发生竞态条件的逻辑时极其薄弱，正是因为这里的正确性取决于模型从未见过的运行时行为。

订单历史与对账。每笔交易都必须记录一次，且不可更改，并与处理器所说的实际发生情况进行对账。这是枯燥、平淡的记账逻辑，也是让你免受会计和税务机关麻烦的部分。

税务。税率因司法管辖区、产品类别、客户所在地而异，并且会发生变化。一个看起来合理的税务函数比没有税务函数更糟糕，因为它会以你在申报前都不会注意到的方式出错。

这些都不是布局问题。它们是长期正确性的问题，而“生成最合理的代码”在结构上是保证长期正确性的错误工具。

AI 真正赢得一席之地的地方

我们并不是让你让 AI 远离你的业务。相反。小店日常需要完成的大部分工作都恰好落在 AI 具有真正优势的区域，如果你不将它用于这些工作，你就会比竞争对手工作得更辛苦。

让某项工作成为合适选择的模式是：一份自信的初稿能为你节省真实的时间，并且你可以看着结果判断它是否好用。营销和内容工作几乎完美契合这一点。

生成广告图片。你可以在几分钟内制作出广告视觉效果、产品效果图和社交媒体图形，而无需支付拍摄费用或购买库存图片订阅。对于季节性促销或对两个创意素材进行快速 A/B 测试，这确实非常有用，且成本接近于零。

撰写社交媒体帖子和文案。输入你的产品和你的语气，它起草一周帖子比你写一个帖子还要快。你仍然是编辑，但空白页面的问题消失了。

Coming up with ad and newsletter ideas. 这也是它大放异彩的地方。让它为返校季活动提供二十个角度，大多数会很平庸，但会有两三个值得采用，而你自己永远无法独自头脑风暴出全部二十个。

Talking through decisions. 将其作为一般商业问题的意见听取板，例如如何构建忠诚度优惠或下一步测试什么。把它当作一个偶尔会自信地犯错的敏锐同事，而不是神谕，它会是一个有用的思考伙伴。

除了这些之外，还有一些不那么显眼的收获：总结评论和支持工单以便你发现规律，起草自动化流程的第一版供人工验证，以及解答关于你已使用工具的“如何做”问题。

区分优秀输出与明显 AI 垃圾内容的两个注意事项

第一，AI 生成的视觉效果存在同质化问题。默认的外观，那些光滑、略显过于完美的渐变海报，现在非常普遍，以至于客户能立即认出来，并显得廉价。如果你使用生成的图像，请突破第一层结果：改变风格，输入你自己的品牌颜色和产品照片，像对待起点而不是成品一样对其进行裁剪和编辑。一张看起来和所有其他 AI 海报一模一样的海报对你起到的作用还不如没有海报。

第二，在发布前校对所有内容。因为 AI 陈述错误事物时和陈述正确事物时一样自信，如果你不检查，一个幻觉生成的错误价格、虚构的产品功能或虚假的数据统计就会直接飞进你的通讯邮件中。规则很简单：AI 可以写草稿，但在任何内容触达客户之前，必须由人工签字确认。阅读每一个字，就像你要为此负责一样，因为你确实需要负责。

所有这一切的共同线索是：在自信的草稿能为你节省时间且你可以轻松检查结果的地方，AI 非常出色。

在细微、自信的错误会让你损失资金且你无法轻松检查结果的地方，AI 是危险的。

真正重要的区别

这是大多数“AI 构建了我的 POS”故事所遗漏的部分。让 AI 从头开始发明商业逻辑，与让它在已经正确处理资金的底层架构之上组装一个店铺，这两者之间是有区别的。

当一个通用模型凭空编写你的支付处理、你的库存计算和你的税务逻辑时，其中的每一个环节都是一次产生合理但错误幻觉的新机会。你正在将必须精确的部分托付给预测引擎。这就是那个会变成长达一个季度的调试项目。

但是，支付处理、库存扣减、订单账本、对账：这些都不需要为每个店铺重新发明。它们是每个商家都有的相同难题，应该由专门处理边缘情况的人正确地解决一次。当该基础已经存在并已知可行时，留给 AI 的工作就是它真正擅长的部分：组合界面、安排布局、串联流程。在这些地方，合理就足够了，因为人工可以看到结果，而底层的资金已经得到了处理。

因此，教训并不是“让 AI 远离商业”。而是：对任何由 AI 生成移动资金逻辑的设置保持高度警惕，而对 AI 在已正确移动资金的底层架构之上进行构建的设置要放心得多。前者是要求预测引擎做到精确。后者是让它做它擅长的事，同时由为了正确性而构建的系统处理其余部分。

店面必须是正确的。资金必须每一次都正确移动，而不是大多数时候。在商业中聪明地使用 AI 是知道它属于哪一层，并确保底层的逻辑绝不留给猜测。