摘要：
一、辅助驾驶真正的风险，不在“看不见”，而在“看错也执行了” 在辅助驾驶系统中，AI 通常承担的是： 驾驶员状态识别 风险提示 行为建议 问题在于： 一旦判断结果直接影响提醒、接管或制动， 那它就已经进入“半执行层”。 而当前多数系统，对 AI 判断的处理方式仍是： 输出即可信 这在工程上是不可接受 阅读全文
posted @ 2026-01-20 14:35
风若笑
阅读(8)
评论(0)
推荐(0)
摘要：
一、问题不是 AI 不够强，而是没人对“交付”负责 在大量 AI 系统中，一个默认但危险的流程被广泛采用： 输入 → 模型推理 → 结果输出 → 直接进入系统 这个流程在低风险场景下问题不大，但一旦涉及： 人物一致性 状态判断 行为触发 现实世界反馈 问题立刻暴露： 模型输出本身并不等于“可交付结果 阅读全文
posted @ 2026-01-20 14:33
风若笑
阅读(12)
评论(0)
推荐(0)
摘要：
最近一段时间，AI 辅助开发领域出现了一个明显趋势： “一个人 + AI，可以完成过去一个小团队才能完成的项目。” 通过多阶段流程拆分、角色化 AI（分析、设计、开发、测试）， 确实可以在短时间内完成结构完整、文档齐全、代码可运行的系统。 像 BMAP 这类项目，在工程组织层面已经相当成熟。 但问题 阅读全文
posted @ 2026-01-19 12:26
风若笑
阅读(8)
评论(0)
推荐(0)
摘要：
这两年，Agent 成了 AI 工程领域讨论最多的概念之一。 自动规划、自动执行、自动调用工具，看起来非常“工程友好”。 但如果你真的把 Agent 放进长流程、可回溯、需要负责的系统里，很快会遇到一个现实问题： Agent 很难稳定跑完整个流程。 而且不是偶尔出错，是结构性不稳定。 一、Agent 阅读全文
posted @ 2026-01-16 12:14
风若笑
阅读(12)
评论(0)
推荐(0)
摘要：
这不是一篇教程文，也不是实现经验分享。 如果你期待的是代码、框架或“怎么做”，这篇文章可能不适合你。 这是一篇风险导读。 在过去一年里，关于 LLM 风险的讨论，几乎都集中在几个熟悉的方向： 幻觉 准确率 数据质量 RAG 是否足够完善 这些讨论并没有错，但它们往往默认了一个前提： 问题出在“输出结 阅读全文
posted @ 2026-01-14 14:48
风若笑
阅读(5)
评论(0)
推荐(0)
摘要：
在量化系统中，算子通常被视为一种基础构件： 它们负责对市场状态进行数值化描述，为后续的模型、策略和风控提供输入。 在研究环境中，这一抽象往往是成立的。 但在真实交易系统中，算子是否可复现，往往比算子是否“有效”更关键。 本文不讨论策略优劣，也不讨论因子收益， 仅从工程角度分析：量化算子库在可复现性层 阅读全文
posted @ 2026-01-08 10:03
风若笑
阅读(9)
评论(0)
推荐(0)
摘要：
一、背景：风险往往不是“算错”，而是“不该算却开始算了” 在 EDCA OS / Yuer DSL 的长期工程测试过程中，我们反复遇到同一个问题： 投资与风险量化系统中的关键风险， 并不主要来源于模型是否足够准确， 而来源于 在条件尚未满足的情况下，系统仍然允许进入量化或评估流程。 当系统在以下状态 阅读全文
posted @ 2026-01-06 13:26
风若笑
阅读(7)
评论(0)
推荐(0)
摘要：
如果你把 LLM 只当成“更聪明的搜索工具”， 那下面的内容对你意义不大。 但如果你已经在用 AI 辅助判断、决策、评估风险， 那这个问题迟早会撞上来。 一、入口没有消失，但系统里多了一个“没人负责的节点” 从表面看，什么都没变： 搜索引擎还在 文档系统还在 论坛、博客、社区还在 但在很多人的真实工 阅读全文
posted @ 2026-01-06 01:41
风若笑
阅读(7)
评论(0)
推荐(0)
摘要：
一个很多工程师都见过的场景 在不少 AI 项目中，推进路径往往非常相似： PoC 阶段效果很好 Demo 演示也很漂亮 真正接入核心流程后，问题开始集中出现 常见问题包括： 同一输入，多次运行结果不同 行为依赖上下文，难以复现 出现异常时，很难说清“到底是谁做的决定” 这些问题，往往不是模型能力不足 阅读全文
posted @ 2026-01-05 13:39
风若笑
阅读(15)
评论(0)
推荐(0)
摘要：
在不少 AI 项目评审中，经常能听到一句结论性陈述： “这个系统有人在回路里（Human-in-the-Loop），所以是安全的。” 这句话在合规和责任划分上成立， 但在工程安全性上，并不自动成立。 本文只讨论一件事： Human-in-the-Loop 在真实工程系统中， 到底解决了什么问题，又没 阅读全文
posted @ 2026-01-03 10:10
风若笑
阅读(34)
评论(0)
推荐(0)
浙公网安备 33010602011771号