• 博客园logo
  • 会员
  • 周边
  • 新闻
  • 博问
  • 闪存
  • 赞助商
  • Chat2DB
    • 搜索
      所有博客
    • 搜索
      当前博客
  • 写随笔 我的博客 短消息 简洁模式
    用户头像
    我的博客 我的园子 账号设置 会员中心 简洁模式 ... 退出登录
    注册 登录

jwang106


脚踏实地,日拱一卒。 建立新的神经链接,可不像公园散步那样简单。
  • 博客园
  • 联系
  • 管理

View Post

AI项目管理与落地

文档将会持续更新
一、项目分类
AI agent
AI memory
训练数据采购
大模型 基模
埋点
用户画像:包括用户基本信息、用户偏好(音乐、车控车设)、用户习惯(出行饮食)

二、核心概念
LLM(基础模型):大语言模型本质是“预测引擎”,基于预存文本拉取模式,并不真正理解事实或道德。在SOP阶段,必须高度关注Context Window(上下文窗口)大小对长文档处理的影响,以及Token计费对量产成本的致命影响。
Sub Agent(子智能体):并非简单的API调用,而是具备“规划-执行-反思”闭环的实体。其工程难点在于多智能体协作(Multi-Agent System)时的通信协议,以及如何防范死锁和循环调用。
VLM(视觉语言模型):通过融合视觉模块(如ViT),将能力从“文本世界”延伸至“视觉世界”。在工业级应用中,需关注其“端到端”能力与传统CV+LLM方案的对比;目前VLM泛化能力强,但在高精度检测上可能仍需结合传统算法。
多模态/全模态:
舱内外识别:

三、 AI项目落地的核心难点与应对
芯片价格与算力成本:不仅是硬件采购价,更要关注推理成本(Inference Cost)。随着用户量增加,GPU租赁或电费可能成为SOP阶段最大的OPEX(运营成本)。此外,需警惕高端AI芯片因供应链受限带来的黑市溢价及断供风险,必须提前规划国产替代方案的测试与验证。
数据质量与数据飞轮:POC阶段的数据往往是“精挑细选”的。SOP阶段必须建立自动化数据清洗、标注和回流机制,让模型在真实场景中自我迭代。行业数据显示,数据准备通常消耗AI项目30%-50%的预算。
采购周期与地缘政治:核心硬件(如高端AI芯片)供应链紧张,采购周期长,存在断供或延期风险。需建立B角供应商体系以应对不确定性。
隐藏的长期维护成本:AI系统并非静态交付。模型部署后会出现“数据漂移”,需要持续监控和重训练。年度维护成本通常占原始开发成本的15%-30%,这在项目初期的预算中极易被忽视。

posted on 2026-06-24 11:38  jwang106  阅读(2)  评论(0)    收藏  举报

刷新页面返回顶部
 
博客园  ©  2004-2026
浙公网安备 33010602011771号 浙ICP备2021040463号-3