『笔记』WhynotTV 播客

陈天奇

不能同时锁死要解决的问题和要用的方法
规模化非常重要
编译技术：把算法和优化分开（做什么和怎么做），因为这两者依然是较大的瓶颈
挑问题很重要，平庸的问题和重要的问题花费的时间是一样多的
机器学习的突破：
大数据，数据的量上来了，大家可以用得上这些数据
部署便捷性，越来越容易写cuda了
MLC LLM / Thor / MLSys
端侧需求：
安全性，隐私
实时性
成本
新的时代特征：学校里已经不可能用两块GPU搓出sota了，不可能匹敌大公司
vLLM & SGLang
这个领域的瓶颈在什么地方？
XGrammar
主旨：让大家可以用更少的人去解决MLSys部署的问题，用更少的资源更自动地做更多的事情
思考：形成对一个领域的Vision很重要
OctoML：帮助企业将训练好的AI模型部署到各种硬件和云平台上
NVIDIA有很多不同的产品线
革新自己非常重要，否则会需要还技术债

---

杨硕 - 妙动科技

评价智能是否过剩
未来5年内会出现此起彼伏的机器人商业生态
硬件量产检测返修
技术护城河并非技术差异，而是细节的堆积
散热是重要的基础技术
如何从传感器数据中抽象出一些低级的结构，帮助机器人更好地了解环境
状态空间和物理仿真非常model-based，人们会把自己对于物理的理解写入仿真器中

---

翁天昱

网页链接：https://www.bilibili.com/video/BV1darmBcE4A/

目前AI发展的范式是：不断加强建设AI Infra，提升迭代速度，不断迭代；提升验证idea的速度。