【講座】正確認識 ChatGPT

0224正確認識 ChatGPT

澄清误解

• 没有事先固定选项，不是“罐头回答”
• 运行时没有“联网”，不是“网络搜索”

ChatGPT这个语言模型，真正在做的事情是【文字接龙】。
换言之，它把生成式学习的问题，拆解成多个分类问题。

训练策略

• 自监督学习：爬大量网路资料
  • 预训练模型/基石模型
• 监督学习：人类老师言传身教
• 增强学习：人类老师批评表扬

研究问题

• Prompting：如何调教，精准地提出需求
• Neural Editing：如何精准地修正错误
• “ChatGPT的出现将提升全人类水平？”
• Machine Unlearning：空空，遗忘

Bonus

🪄海豹or印章

0303機器學習基本概念介紹

步骤

• 设定出入：机器学习就是让机器自动找一个“函数”
• 设定范围：模型结构，标定着候选“函数”的集合
• 设定标准：损失函数，代表评价“函数好坏”的标准
• 达成目标：通过某种最优化算法，找出最优“函数”