【译】告知您的模型何时需要进行深度思考

　　并非每个问题都值得投入同等程度的思考。重命名一个变量与调试内存泄漏并不一样，二者也不需要同等层级的思考。那么您的模型为何每次都要以相同方式对待它们呢？

　　从 Visual Studio 18.9 Insiders 2 开始，就无需如此了。受支持的模型现已具备思考强度控制功能，遇到真正棘手的问题时，您可以调高思考强度；问题难度不高时，则可以调低该参数。这是一个小巧但收效显著的调节选项：能够获得更贴合需求的回答，同时您可以更好控制获取回答所消耗的额度。

旋钮，而非开关

　　思考强度顾名思义就是：模型在给出答案前进行推理的程度。它表现为一系列已命名的等级，而您所能获得的等级取决于所用的模型。

　　以下是各个等级的用途：

　　- Low —— 响应速度快，推理过程极简。适合简单直白的问题与日常代码建议，同时消耗的 AI 额度更少。

　　- Medium —— 推理能力与响应速度均衡，通常为默认设置，非常适合常规编码任务。

　　- High —— 针对复杂问题进行深度推理。当您面对棘手的算法、架构选型或是难以解决的程序缺陷时，可以选用该模式。

　　- Extra High 和 Max —— 部分模型所能提供的最强推理能力，适用于最棘手的问题，可让模型竭尽所能输出全部思考。

　　所显示的层级取决于您选择的模型，因此您看到的列表是针对该模型实际支持的内容定制的。部分模型完全不会提供思考控制选项，这也属于正常情况：这类模型会显示一个破折号，并按照原有方式继续运行。

把它放置到您日常工作的地方

　　设置操作十分快捷。打开模型选择器，点击 Manage models 调出扩展模型管理窗口，即可在该窗口内调整各个模型的思考等级。

　　从管理视角来看，思考强度拥有独立一栏，与各模型的能力、上下文窗口大小以及成本并列。因此，您原本用来对比模型的位置，现在也可以调整模型的思考强度。选择一个模型，快速浏览其能力与成本，同时设定模型的思考投入程度，全部操作一次即可完成。

在关键用途上消耗您的额度

　　这就是一整天累积消耗的关键所在。更高的思考等级会进行更多推理，进而消耗更多额度。更低的思考强度消耗的额度则更少。当您将思考强度等级与任务相匹配时，面对浅推理类问题，就不会消耗超出实际所需的额度。

　　这意味着，在一次普通会话中遇到大量细碎的小请求时，您可以将模型维持在低档位；遇到真正需要强算力的难题时，再将其切换至高档位。使用同一个模型、同一段对话，每次都匹配恰到好处的思考强度。您的使用额度可以发挥更大效用，并且由您来决定算力资源的分配方向。

试一试

　　思考强度是一项隐性功能，它会改变日常使用体验：简单问题无需过多等待，疑难问题则可实现更深层次的处理。该功能位于模型管理界面，而该界面的功能远不止这一项设置。如需完整了解，可参阅之前文章。

　　请在 Visual Studio 18.9 Insiders 2 或更高版本中试用，并告诉我们您的使用感受。

　　更多内容即将推出！

 

原文链接：https://devblogs.microsoft.com/visualstudio/tell-your-model-when-to-think-harder/