摘要：
之前曾经分享过纯c#运行开源本地大模型Mixtral-8x7B 当时使用的是llamasharp这个库和Mixtral的模型在本地部署和推理，前段时间我看到llamasharp更新到了0.11.1版本，可以支持今年2月份开源的 llava-v1.6多模态大模型了，本着尝试一下的想法，就做了集成，不过 阅读全文
摘要：
先看效果图，这是一个比较典型的逻辑推理问题，以下是本地运行的模型和openai gpt3.5的推理对比 本地运行Mixtral-8x7B大模型： chatgpt4的回答： 关于Mixtral 8x7B这个就不多介绍了，但凡在关注开源大模型的朋友应该知道这个模型是目前市场上最具竞争力的开源大型模型之一 阅读全文
摘要：
6 月 13 日 OpenAI 官网突然发布了重磅的 ChatGPT 更新，我相信大家都看到了 ，除了调用降本和增加更长的上下文版本外，开发者们最关心的应该还是新的函数调用能力。通过这项能力模型在需要的时候可以调用函数并生成对应的 JSON 对象作为输出。这使开发人员能更准确地从模型获取结构化数据， 阅读全文
摘要：
恢复内容开始 在上一篇文章中我们大致讲述了一下如何通过词嵌入向量的方式为大语言模型增加长期记忆，用于落地在私域场景的问题。其中涉及到使用openai的接口进行词嵌入向量的生成以及chat模型的调用 由于众所周知的原因，国内调用openai接口并不友好，所以今天介绍两款开源平替实现分别替代词嵌入向量和 阅读全文
摘要：
本文将探讨如何使用c#开发基于大语言模型的私域聊天机器人落地。大语言模型（Large Language Model，LLM 这里主要以chatgpt为代表的的文本生成式人工智能）是一种利用深度学习方法训练的能够生成人类语言的模型。这种模型可以处理大量的文本数据，并学习从中获得的模式，以预测在给定的文 阅读全文
摘要：
参考1：https://www.bilibili.com/read/cv20039815 参考2：https://blog.cmyr.ltd/archives/e740aac.html 服务器：阿里云AI机器学习V100计算卡 OS：windows 10/server 均可 其他： Python 3 阅读全文
摘要：
在很多.net开发体系中开发者在面对调度作业需求的时候一般会选择三方开源成熟的作业调度框架来满足业务需求，比如Hangfire、Quartz.NET这样的框架。但是有些时候可能我们只是需要一个简易的延迟任务，这个时候引入这些框架就费力不讨好了。 最简单的粗暴的办法当然是： Task.Run(asyn 阅读全文
摘要：
需要引入nuget包来实现ef.functions调用row_number Thinktecture.EntityFrameworkCore.SqlServer 调用方式： //顺排 context.Table.GroupBySortTop(1, x => x.partitionProptery, 阅读全文
摘要：
最近在看微软开源的机器学习框架ML.NET使用别人的预训练模型(开放神经网络交换格式.onnx)来识别图像，然后逛github发现一个好玩的repo。决定整活一期博客。 首先还是稍微科普一下机器学习相关的知识，这一块.NET虽然很早就开源了ML.NET框架，甚至在官方的ML.NET开源之前，就有一些 阅读全文
摘要：
今天这篇博文的主要目的是分享一下我设计Saga的实现思路来抛砖引玉，其实Saga本身非常的类似于一个简单的工作流体系，相比工作流不一样的部分在于它没有工作流的复杂逻辑处理机制(比如会签)，没有条件分支机制，相对工作流不同的部分在于工作流流程阻塞结束后它多了一个反向补偿的流程。同时相对于工作流通过灵活 阅读全文