Hugging Face 博客

Transformers 中原生支持的量化方案概述

摘要：本文旨在对 transformers 支持的各种量化方案及其优缺点作一个清晰的概述，以助于读者进行方案选择。目前，量化模型有两个主要的用途: 在较小的设备上进行大模型推理对量化模型进行适配器微调到目前为止，transformers 已经集成并原生支持了 bitsandbytes 和 aut 阅读全文

posted @ 2023-11-13 21:26 HuggingFace 阅读(1952) 评论(0) 推荐(2)

Hugging Face 在法国联合启动人工智能创业项目！

摘要：Hugging Face、Meta、Scaleway 与法国创业孵化基地 STATION F 合作的人工智能创业项目正式启动 📢🔥 申请截止日期为 12 月 1 日本项目旨在利用开源人工智能的力量来扶持初创公司并推动人工智能创业生态的创新🌪如果你是：👾 一家愿意开发开源模型的人工智能初创企业阅读全文

posted @ 2023-11-10 09:53 HuggingFace 阅读(122) 评论(0) 推荐(0)

开源模型 Zephyr-7B 发布——跨越三大洲的合作

摘要：最近我们刚刚发布了新的开源模型 Zephry-7B🪁，这个模型的诞生离不开全球三大洲开源社区的协作 ❤️。我们的 CSO Thomas 录了一个视频介绍了它的起源故事: ✨ 就在几个月前，巴黎的一个新团队发布了他们首个模型: Mistral 7B，这个模型体积小巧但性能强劲，在基准测试中的表现超阅读全文

posted @ 2023-11-09 01:10 HuggingFace 阅读(797) 评论(1) 推荐(1)

用 bitsandbytes、4 比特量化和 QLoRA 打造亲民的 LLM

摘要：众所周知，LLM 规模庞大，如果在也能消费类硬件中运行或训练它们将是其亲民化的巨大进步。我们之前撰写的 LLM.int8 博文展示了我们是如何将 LLM.int8 论文中的技术通过 bitsandbytes 库集成到 transformers 中的。在此基础上，我们不断努力以不断降低大模型的准入阅读全文

posted @ 2023-11-07 23:45 HuggingFace 阅读(2419) 评论(0) 推荐(1)

HF Hub 现已加入存储区域功能

摘要：我们在企业版 Hub 服务方案中推出了存储区域（Storage Regions）功能。通过此功能，用户能够自主决定其组织的模型和数据集的存储地点，这带来两大显著优势，接下来的内容会进行简要介绍：法规和数据合规，此外还能增强数字主权性能提升（下载和上传速度更快，减少延迟）目前，我们支持阅读全文

posted @ 2023-11-06 22:52 HuggingFace 阅读(82) 评论(0) 推荐(0)

发布会回放｜Gradio 4.0 正式发布！

摘要：Gradio 的目标是使机器学习模型的演示更容易定制和访问，以满足不同用户的需求。在 4.0 正式版的发布活动上，Hugging Face 的 Gradio 团队介绍了自己为了提高机器学习模型的可访问性所做的工作，以及如何创建自定义组件。 Gradio 是一个用于构建机器学习模型演示的工具，任何人都阅读全文

posted @ 2023-11-02 17:32 HuggingFace 阅读(221) 评论(0) 推荐(1)

实战｜如何低成本训练一个可以超越 70B Llama2 的模型 Zephyr-7B

摘要：每一周，我们的同事都会向社区的成员们发布一些关于 Hugging Face 相关的更新，包括我们的产品和平台更新、社区活动、学习资源和内容更新、开源库和模型更新等，我们将其称之为「Hugging News」。快来看看有哪些近期更新吧！ 🎉 新的训练方法 Zephyr-7B 模型超越 70B Lla 阅读全文

posted @ 2023-10-28 01:23 HuggingFace 阅读(701) 评论(0) 推荐(0)

长程 Transformer 模型

摘要：Tay 等人的 Efficient Transformers taxonomy from Efficient Transformers: a Survey 论文本文由 Teven Le Scao、Patrick Von Platen、Suraj Patil、Yacine Jernite 和 Vic 阅读全文

posted @ 2023-10-26 22:02 HuggingFace 阅读(283) 评论(0) 推荐(0)

使用 DDPO 在 TRL 中微调 Stable Diffusion 模型

摘要：引言扩散模型 (如 DALL-E 2、Stable Diffusion) 是一类文生图模型，在生成图像 (尤其是有照片级真实感的图像) 方面取得了广泛成功。然而，这些模型生成的图像可能并不总是符合人类偏好或人类意图。因此出现了对齐问题，即如何确保模型的输出与人类偏好 (如“质感”) 一致，或者与那阅读全文

posted @ 2023-10-23 23:04 HuggingFace 阅读(818) 评论(0) 推荐(0)

Hugging Face: 代码生成模型的预训练和微调

摘要：和大家分享我们的机器学习工程师 Loubna Ben Allal 在 10 月上海 KubeCon 大会的主题演讲 📢 题目是：代码生成模型的预训练和微调演讲介绍了构建和训练大型代码模型比如: StarCoder 🌟 的幕后过程，还探讨了如何使用开源库，包括 Transformers、da 阅读全文

posted @ 2023-10-23 02:24 HuggingFace 阅读(382) 评论(0) 推荐(0)

不写代码、构建一个开源的 ChatGPT，总共需要几步？｜Hugging News #1020

摘要：每一周，我们的同事都会向社区的成员们发布一些关于 Hugging Face 相关的更新，包括我们的产品和平台更新、社区活动、学习资源和内容更新、开源库和模型更新等，我们将其称之为「Hugging News」。本期 Hugging News 有哪些有趣的消息，快来看看吧！ 🎉 给 Pro 订阅账户加阅读全文

posted @ 2023-10-23 01:37 HuggingFace 阅读(275) 评论(1) 推荐(0)

面向生产的 LLM 优化

摘要：注意 : 本文同时也是 Transformers 的文档。以 GPT3/4、Falcon 以及 LLama 为代表的大语言模型 (Large Language Model，LLM) 在处理以人为中心的任务上能力突飞猛进，俨然已成为现代知识型行业的重要工具。然而，在实际部署这些模型时，我们仍面临不阅读全文

posted @ 2023-10-19 00:56 HuggingFace 阅读(1706) 评论(0) 推荐(2)

Hugging Face 分词器新增聊天模板属性

摘要：一个幽灵，格式不正确的幽灵，在聊天模型中游荡！太长不看版现存的聊天模型使用的训练数据格式各各不同，我们需要用这些格式将对话转换为单个字符串并传给分词器。如果我们在微调或推理时使用的格式与模型训练时使用的格式不同，通常会导致严重的、无声的性能下降，因此匹配训练期间使用的格式极其重要！ Huggin 阅读全文

posted @ 2023-10-17 23:56 HuggingFace 阅读(1556) 评论(0) 推荐(1)

我们又组织了一次欧洲最大开源社区活动，Hugging Face 博客欢迎社区成员发帖、Hugging Chat 功能更新！

摘要：每一周，我们的同事都会向社区的成员们发布一些关于 Hugging Face 相关的更新，包括我们的产品和平台更新、社区活动、学习资源和内容更新、开源库和模型更新等，我们将其称之为「Hugging News」。本期 Hugging News 有哪些有趣的消息，快来看看吧！ 🎉 声势浩大的开源 AI 阅读全文

posted @ 2023-10-14 00:40 HuggingFace 阅读(129) 评论(0) 推荐(0)

机器学习即代码的时代已经到来

摘要：译者注: 到底是 AI 会吃掉软件还是软件会吃掉 AI？为了 job security 工程师应该把宝押在哪儿？这篇 2021 年的文章提供的一些视角似乎印证了它现在的流行，有点“运筹于帷幄之中，决胜于数年之后”的意思，颇值得软件架构师和产品经理们内省一番。 2021 版的《人工智能现状报告》于阅读全文

posted @ 2023-10-11 22:02 HuggingFace 阅读(750) 评论(0) 推荐(0)

AudioLDM 2，加速！

摘要：AudioLDM 2 由刘濠赫等人在 AudioLDM 2: Learning Holistic Audio Generation with Self-supervised Pretraining 一文中提出。 AudioLDM 2 接受文本提示作为输入并输出对应的音频，其可用于生成逼真的声效、人类阅读全文

posted @ 2023-10-10 16:00 HuggingFace 阅读(423) 评论(0) 推荐(0)

在 SDXL 上用 T2I-Adapter 实现高效可控的文生图

摘要：T2I-Adapter 是一种高效的即插即用模型，其能对冻结的预训练大型文生图模型提供额外引导。T2I-Adapter 将 T2I 模型中的内部知识与外部控制信号结合起来。我们可以根据不同的情况训练各种适配器，实现丰富的控制和编辑效果。同期的 ControlNet 也有类似的功能且已有广泛的应用。阅读全文

posted @ 2023-09-29 22:54 HuggingFace 阅读(1495) 评论(0) 推荐(0)

Hugging News #0925: 一览近期的新功能发布

摘要：每一周，我们的同事都会向社区的成员们发布一些关于 Hugging Face 相关的更新，包括我们的产品和平台更新、社区活动、学习资源和内容更新、开源库和模型更新等，我们将其称之为「Hugging News」。本期 Hugging News 有哪些有趣的消息，快来看看吧！ 🎉 近期更新 huggin 阅读全文

posted @ 2023-09-27 14:42 HuggingFace 阅读(243) 评论(0) 推荐(0)

使用 FHE 实现加密大语言模型

摘要：近来，大语言模型 (LLM) 已被证明是提高编程、内容生成、文本分析、网络搜索及远程学习等诸多领域生产力的可靠工具。大语言模型对用户隐私的影响尽管 LLM 很有吸引力，但如何保护好输入给这些模型的用户查询中的隐私这一问题仍然存在。一方面，我们想充分利用 LLM 的力量，但另一方面，存在向 L 阅读全文

posted @ 2023-09-24 11:09 HuggingFace 阅读(277) 评论(0) 推荐(0)

Hugging News #0918: Hub 加入分类整理功能、科普文本生成中的流式传输

摘要：每一周，我们的同事都会向社区的成员们发布一些关于 Hugging Face 相关的更新，包括我们的产品和平台更新、社区活动、学习资源和内容更新、开源库和模型更新等，我们将其称之为「Hugging News」。本期 Hugging News 有哪些有趣的消息，快来看看吧！ 🎉😍 🤗Hub 加入分阅读全文

posted @ 2023-09-24 10:58 HuggingFace 阅读(97) 评论(0) 推荐(0)

The AI community building the future.

随笔分类 - Hugging Face 博客

公告