Hugging Face 博客

Hugging Face 全球政策负责人首次参加WAIC 2024 前沿 AI 安全和治理论坛

摘要：

Hugging Face 全球政策负责人艾琳-索莱曼（ Irene Solaiman ）将参加7月5日在上海举办的WAIC-前沿人工智能安全和治理论坛，并在现场进行主旨演讲和参加圆桌讨论。具体时间信息如下：主旨演讲：开源治理的国际影响时间｜ 7月5日下午15:35 - 15:50 圆桌讨论：阅读全文

posted @ 2024-07-04 18:23 HuggingFace 阅读(37) 评论(0) 推荐(0)

Cosmopedia: 如何为预训练构建大规模合成数据集

摘要：

本文概述了我们在生成含数十亿词元的合成数据集以复现 Phi-1.5 过程中所遇到的挑战及其解决方案，由此最终创建了 Cosmopedia 合成数据集。合成数据已成为机器学习社区的 C 位话题，其题中之义是用人工 (如使用大语言模型 (LLM)) 生成的数据模拟真实数据。传统上，构建用于有监督微调和阅读全文

posted @ 2024-07-03 16:35 HuggingFace 阅读(1669) 评论(0) 推荐(0)

OpenBMB × Hugging Face × THUNLP，联袂献上经典大模型课

摘要：

这个夏天，THUNLP 携手 Hugging Face 和 OpenBMB，推出大模型公开课第二季。在大模型公开课第二季中，将有全球知名开源社区 OpenBMB X Hugging Face 梦幻联动；MiniCPM、ChatDev、Ultra对齐等明星开源项目作者亲自授课，带领同学从深度学习开阅读全文

posted @ 2024-07-03 16:03 HuggingFace 阅读(159) 评论(0) 推荐(0)

BigCodeBench: 继 HumanEval 之后的新一代代码生成测试基准

摘要：HumanEval 是一个用于评估大型语言模型 (LLM) 在代码生成任务中的参考基准，因为它使得对紧凑的函数级代码片段的评估变得容易。然而，关于其在评估 LLM 编程能力方面的有效性越来越多的担忧，主要问题是HumanEval 中的任务太简单，可能不能代表真实世界的编程任务。相比于 HumanEv 阅读全文

posted @ 2024-07-01 12:03 HuggingFace 阅读(1763) 评论(0) 推荐(0)

Google 发布最新开放大语言模型 Gemma 2，现已登陆 Hugging Face Hub

摘要：

Google 发布了最新的开放大语言模型 Gemma 2，我们非常高兴与 Google 合作，确保其在 Hugging Face 生态系统中的最佳集成。你可以在 Hub 上找到 4 个开源模型（2 个基础模型和 2 个微调模型）。发布的功能和集成包括： Hub 上的模型 Hugging Face T 阅读全文

posted @ 2024-06-28 08:12 HuggingFace 阅读(2175) 评论(0) 推荐(1)

Hugging Face Accelerate 两个后端的故事：FSDP 与 DeepSpeed

摘要：

社区中有两个流行的零冗余优化器（Zero Redundancy Optimizer，ZeRO）算法实现，一个来自 DeepSpeed，另一个来自 PyTorch。Hugging Face Accelerate 对这两者都进行了集成并通过接口暴露出来，以供最终用户在训练/微调模型时自主选择其中之一阅读全文

posted @ 2024-06-27 23:32 HuggingFace 阅读(2483) 评论(0) 推荐(1)

更难、更好、更快、更强：LLM Leaderboard v2 现已发布

摘要：摘要评估和比较大语言模型 (LLMs) 是一项艰巨的任务。我们 RLHF 团队在一年前就意识到了这一点，当时他们试图复现和比较多个已发布模型的结果。这几乎是不可能完成的任务：论文或营销发布中的得分缺乏可复现的代码，有时令人怀疑，大多数情况下只是通过优化的提示或评估设置来尽量提升模型表现。因此，他们阅读全文

posted @ 2024-06-27 10:46 HuggingFace 阅读(2969) 评论(0) 推荐(2)

英特尔 Gaudi 加速辅助生成

摘要：

随着模型规模的增长，生成式人工智能的实现需要大量的推理资源。这不仅增加了每次生成的成本，而且还增加了用于满足此类请求的功耗。因此，文本生成的推理优化对于降低延迟、基础设施成本以及功耗都至关重要，其可以改善用户体验并提高文本生成任务的效率。辅助解码是一种用于加速文本生成的流行方法。我们在英特尔 Ga 阅读全文

posted @ 2024-06-26 16:38 HuggingFace 阅读(242) 评论(0) 推荐(0)

TGI 基准测试

摘要：本文主要探讨 TGI 的小兄弟 - TGI 基准测试工具。它能帮助我们超越简单的吞吐量指标，对 TGI 进行更全面的性能剖析，以更好地了解如何根据实际需求对服务进行调优并按需作出最佳的权衡及决策。如果你曾觉得 LLM 服务部署成本太高，或者你想对部署进行调优，那么本文很适合你！我将向大家展示如何轻阅读全文

posted @ 2024-06-25 17:09 HuggingFace 阅读(362) 评论(0) 推荐(0)

将强化学习重新引入 RLHF

摘要：我们很高兴在 TRL 中介绍 RLOO (REINFORCE Leave One-Out) 训练器。作为一种替代 PPO 的方法，RLOO 是一种新的在线 RLHF 训练算法，旨在使其更易于访问和实施。特别是， RLOO 需要的 GPU 内存更少，并且达到收敛所需的挂钟时间也更短。如下面的图表所示: 阅读全文

posted @ 2024-06-19 22:52 HuggingFace 阅读(381) 评论(0) 推荐(1)

欢迎 Stable Diffusion 3 加入 🧨 Diffusers

摘要：

作为 Stability AI 的 Stable Diffusion 家族最新的模型，Stable Diffusion 3 (SD3) 现已登陆 Hugging Face Hub，并且可用在 🧨 Diffusers 中使用了。当前放出的模型版本是 Stable Diffusion 3 Mediu 阅读全文

posted @ 2024-06-17 22:35 HuggingFace 阅读(3263) 评论(0) 推荐(4)

用 KV 缓存量化解锁长文本生成

摘要：很高兴和大家分享 Hugging Face 的一项新功能: KV 缓存量化，它能够把你的语言模型的速度提升到一个新水平。太长不看版: KV 缓存量化可在最小化对生成质量的影响的条件下，减少 LLM 在长文本生成场景下的内存使用量，从而在内存效率和生成速度之间提供可定制的权衡。你是否曾尝试过用语阅读全文

posted @ 2024-06-12 18:23 HuggingFace 阅读(1085) 评论(0) 推荐(1)

用 Sentence Transformers v3 训练和微调嵌入模型

摘要：

Sentence Transformers 是一个 Python 库，用于使用和训练各种应用的嵌入模型，例如检索增强生成 (RAG)、语义搜索、语义文本相似度、释义挖掘 (paraphrase mining) 等等。其 3.0 版本的更新是该工程自创建以来最大的一次，引入了一种新的训练方法。在这篇博阅读全文

posted @ 2024-06-07 17:38 HuggingFace 阅读(2593) 评论(0) 推荐(0)

使用 Hugging Face 推理终端搭建强大的“语音识别 + 说话人分割 + 投机解码”工作流

摘要：

Whisper 是当前最先进的开源语音识别模型之一，毫无疑问，也是应用最广泛的模型。如果你想部署 Whisper 模型，Hugging Face 推理终端能够让你开箱即用地轻松部署任何 Whisper 模型。但是，如果你还想叠加其它功能，如用于分辨不同说话人的说话人分割，或用于投机解码的辅助生成，阅读全文

posted @ 2024-06-06 11:25 HuggingFace 阅读(1307) 评论(0) 推荐(2)

Hugging Face x LangChain: 全新 LangChain 合作伙伴包

摘要：我们很高兴官宣发布 langchain_huggingface ，这是一个由 Hugging Face 和 LangChain 共同维护的 LangChain 合作伙伴包。这个新的 Python 包旨在将 Hugging Face 最新功能引入 LangChain 并保持同步。源自社区，服务社区阅读全文

posted @ 2024-05-29 20:46 HuggingFace 阅读(857) 评论(0) 推荐(0)

授权调用: 介绍 Transformers 智能体 2.0

摘要：简要概述我们推出了 Transformers 智能体 2.0！ ⇒ 🎁 在现有智能体类型的基础上，我们新增了两种能够根据历史观察解决复杂任务的智能体。 ⇒ 💡 我们致力于让代码清晰、模块化，并确保最终提示和工具等通用属性透明化。 ⇒ 🤝 我们加入了分享功能，以促进社区智能体的发展。 ⇒ 阅读全文

posted @ 2024-05-27 23:04 HuggingFace 阅读(732) 评论(0) 推荐(0)

利用英特尔 Gaudi 2 和至强 CPU 构建经济高效的企业级 RAG 应用

摘要：检索增强生成 (Retrieval Augmented Generation，RAG) 可将存储在外部数据库中的新鲜领域知识纳入大语言模型以增强其文本生成能力。其提供了一种将公司数据与训练期间语言模型学到的知识分开的方式，有助于我们在性能、准确性及安全隐私之间进行有效折衷。通过本文，你将了解到英特阅读全文

posted @ 2024-05-24 20:18 HuggingFace 阅读(357) 评论(0) 推荐(0)

Hugging Face ZeroGPU 计划正式发布—提供价值一千万美元的免费共享 GPU

摘要：在人工智能技术领域，GPU 资源一直是推动研究和应用的关键因素。然而，GPU 的成本和可用性对于许多研究人员和开发者来说却是一个显著的障碍。在 Hugging Face，我们希望人工智能技术可以更加普惠化，更多开发者可以参与其中共同探索，在人工智能技术浪潮中创造出让更多人受益的产品。为此，我们计阅读全文

posted @ 2024-05-21 10:58 HuggingFace 阅读(1280) 评论(0) 推荐(0)

PaliGemma 正式发布 — Google 最新发布的前沿开放视觉语言模型

摘要：

PaliGemma 是 Google 推出的新一代视觉语言模型家族，能够接收图像与文本输入并生成文本输出。 Google 团队已推出三种类型的模型：预训练（PT）模型、混合模型和微调（FT）模型，这些模型分辨率各异，提供多种精度以便使用。所有模型均在 Hugging Face Hub 的模型库中发阅读全文

posted @ 2024-05-18 11:04 HuggingFace 阅读(1627) 评论(0) 推荐(1)

Idefics2 简介: 为社区而生的强大 8B 视觉语言模型

摘要：我们很高兴在此发布 Idefics2，这是一个通用的多模态模型，接受任意文本序列和图像序列作为输入，并据此生成文本。它可用于回答图像相关的问题、描述视觉内容、基于多幅图像创作故事、从文档中提取信息以及执行基本的算术运算。 Idefics2 由 Idefics1 改进而得，其参数量为 8B，具有开放许阅读全文

posted @ 2024-05-15 23:14 HuggingFace 阅读(617) 评论(0) 推荐(1)

The AI community building the future.

随笔分类 - Hugging Face 博客

公告