目前英文 7B 规模的 SOTA 模型是 zephyr-7b-beta。它放弃了质量参差不齐的开源数据集，使用ChatGPT和GPT-4 全新标注了 UltraChat 和 UltraFeedback 数据集（已开源）。是 llama-index 项目实测出来唯一能够支持 Agent 的小参数模型。与之相比，中文开源模型虽多，数据集却很少开源。

发布时间: 2023-10-30 11:41:01

2分

数据加载中

关注推特

收听电报

目前英文 7B 规模的 SOTA 模型是 zephyr-7b-beta。它放弃了质量参差不齐的开源数据集，使用ChatGPT和GPT-4 全新标注了 UltraChat 和 UltraFeedback 数据集（已开源）。是 llama-index 项目实测出来唯一能够支持 Agent 的小参数模型。

与之相比，中文开源模型虽多，数据集却很少开源。
时政
( twitter.com )

1年前由九原客提交

点击图片查看原图

Markdown支持

评论加载中...

您可能感兴趣的：更多

最新阿里发布的 QWen2-VL-7B 的视觉语言模型有点强⚡️
OCR 能力达到同级开源模型 SOTA 效果！英文基础测试手写字识别准确度 “100%”🤯🤯 而且中文支持还不错！🔥
在线体验 👉
时政
( huggingface.co)

2个月前 • Tom Huang • -- 点击 0 评论

阿里云研发的 #通义千问大模型系列的70亿参数规模的模型Qwen-7B和Qwen-7B-Chat，在魔塔社区上开源，支持用户在消费级显卡上部署和运行模型。

时政
( twitter.com)

1年前 • 外汇交易员 • -- 点击 0 评论

最近密集测试了最新的多款支持中文的模型，做如下推荐：

1. 商用请选择 Aquila 或者 baichuan（需申请）。
2. 预训练模型推荐 baichuan-7B 或 Aquila-7B。
3. 开箱即用的 Chat 模型，…
推特中文圈
( twitter.com)

1年前 • 九原客 • -- 点击 0 评论

斯坦福2023年公开课CS25 - 大语言模型中的涌现和规模（中英文字幕）

这是斯坦福2023年公开课CS25的第三课：《Emergent Abilities and Scaling in LLMs | 大语言模型中的涌现和规模…
IT技术
( twitter.com)

1年前 • 宝玉 • -- 点击 0 评论

ChatGPT 参数规模被扒—— 很可能只有7B（70亿）
大陆资讯
( www.ithome.com)

8个月前 • 牛郎侄女 • -- 点击 0 评论

闪电预览

有人发现用2019年 GPT-2 的 1.5B 模型为基础，使用大规模指令集进行微调之后，模型指标竟然超越了2023年的羊驼 7B 模型。
OpenAI 这是领先了多少。。
恐怖如斯
（同时GPT-2当时国内每家大公司应该都搞了。。
图片
( twitter.com)

1年前 • orange.ai • -- 点击 0 评论

昨晚圈子被一个叫MoE 8x7B模型刷屏了，这应该是第个一个开源权重的MoE架构LLM。
在HF排行榜上这个7B模型击败了很多70B和34B的模型。之前猜测GPT-4的架构的时候很多人就觉得GPT-4用了MoEt架构。
MoE可以与使用两倍FLOPs的密集模型相媲美。例如，使用相同的数据和 FLOP，LLaMA 7B 的 MoE 版本应该与…
IT技术
( twitter.com)

11个月前 • 歸藏 • -- 点击 0 评论

伯克利的一个团队针对一些专有模型和开源模型做了 Elo 评级，，目前遥遥领先的仍然是 GPT 和 Claude 等专有模型。图中，前三行都是 RLHF 模型，它们是经过强化学习的模型，…
IT技术
( twitter.com)

1年前 • Barret李靖 • -- 点击 0 评论

兄弟们炸裂了
这个语音专文本TTS模型应该是目前对中文支持最好的了
ChatTTS：专门为对话场景设计的文本到语音TTS模型
该模型经过超过10万小时的训练，公开版本在 HuggingFace 上提供了一个4万小时预训练的模型。
专为对话任务优化，能够支持多种说话人语音，中英文混合等。
时政
( twitter.com)

6个月前 • 小互 • -- 点击 • 下载视频 0 评论

00:05:26

时政

最新阿里发布的 QWen2-VL-7B 的视觉语言模型有点强⚡️ OCR 能力达到同级开源模型 SOTA 效果！英文基础测试手写字识别准确度 “100%”🤯🤯 而且中文支持还不错！🔥 在线体验 👉 时政 ( huggingface.co)

时政

阿里云研发的 #通义千问 大模型系列的70亿参数规模的模型Qwen-7B和Qwen-7B-Chat，在魔塔社区上开源，支持用户在消费级显卡上部署和运行模型。 时政 ( twitter.com)

时政

最近密集测试了最新的多款支持中文的模型，做如下推荐： 1. 商用请选择 Aquila 或者 baichuan（需申请）。 2. 预训练模型推荐 baichuan-7B 或 Aquila-7B。 3. 开箱即用的 Chat 模型，… 推特中文圈 ( twitter.com)

推特中文圈

斯坦福2023年公开课CS25 - 大语言模型中的涌现和规模（中英文字幕） 这是斯坦福2023年公开课CS25的第三课：《Emergent Abilities and Scaling in LLMs | 大语言模型中的涌现和规模… IT技术 ( twitter.com)

IT技术

ChatGPT 参数规模被扒—— 很可能只有7B（70亿） 大陆资讯 ( www.ithome.com)

大陆资讯

有人发现用2019年 GPT-2 的 1.5B 模型为基础，使用大规模指令集进行微调之后，模型指标竟然超越了2023年的羊驼 7B 模型。 OpenAI 这是领先了多少。。 恐怖如斯 （同时GPT-2当时国内每家大公司应该都搞了。。 图片 ( twitter.com)

图片

IT技术

伯克利的一个团队针对一些专有模型和开源模型做了 Elo 评级，，目前遥遥领先的仍然是 GPT 和 Claude 等专有模型。图中，前三行都是 RLHF 模型，它们是经过强化学习的模型，… IT技术 ( twitter.com)

IT技术

时政

创建一个新帐户

登录

最新阿里发布的 QWen2-VL-7B 的视觉语言模型有点强⚡️
OCR 能力达到同级开源模型 SOTA 效果！英文基础测试手写字识别准确度 “100%”🤯🤯 而且中文支持还不错！🔥
在线体验 👉
时政
( huggingface.co)

阿里云研发的 #通义千问大模型系列的70亿参数规模的模型Qwen-7B和Qwen-7B-Chat，在魔塔社区上开源，支持用户在消费级显卡上部署和运行模型。

时政
( twitter.com)

最近密集测试了最新的多款支持中文的模型，做如下推荐：

1. 商用请选择 Aquila 或者 baichuan（需申请）。
2. 预训练模型推荐 baichuan-7B 或 Aquila-7B。
3. 开箱即用的 Chat 模型，…
推特中文圈
( twitter.com)

斯坦福2023年公开课CS25 - 大语言模型中的涌现和规模（中英文字幕）

这是斯坦福2023年公开课CS25的第三课：《Emergent Abilities and Scaling in LLMs | 大语言模型中的涌现和规模…
IT技术
( twitter.com)

ChatGPT 参数规模被扒—— 很可能只有7B（70亿）
大陆资讯
( www.ithome.com)

有人发现用2019年 GPT-2 的 1.5B 模型为基础，使用大规模指令集进行微调之后，模型指标竟然超越了2023年的羊驼 7B 模型。
OpenAI 这是领先了多少。。
恐怖如斯
（同时GPT-2当时国内每家大公司应该都搞了。。
图片
( twitter.com)

伯克利的一个团队针对一些专有模型和开源模型做了 Elo 评级，，目前遥遥领先的仍然是 GPT 和 Claude 等专有模型。图中，前三行都是 RLHF 模型，它们是经过强化学习的模型，…
IT技术
( twitter.com)