Chat-With-MLX：在Mac上轻松运行各种开源模型并以RAG的方式聊天是利用苹果MLX框架实现的一个高效、多语言支持进行检索增强生成（RAG）的聊天界面。可以轻松自动集成任何HuggingFace和MLX兼容的开源模型。支持通过URL与Doc(x)、PDF、txt文件和YouTube视频进行聊天交互。主要功能：…

发布时间: 2024-03-01 14:00:15

1分

数据加载中

Chat-With-MLX：在Mac上轻松运行各种开源模型并以RAG的方式聊天
是利用苹果MLX框架实现的一个高效、多语言支持进行检索增强生成（RAG）的聊天界面。
可以轻松自动集成任何HuggingFace和MLX兼容的开源模型。支持通过URL与Doc(x)、PDF、txt文件和YouTube视频进行聊天交互。
主要功能：…
IT技术
( twitter.com )

Chat-With-MLX：在Mac上轻松运行各种开源模型并以RAG的方式聊天

是利用苹果MLX框架实现的一个高效、多语言支持进行检索增强生成（RAG）的聊天界面。

可以轻松自动集成任何HuggingFace和MLX兼容的开源模型。支持通过URL与Doc(x)、PDF、txt文件和YouTube视频进行聊天交互。

主要功能：

1、与数据聊天：支持通过URL与doc(x)、pdf、txt文件和YouTube视频进行聊天交互。

2、多语言支持：支持中文、英语、法语、德语、印地语、意大利语、日语、韩语、西班牙语、土耳其语和越南语。

3、易于集成：可以轻松集成任何HuggingFace和MLX兼容的开源模型。

4、支持的模型：包括Google Gemma、Mistral、OpenHermes、NousHermes、Mixtral、Quyen、StableLM 2 Zephyr、Vistral、VBD-Llama2等模型。

项目地址：https://t.co/iOfYHN40WN

Markdown支持

评论加载中...

您可能感兴趣的：更多

Private Chat / QA over docs at ~25 tokens / s with 13b Llama-v2 (on Mac M2 max gpu). Using vectorDB, GPT4all embeddings, LLama-v2

Full recipe added to docs:
时政
( python.langchain.com)

1年前 • Lance Martin • -- 点击 • 下载视频 0 评论

00:00:09

I think it’s time for Australian counter-terrorism police to have a little chat with this terror sympathiser.
时政
( twitter.com)

3个月前 • Drew Pavlou 🇦🇺🇺🇦🇹🇼 • -- 点击 0 评论

choeaedol chat going crazy rn I MEAN ME TOO CUZ WTF VOTING MONSTERS?!

All In LOVE With Sung Hanbin…
推特中文圈
( twitter.com)

1年前 • fafa🌸≽ܫ≼ • -- 点击 0 评论

Voice-chat with your PDFs in real-time ⚡️🗣️ (Realtime Voice RAG)
Get blazing fast responses over your entire corpus of unstructured knowledge with the help of OpenAI's Realtime API, and
Additionally, stream back all the audio events, text
时政
( twitter.com)

1个月前 • Jerry Liu • -- 点击 • 下载视频 0 评论

00:00:20

苹果发布专为 Apple 芯片设计的高效机器学习框架：MLX
MLX 的 API 设计与 NumPy 和 PyTorch 相似，让你能够在苹果电脑上方便地建立和训练机器学习模型。
使得在苹果电脑上进行机器学习相关的开发和研究变得更加简单和高效。
演示显示可在 M2 Ultra 上运行的 Llama v1 7B 模型。
代码：…
IT技术
( twitter.com)

11个月前 • 小互 • -- 点击 • 下载视频 0 评论

00:01:35

Nvidia推出了Chat with RTX，一款AI聊天机器人，能够在配备至少8GB VRAM的RTX 30或40系列显卡的任何PC上运行。
另外还支持检索、摘要本地文档或者YouTube视频。
IT技术
( twitter.com)

9个月前 • 宝玉 • -- 点击 • 下载视频 0 评论

00:01:05

基于苹果MLX的 Stable Diffusion WebUI 界面
提供了一个简单的WebUI，可以让你在苹果电脑上使用Stable Diffusion 图像生成功能，界面简单易用，小白用户轻松上手。
支持多种模型，包括 Stable-diffusion-2-1-base、Dreamshaper-8 和 Absolute-reality-1.81。
规范化了 I2I…
IT技术
( twitter.com)

11个月前 • 小互 • -- 点击 0 评论

Thrilled to meet 上野千鶴子 Chizuko Ueno at Columbia University. She’s extremely popular among Chinese feminists and her books inspired many Chinese girls. In the end of signing and photo sessions, I got a chance to chat with her and surprisingly she asked me many questions about…
时政
( twitter.com)

8个月前 • Vivian Wu • -- 点击 0 评论

Turn ANY Face Image to ANY Style, Locally.
Face-to-all, a gradio app inspired by "Face-to-Many", lets you generate a stylized face image with ANY custom LoRA. You can even enter ANY CivitAI/HuggingFace LoRA link to use them.
Run locally with 1 click (Win, Mac, Linux)
时政
( twitter.com)

7个月前 • cocktail peanut • -- 点击 • 下载视频 0 评论

00:00:59

IT技术

Private Chat / QA over docs at ~25 tokens / s with 13b Llama-v2 (on Mac M2 max gpu). Using vectorDB, GPT4all embeddings, LLama-v2 Full recipe added to docs: 时政 ( python.langchain.com)

时政

I think it’s time for Australian counter-terrorism police to have a little chat with this terror sympathiser. 时政 ( twitter.com)

时政

choeaedol chat going crazy rn I MEAN ME TOO CUZ WTF VOTING MONSTERS?! All In LOVE With Sung Hanbin… 推特中文圈 ( twitter.com)

推特中文圈

Voice-chat with your PDFs in real-time ⚡️🗣️ (Realtime Voice RAG) Get blazing fast responses over your entire corpus of unstructured knowledge with the help of OpenAI's Realtime API, and Additionally, stream back all the audio events, text 时政 ( twitter.com)

时政

IT技术

Nvidia推出了Chat with RTX，一款AI聊天机器人，能够在配备至少8GB VRAM的RTX 30或40系列显卡的任何PC上运行。 另外还支持检索、摘要本地文档或者YouTube视频。 IT技术 ( twitter.com)

IT技术

IT技术

时政

Turn ANY Face Image to ANY Style, Locally. Face-to-all, a gradio app inspired by "Face-to-Many", lets you generate a stylized face image with ANY custom LoRA. You can even enter ANY CivitAI/HuggingFace LoRA link to use them. Run locally with 1 click (Win, Mac, Linux) 时政 ( twitter.com)

时政

创建一个新帐户

登录

Private Chat / QA over docs at ~25 tokens / s with 13b Llama-v2 (on Mac M2 max gpu). Using vectorDB, GPT4all embeddings, LLama-v2

Full recipe added to docs:
时政
( python.langchain.com)

I think it’s time for Australian counter-terrorism police to have a little chat with this terror sympathiser.
时政
( twitter.com)

choeaedol chat going crazy rn I MEAN ME TOO CUZ WTF VOTING MONSTERS?!

All In LOVE With Sung Hanbin…
推特中文圈
( twitter.com)

Voice-chat with your PDFs in real-time ⚡️🗣️ (Realtime Voice RAG)
Get blazing fast responses over your entire corpus of unstructured knowledge with the help of OpenAI's Realtime API, and
Additionally, stream back all the audio events, text
时政
( twitter.com)

Nvidia推出了Chat with RTX，一款AI聊天机器人，能够在配备至少8GB VRAM的RTX 30或40系列显卡的任何PC上运行。
另外还支持检索、摘要本地文档或者YouTube视频。
IT技术
( twitter.com)

Turn ANY Face Image to ANY Style, Locally.
Face-to-all, a gradio app inspired by "Face-to-Many", lets you generate a stylized face image with ANY custom LoRA. You can even enter ANY CivitAI/HuggingFace LoRA link to use them.
Run locally with 1 click (Win, Mac, Linux)
时政
( twitter.com)