Chatty

什么是Chatty

• Chatty是一个利用WebGPU技术在浏览器中本地且私密地运行大型语言模型(LLMs)的私人AI聊天工具，为用户提供丰富的浏览器内AI体验。

Chatty的功能亮点

• 本地数据处理
• 离线使用
• 聊天历史管理
• 支持开源模型
• 响应式设计
• 直观UI
• Markdown和代码高亮显示
• 文件聊天
• 自定义内存支持
• 导出聊天记录
• 语音输入支持
• 重新生成响应
• 明暗模式切换

• 浏览器内隐私
• 离线使用
• 支持新开源模型
• 响应式设计
• 直观UI
• Markdown和代码高亮
• 文件聊天
• 自定义内存支持
• 导出聊天记录
• 语音输入支持

Chatty的使用案例

• 与Gemma模型进行日常对话
• 在无互联网情况下进行离线信息查询
• 加载文件并向模型咨询特定文档的问题

使用Chatty的好处

• Chatty能够在本地进行AI处理，保证数据隐私，并支持多种实用功能和个性化响应，是需要隐私保护且对AI技术感兴趣的用户的理想选择。

Chatty的局限性

• 需要用户自行安装Node.js和npm，以及克隆仓库进行本地运行。