最近刚刚做了一个角色扮演的大模型，最近准备做开源。主打高性能低成本部署、完全可商用和超拟人对话能力。

涩涩能力一级棒！！！

先开了一个demo，欢迎大家体验，给一些建议和批评

https://0482095ebdba726aa5.gradio.live/

量化版显存只占用8g以下，全参数大概20g左右，下周会开源出来

(我的卡是垃圾2080ti，并发访问高的话会有点卡，正常QPS轻松1左右)

  

支持，等不及了快点开源

啊这，移动端3060 6G显存哭了

感谢啊我的显卡跟你是一样的

鬼鬼这么牛

响应太慢了，是不是站友们给测爆了

哦对了，量化版非常容易出乱码和各种奇怪的bug，全量应该会好很多，大家见谅

没有反应，是不是人太多了

电脑白痴，我现在随便输入了一些内容，出来的结果是我本地跑的吗，还是lz跑完回传到我网页上的，这个以后会支持mac吗

速度也太慢了，楼主你自己用的时候，速度怎么样啊？

统一回复下
用的人多，速度就很慢，毕竟我显卡太辣鸡了
另外大家不要一直玩兔兔了
底部Additional Inputs可以自定义人设
底部Additional Inputs可以自定义人设
底部Additional Inputs可以自定义人设
底部Additional Inputs可以自定义人设

支持

可以啊 不錯

先说省流个人结论
整天克3o 克3.5s的就不用考虑楼主的了，适合新人，谢谢楼主

单人卡表现正常，可以跟gbt3.5拼了一拼
双人及以上的人物开始有些混乱
以世界观而生成的随机人物卡，完全混乱，体验糟糕

以上所有结论都是个人主观观点，不喜勿喷

很不错，期待

大佬自己炼的模型么 牛啊

老哥求快些开源。牛牛忍不住了！

确实中肯。这个模型其实主要是面向超拟人对话风格发展的，并不是面向酒馆的版本，再加上只是9B+int4，世界书能力我完全都没报任何希望。
酒馆版本正在训练计划中，敬请期待~

测不了一点，一次输出要等好久

模型有bug啊，以下是部分测试对话内容：
“是吗，让我看看”，摸了摸兔兔的尾巴
(markdown)C"唔�"[兔兔的身体瞬间僵直,全身的毛发起了鸡皮疙�疓�疓�疓�疓�疓�疓�疓�疓�疓�疓�疓�疓�疓�疓�疍疓�疓�疓�疓疓�疓°疓�疓�疓�疓��疓�疓�疓�疓�疓�疓�疓�疓�疓�疓�疓�疓�疓�疓�疓�疓�疓�疓�疓�疓��疓�疏�疓�疓�疓�疓���疓�疓�疓�疓�疓�疓�疓�疓�疓�疓�疓�疓�疓�疓�疓�疓�疓�疓�疓�疐�疓�疎�疓�疓�疓�疏�疓�疓�疓�疏�疓�疓�疓�疓�疓�疓�疓�疏�疓�疓�疓�疓�疓�疓��疓�疏��疓�猚疓�疏疓�疏㐫疓�疏事疓�疏蛆�疏��猚疓�����疓�����疓�����疓�����疓���

有时候，部分文字会被其他字符替代

超期待开源啊，我的显卡可以玩

量化引起的bug，我全参测试没问题的

No interface is running right now

大佬，是关闭端口了吗？

期待

已开源，欢迎体验
已开源，欢迎体验
已开源，欢迎体验
https://huggingface.co/ClosedCharacter/Peach-9B-8k-Roleplay

感谢开源，能量化一版gguf吗？

收藏了