欢迎大家收看《rwkv 社区最新动态》第五期，本期内容收录了 rwkv 社区 2024 年 9 月的最新动态。
9 月动态省流版（tl;dr）
rwkv 官方新闻动态 rwkv-7 发布预览版 rwkv-7 论文撰写已面向社区开放 rwkv pg电子试玩免费官网上线 bad case 收集页面 rwkv 中文文档已开源 rwkv 学术研究相关 rwkv-clip 论文被 emnlp 主会收录 新论文：occrwkv（3d 语义占用预测） 新论文：msrwkv-2dtcn（光伏发电预测） 新论文：mod-rwkv（多模态内容审核） 新论文：onlysportslm（体育运动任务） 新论文：rwkv-tim（人类动作交互建模） 社区新项目 rwkv-nonogramrwkv 官方新闻动态
rwkv-7 发布预览版
rwkv-7（代号 goose 雁）现已推出预览版！
rwkv-7 超越了 attention / linear attention 范式，它的状态演化很灵活，可以解决在相同算力消耗下 attention 无法解决的问题。
rwkv-7 代码：https://github.com/blinkdl/rwkv-lm/tree/main/rwkv-v7 rwkv-7 模型（训练中）：https://huggingface.co/blinkdl/temp-latest-training-models/tree/main详情查看： rwkv-7 预览版已发布，真正超越 attention 范式
rwkv-7 论文撰写面向社区开放
rwkv-7 论文的撰写已面向社区开放，请在此 discord 频道 中参与论文讨论和撰写。
rwkv pg电子试玩免费官网上线 bad case 收集页面
rwkv pg电子试玩免费官网已上线 bad case 收集页面：https://rwkv.cn/feedback
我们邀请大家反馈 rwkv 模型回答效果不佳的示例。您的每次反馈，都可以帮助我们改进 rwkv 模型！
rwkv 中文文档已开源
rwkv.cn 的文档板块现已在 github 仓库开源：https://github.com/leolin4258/rwkvcn-docs
我们欢迎任何关于 rwkv 文档的 issue / pr ，让我们一起共建更完善的 rwkv 中文文档。
rwkv 学术研究相关
rwkv-clip 论文被 emnlp 主会收录
rwkv-clip 被 emnlp 主会收录！现可在 emnlp 2024 的 checklist 中查看。
论文：https://arxiv.org/pdf/2406.06973 代码：https://github.com/deepglint/rwkv-clipoccrwkv（3d 语义占用预测）
论文名称：occrwkv: rethinking efficient 3d semantic occupancy prediction with linear complexity 论文链接：https://jmwang0117.github.io/occrwkv/ github 仓库：https://github.com/jmwang0117/occrwkv 发布时间：2024-09-06论文提出了 “occrwkv” ：基于 rwkv 的 3d 语义占用预测，可用于自动驾驶、具身智能等领域。
occrwkv 已提交至 icra 2025 。
实验表明，occrwkv 在 semantickitti 数据集达到 25.1 的 miou，比最佳基线 co-occ 快 20 倍，使其适合在机器人上实时部署，以增强自主导航效率。
msrwkv-2dtcn（光伏发电预测）
论文名称：multi-scale rwkv with 2-dimensional temporal convolutional network for short-term photovoltaic power forecasting 论文链接：https://www.sciencedirect.com/science/article/abs/pii/s0360544224028433 发布时间：2024-09-06论文提出了“多尺度 rwkv 二维时间卷积网络”（msrwkv-2dtcn），将 fft 和 2d tcn 与 rwkv 架构相结合，并应用于光伏发电预测。
研究证实，对比其他光伏发电功率预测模型，msrwkv-2dtcn 在短期光伏发电功率预测方面具有更高的准确性。
mod-rwkv（多模态内容审核）
论文名称：experimentation in content moderation using rwkv 论文链接：https://arxiv.org/abs/2409.03939 发布时间：2024-09-05论文提出了 mod-rwkv ，研究了 rwkv 模型在内容审核方面的效果。
团队通过使用一个包含图像、视频、声音和文本的数据集对 rwkv 模型进行 sft 微调，使其适用于各种内容的审查场景。
onlysportslm（体育运动任务）
论文名称：onlysportslm: optimizing sports-domain language models with sota performance under billion parameter 论文链接：https://arxiv.org/abs/2409.00286 发布时间：2024-08-30论文提出了 onlysportslm ：针对体育运动相关任务优化 rwkv-v6 架构，并训练了一个 196m 的 onlysportslm 模型。
benchmark 显示，与 sota 135m/360m 体育运动模型相比， onlysportslm 的精度提高了 37.62%/34.08% ,其性能比肩运动领域的 somllm 1.7b 和 qwen 1.5b 等较大参数模型。
rwkv-tim（人类动作交互建模）
论文名称：temporal and interactive modeling for efficient human-human motion generation 论文链接：https://arxiv.org/abs/2408.17135 发布时间：2024-08-30论文提出了时间交互式建模（temporal and interactive modeling，tim），将 rwkv 模型应用于生成人类之间的交互动作。
实验数据显示：tim 仅使用 intergen 数据集中 32% 的可训练参数，就取得了 sota 效果。
社区新项目
rwkv-nonogram
rwkv-nonogram 使用 rwkv-6 chain of thought 训练了一个 20m 参数 rwkv 模型，这个模型可以做数织(nonogram)任务。
rwkv-nonogram 的 cot 过程：
关于《rwkv 社区动态》栏目
《rwkv 社区动态》栏目会不定期播报 rwkv 社区的最新消息，以帮助 rwkv 的关注者、爱好者、开发者更好地了解 rwkv 的发展情况。
《rwkv 社区最新动态》不定期更新，所以请保持关注pg电子试玩免费的微信公众号（rwkv 元始智能）、qq 频道（rwkv）等公开平台，以获取最新的消息。
加入 rwkv 社区
rwkv 是一种创新的深度学习网络架构，它将 transformer 与 rnn 各自的优点相结合，同时实现高度并行化训练与高效推理。
rwkv 中文pg电子试玩免费官网（有多篇多模态论文）：https://rwkv.cn/ rwkv-5/6（eagle & finch）论文： https://arxiv.org/abs/2404.05892 rwkv-4 论文： https://arxiv.org/abs/2305.13048欢迎大家加入 rwkv 社区！可以从 rwkv 中文pg电子试玩免费官网了解 rwkv 模型，也可以加入pg电子试玩免费的 qq 频道和群聊，一起探讨 rwkv 模型。
qq 频道：https://pd.qq.com/s/9n21eravc总结
**《rwkv 社区最新动态》第五期总结**本期《rwkv 社区最新动态》概览了rwkv社区在2024年9月的重要发展成果，涵盖官方新闻、学术研究进展及社区新项目，展示了rwkv技术的持续创新与丰富应用。
**官方新闻亮点**：
- **rwkv-7预览版发布**：rwkv-7（代号goose）预览版正式上线，其独特的状态演化特点超越传统注意力机制，为解决复杂问题提供新思路。
- **论文撰写开放**：rwkv-7论文撰写向社区全面开放，鼓励参与讨论与贡献。
- **bad case收集**：rwkvpg电子试玩免费官网新增bad case收集页面，诚邀用户反馈以优化模型性能。
- **中文文档开源**：rwkv中文文档正式开源，邀请社区成员共同完善。
**学术研究进展**：
- 多篇rwkv相关论文被权威会议与期刊收录，包括rwkv-clip在emnlp的接纳，展示了其跨学科融合的潜力。
- **occrwkv**：针对3d语义占用预测的新模型，显著提升自动驾驶与机器人自主导航的精准性。
- **msrwkv-2dtcn**：结合fft与2d tcn技术，提升短期光伏发电预测的精度与效率。
- **mod-rwkv**：新模型聚焦多模态内容审核，展现rwkv在内容治理领域的潜在应用。
- **onlysportslm与rwkv-tim**：分别优化体育任务与人类动作交互建模，展现了rwkv在特定领域的卓越表现。
**社区新项目**：
- **rwkv-nonogram**：利用rwkv-6与chain of thought技术，探索解决数织任务的新方法，进一步拓展rwkv的应用边界。
**社区参与与互动：**
- 邀请大家通过rwkv中文pg电子试玩免费官网、微信公众号、qq频道等多种渠道关注rwkv最新动态，积极参与社区讨论与合作，共同推动rwkv技术的发展与进步。
总结而言，rwkv社区在9月份取得了显著的进展，不仅在技术研究上取得多项突破，还在社区建设与用户互动方面展现出强大活力，预示着rwkv未来广阔的发展前景。