自动秒收录

今日开源(2024-06-14):哔哩哔哩Index-1.9B,2.8T中英文语料预训练-大模型知识库|大模型训练|开箱即用的企业大模型应用平台|智能体开发


文章编号:4887 / 分类:AI资讯 / 更新时间:2024-06-16 09:56:13 / 浏览:

今日开源(2024-06-14):哔哩哔哩Index-1.9B,2.8T中英文语料预训练-大模型知识库|大模型训练|的企业大模型应用平台|智能体开发loading="lazy"> 今日开源(2024-06-14):哔哩哔哩Index-1.9B,2.8T中英文语料预训练-大模型知识库|大模型训练|的企业大模型应用平台|智能体开发

53AI知识库

学习大模型的前沿技术与行业应用场景

★bilibili开源轻量级模型Index-1.9B,具有19亿参数,在2.8T中英文为主的语料上预训练,该系列模型在多个评测基准上与同级别模型相媲美。Index-1.9B系列包括基座模型、对照组模型、对话模型和角色扮演模型等。其中角色扮演在SFT和DPO的基础上引入了RAG来实现fewshots角色扮演定制。

★微软开源基于Transformers的对象检测模型,专门针对文档中的表格提取进行了微调。该模型在PubTables1M数据集上进行了训练,旨在从非结构化文档中全面提取表格信息。模型采用了DETR(Detection Transformer)的架构,并且在自注意力和交叉注意力之前应用了layernorm,以提高模型性能。

★微软开源混合模型Samba,具有无限的上下文长度。它的架构非常简单:Samba = Mamba + MLP + 滑动窗口注意力 + MLP层级堆叠。最大的模型Samba-3.8B在Phi3数据集上训练了3.2万亿个token,大幅超越Phi3-mini在主要基准测试(如MMLU, GSM8K和HumanEval)上的表现。Samba还能够通过最小的指令调整实现完美的长上下文检索能力,同时保持其对序列长度的线性复杂度。这种能力使得Samba-3.8B-instruct在下游任务如长上下文摘要上表现出色。

★Open WebUI是一个支持LLM部署的可扩展、功能丰富、用户友好的自托管WebUI,旨在完全离线操作。它支持多种LLM,包括Ollama和兼容OpenAI的API。Open WebUI提供了简单的Docker或Kubernetes安装方式,支持ollama和cuda标记的镜像,并且可以无缝集成OpenAI兼容的API。

★DiffusionKit是一个支持在苹果硅片设备上进行扩散模型推理的工具包。它包含了一个Python包用于将PyTorch模型转换为Core ML格式,并使用MLX在Python中进行图像生成。同时,还有一个Swift包用于在设备上使用Core ML和MLX进行扩散模型的推理。

★斯坦福大学AILab开源HumanPlus项目,致力于开发能够模仿人类动作的仿人机器人,例如仿拳击、弹钢琴、乒乓球、投掷和打字等动作。项目包含了Humanoid Shadowing Transformer (HST) 和 Humanoid Imitation Transformer (HIT) 的实现,并提供了全身姿态估计和相关硬件代码库的指导。HST基于legged_gym和rsl_rl进行模拟中的强化学习,而HIT则基于ACT和Mobile ALOHA仓库进行现实世界中的模仿学习。

53AI,大模型落地应用首选服务商

定位:开箱即用的大模型落地应用平台

承诺:先做场景POC验证,看到效果再签署服务协议。零风险落地应用大模型,已交付160+中大型企业

微软技术社区:做RAG?向量搜索还不够

全球首个开源AIGC数字人模型免费使用,手机端可跑!

如何让AI基于超长文档进行问答?

翻车了?这才是真正的SD3!

Omost!让AI大模型代写AI绘画提示词

《构建和评估高级RAG》: RAG评估要素和方法

【AI大模型应用开发】AI+知识图谱极简入门:手把手带你体验LangChain实现知识图谱创建和查询(附代码和源码分析)

广州:广州市华景路37号(华景软件园)暨南大学科技大厦6楼(整层) 杨小姐   186 6662 7370

上海:上海市浦东新区金新路58号1602室    戴先生   186 1639 7587

广州:广州市华景路37号(华景软件园)暨南大学科技大厦6楼(整层) 杨小姐   186 6662 7370

上海:上海市浦东新区金新路58号1602室    戴先生   186 1639 7587

与创始人交个朋友

-->广州:广州市华景路37号(华景软件园)暨南大学科技大厦6楼(整层) 杨小姐   186 6662 7370

上海:上海市浦东新区金新路58号1602室    戴先生   186 1639 7587

-->

自动秒收录 | 电影导航 | 网络推广 | ChatGPT中文版 | AI绘画 | AI文生图 | 网站地图 | 网站目录