号称全球最强开源 AI 模型,DBRX 登场:1320 亿参数,语言理解、编程...

IT之家3月28日消息,初创公司Databricks近日发布公告,推出了开源AI模型DBRX,声称是迄今为止全球最强大的开源大型语言模型,比Meta的Llama2更为强大。DBRX采用transformer架构,包含1320亿参数,共16个专家网络组成,每次推理使用其中的4个专家网络,激活360亿参数。Databricks在公司...