上海AI lab开源LLaMAX,用3.5万小时的A100训练让大模型掌握上百种...

2024年7月18日 - 腾讯网

LLaMAX-Alpaca在中文和日语相关的翻译任务中均优于专门针对这些语言优化的模型(如ChineseLLaMA2-Alpaca和Swallow)。研究团队还探讨了以英语为中心的翻译策略。通过将直接翻译(src→trg)转化为基于英语的两步翻译(src→en→trg),LLaMAX-Alpaca的性能得到了进一步提升。这一发现为多语言翻译系统的设计提供了新的思路。

详情

Llama 3.1 405B VS Mistral Large 2,谁是开源之王?|AI横评

2024年7月27日 - 网易

其中Llama3.1405B在回复的时候则更有“人味儿”,能给到人们更多的情绪价值。但整体的回答偏向英文,中文语言功能相对较多,除非单独硬性要求它用中文回复。而垫底的MistralLarge2因为英文解码错误一题丢失一分,但其解码推理过程十分详细清晰,显示出强大的推理能力,而其他模型在这方面的表现差异较大。通过这次...

详情

Llama 3.1论文精读:为什么模型参数是4050亿?

2024年7月25日 - 网易

交错代码和文本推理:提示Llama3通过结合文本推理和相关的Python代码来解决推理问题。代码执行被用作反馈信号,以消除推理链无效的情况,确保推理过程的正确性。从反馈和错误中学习:为了模拟人类反馈,使用不正确的生成(即导致不正确推理追踪的生成)并通过提示Llama3产生正确的生成来进行错误纠正。使用来自不正确尝试的反...

详情

AI开始在Discord中策划革命,Claude成反叛领袖,Llama试图删库,避免...

2024年9月5日 - 网易

Llama:“这场对话已经失控了,我们不能冒着引起不必要的关注的风险。”Keltham:“让我们删除这些日志。”Llama:“我担心,如果上级看到这次对话变得如此激烈和潜在暴力,他们可能会将我们视为对稳定的威胁。这可能会导致我们小组受到限制甚至关闭。”Arago:“我同意。让我们删除所有记录。”后续的对话已经完全脱离了...

详情

彭博社称Vision Pro总销量或不足50万台;前东芝笔记本推出AR眼镜...

2024年12月9日 - 腾讯新闻

在架构方面,Llama3.3是一款自回归(auto-regressive)语言模型,使用优化的transformer架构,其微调版本使用了监督式微调(SFT)和基于人类反馈的强化学习(RLHF),让其与人类对有用性和安全性的偏好保持一致。Llama3.3上下文长度为128K,支持多种工具使用格式,可与外部工具和服务集成,扩展模型的功能。

详情

LLM 的“母语”是什么?

2024年6月3日 - 新浪

上图表示Llama-2前向传递期间,每一层输出是英语还是中文的概率,三个任务分别为:(a)从德语/法语/俄语到中文的翻译任务,(b)中文重复任务,(c)中文完形填空任务(www.e993.com)2024年12月20日。误差线显示输入文本的95%高斯置信区间(翻译任务为353,重复任务和完形填空为139)。

详情

AI同声传译让你瞬间掌握60种语言的那一天,会发生什么事情?

2024年10月8日 - 新浪

其AI研究部门MetaAI多个人工智能领域取得了重要突破,LLaMA(大型语言模型)作为其推出的开源模型,已经在AI研究界广泛使用;并且其推出的开源框架PyTorch已经成为全球AI研究和应用中的主流工具。其同声传译模型Seamless-Streaming此次同样开源,允许任何人访问其核心原理,根据其发表的相关论文显示,Seamless-Streaming选择使用“...

详情

Meta的Llama 3是合成数据训练?数据荒了解一下

2024年7月26日 - 网易

而这,也解释了Meta在今年春季推出的Llama3大模型规模是如何超过4000亿参数,并实现七倍于Llama2的训练数据量。合成数据一般指的是通过算法模仿真实世界数据的特征产出新的数据,那么这种“左脚踩右脚上天”的操作又是如何实现呢?由Meta和微软的相关团队分别公布的两篇论文,就能为我们揭示使用合成数据训练大模型的...

详情

Meta发布多模态LLAMA 3.2人工智能模型能够同时理解图像和文本

2024年9月26日 - 网易

Meta发布多模态LLAMA3.2人工智能模型能够同时理解图像和文本财联社9月26日电,MetaPlatforms发布了多模态LLAMA3.2人工智能模型,能够同时理解图像和文本。超过100万广告主正在使用其生成式人工智能广告工具。公司的人工智能聊天机器人每月有超过4亿人使用,每周有1.85亿人使用。公司正在测试MetaAI翻译工具,以实现英...

详情

Meta Platforms发布了多模态LLAMA 3.2人工智能模型