苹果加入战局,携 300 亿参数的 AI 大模型 MM1 “炸场”
2024年3月15日 - 36氪
最后,通过使用更大的LLM(从3B、7B到30B)以及探索混合专家模型(MoE)(从使用64位专家的3BMoE,到使用32位专家的7BMoE)来扩展苹果的模型,从而建立了MM1,这是一个多模态模型系列,参数多达300亿。由于进行了大规模的多模态预训练,MM1有不错的图像识别和推理能力。更具体地说,AppleMM1非...
详情
...AI十年展望(二十):细数2024大模型底层变化,推理优化、工程为王
2024年9月12日 - 新浪
Apple为端侧部署的风向标,细数Apple的科研成果,主要有三大方向,囊括基模型、内存和剪枝技巧:1)AppleIntelligence的模型基座AFM;2)LLM-in-a-flash基于闪存运行端侧模型;3)Apple和Meta合作的LazyLLM动态剪枝。工程改进:细节铸就性能差异。1)以Mooncake为例的预填充与解码阶段架构分离;2)合成数据是后训练阶段实现性能...
详情
电子行业专题报告:AI大模型需要什么样的硬件?
2024年8月15日 - 新浪财经
IDC认为,新一代AI智能手机需拥有至少30TOPS性能的NPU,能够在手机上运行LLMs,符合标准的SoC包括AppleA17Pro、MediaTekDimensity9300、QualcommSnapdragon8Gen3等。此类手机在2023年下半年开始进入市场。硬件方面,我们看到:1)SoC:AI引擎升级、NPU算力提升,SoC进一步升级...
详情
iPhone6s测评报告——高品味手机,一吐为"快”
2015年11月15日 - 爱搞机
利用3DTouch按压照片可以让照片动起来,就像一段微信小视频一样,但这只是抓拍了拍照那一刻的前后一些时间点的照片,然后连起来播放而已,通过一些优化,并不会占用很多的内存,这对16G内存的小伙伴们来说是一个福利,毕竟内存太小,如果照片内存太大的话那就太尴尬了。Livephotos这项功能是默认开启的,在拍照界面上方...
详情