iPhone上本地每秒生成12个tokens，微软发布phi-3-mini模型，加速AI模型部署速度
更新时间：2024-04-23 13:45:12作者：relsound
4 月 23 日消息，微软研究院近日发布技术报告。公布了 Phi-3 系列 AI 模型，共有 mini（38 亿参数）、small（70 亿参数）和 medium（140 亿参数）三个版本。
微软表示拥有 38 亿参数的 phi-3-mini 通过 3.3 万亿个 tokens 上训练，其基准跑分性能超出 Mixtral 8x7B 和 GPT-3.5。
微软表示 phi-3-mini 模型可以部署在手机等设备上，在 27 亿参数的 Phi-2 模型上，进一步整合了严格过滤的网络数据和合成数据。
微软也坦言 phi-3-mini 模型虽然通过优质数据在语言理解和推理能力上媲美更大参数的 AI 模型，但在 TriviaQA 等某些任务上依然受到模型规模的限制。
微软还表示 phi-3-small 和 phi-3-medium 两个模型在 MMLU 上的得分分别为 75.3 和 78.2。
附上参考
iPhone上本地每秒生成12个tokens，微软发布phi-3-mini模型，加速AI模型部署速度相关教程
- AMD新推出AI加速卡MI300X：训练模型速度超英伟达H100，快60%
- 微软放大招，讯飞发布大模型，谷歌泄密文件：AI一周见闻
- Meta携手微软、高通发布免费开源大模型，打破AI产业垄断！
- 英伟达推出游戏定制化AI模型代工服务，助力芯片巨头加速AI重磅产品发展
- 韩国东软宣布引入微软韩国的云平台“Azure”，加速数字化转型
- 微软举办峰会，大模型赋能网安行业，AI赋能成信息安全胜负手
- 微软展示LLaVA-Med AI模型，可读CT和X光片，助力医疗影像诊断
- 英伟达AI超级芯片全面投产，加速AI大模型及超算市场占领
- 微软Build大会总结：Windows彻底变革，AI生态系统成型引领未来
- 大模型晚报｜NVIDIA宣布推出DGX GH200人工智能超级电脑助力AI模型训练
- 英伟达新一代AI芯片过热延迟交付？公司回应称“客户还在抢”
- 全球第二大显卡制造商，要离开中国了？疑似受全球芯片短缺影响
- 国外芯片漏洞频发，国产CPU替代加速，如何保障信息安全？
- 如何有效解决CPU温度过高问题的实用方法，让你的电脑更稳定运行
- 如何下载和安装NVIDIA控制面板的详细步骤指南: 一步步教你轻松完成
- 从速度和精度角度的 FP8 vs INT8 的全面解析：哪个更适合你的应用需求？
微软资讯推荐
- 1 英伟达新一代AI芯片过热延迟交付？公司回应称“客户还在抢”
- 2 微软Win11将为开始菜单/任务栏应用添加分享功能，让你的操作更便捷！
- 3 2025年AMD移动处理器规格曝光：AI性能重点提升
- 4 高通Oryon CPU有多强？它或将改变许多行业
- 5 太强了！十多行代码直接让AMD FSR2性能暴涨2倍多，性能提升神速！
- 6 当下现役显卡推荐游戏性能排行榜（英伟达篇）！——最新英伟达显卡游戏性能排名
- 7 微软发布Win11 Beta 22635.4440预览版：重构Windows Hello，全面优化用户生物识别体验
- 8 抓紧升级Win11 微软明年正式终止对Win10的支持，Win10用户赶紧行动
- 9 聊聊英特尔与AMD各自不同的CPU整合思路及性能对比
- 10 AMD锐龙7 9800X3D处理器开盖，CCD顶部无3D缓存芯片揭秘
win10系统推荐