苹果研究团队推出了一种先进的开放语言模型OpenELM。OpenELM使用分层缩放策略,在transformer模型的每一层中有效地分配参数,从而提高了准确性。例如,在参数预算约为10亿的情况下,OpenELM 的准确率比OLMo提高了2.36%,而所需的预训练token却减少了2倍。

与之前只提供模型权重、推理代码以及在私有数据集上进行预训练的做法不同,OpenELM包含了在公共可用数据集上对语言模型进行训练和评估的完整框架,包括训练日志、多个检查点和预训练配置。此外,他们还发布了将模型转换为MLX库的代码,从而在苹果设备上进行推理和微调。

早在今年2月,苹果公司CEO TimCook表示,苹果生成式AI功能将于“今年晚些时候”推出,有消息称即将在6月发布iOS 18可能是苹果iOS史上“最大”的更新,而9月也将推出首款AI iPhone设备。

声明:本文所述观点并非519TGY链上之家的立场,并不构成对购买、持有或出售任何数字资产(包括加密货币、硬币和代币)或进行任何投资活动的邀约或建议,本文仅供参考。投资存在风险,请自行评估。转载需注明来源,违者必究!