谷歌利用小模型加速AI训练大模型，提升28% 效率

　　谷歌推出的SALT方法通过引入小型语言模型辅助训练大型模型，显著提高了训练效率和性能。

　　该方法采用两阶段训练过程，首先通过知识蒸馏让小型模型传递知识，然后大型模型进行自我监督学习。

　　实验显示，使用SALT方法可以将大型模型的训练时间缩短28%，并在多个任务上取得了显著的准确率提升。

　　SALT方法将大型模型的训练时间缩短28%，显著降低计算成本。

　　小型模型通过知识蒸馏显著提升大型模型在复杂任务上的表现。

　　SALT的创新降低了AI开发的门槛，促进更多小型机构参与AI研究。