LoRA速度可能不会快很多,但是显存开销会非常显著的降低。因为参数冻结❄了,所以梯度,动量这些显存开销大头都不会存储,只有LoRA🔥的极少量参数需要保存这些信息来更新梯度。
算法岗可谓人工智能领域最受欢迎的岗位之一,然而不少人对于算法岗真正的工作内容和技能要求却不是很了解,对于算法岗的面试技巧也只局限于在简历上“堆项目”“放顶会”。