Echo:喜欢学习技术,也热爱运动学术圆桌派

Echo:喜欢学习技术,也热爱运动

30分钟 ·
播放数50
·
评论数0

本期邀请到《学术圆桌派》的嘉宾是 Echo 同学,她目前在一家IT公司工作,她研究生期间的研究课题涉及到计算机视觉,深度学习和强化学习。很感谢Echo带来她的学习和工作经历,对于社恐的她来说,这次播客录制是一次勇敢的尝试和自信的表达。

PS: 技术更新换代很快,今天探讨的内容仅代表当前视角,供大家参考。

一些关键字:

深度学习:有监督和无监督学习

强化学习:actor,critic

ground truth:金标准

reward model

gan 模型

RRHF 通常指 Rank Responses to Align Human Feedback,可以理解为“通过对回答排序来进行人类偏好对齐”。它是 2023 年 NeurIPS 的一篇工作,目标和 RLHF 类似:让大语言模型生成的答案更符合人类偏好,但它试图绕开传统 RLHF 中比较复杂的 PPO 强化学习过程。

transformer 注意力模型

conv 卷积

encoder decoder 模型

llm 模型:large language model

蒸馏数据

sota: state of the art

infra: 基建