• 时间:
  • 分类: 大语言模型
  • 标签: None
  • 阅读(864)
  • 👍推荐(0)
  • 评论(0)

清华大学自然语言实验室在2022年推出的《大模型交叉研讨课》，由刘知远团队和两位助教共同授课，三个部分共9节，完整课程视频已经上传B站。

大模型基础知识

  1. NLP 和大模型基础 (GPU server, Linux, Bash, Conda, …)
  2. 神经网络基础 (PyTorch)
  3. Transformer 和 PLMs (Huggingface Transformers)

大模型的关键技术

  1. 提示调整和三角调整 (OpenPrompt, OpenDelta)
  2. 高效训练和模型压缩 (OpenBMB 套件)
  3. 基于大模型的文本理解和生成

大模型的跨学科应用

  1. 大模型 X 生物医学科学
  2. 大模型 X 法律智能
  3. 大模型 X 脑与认知科学

地址：https://www.bilibili.com/video/BV1UG411p7zv/