自从22年底ChatGPT问世以来，尤其是23年夏天开始到现在，越来越多的小伙伴来咨询我，有在校生由于身边环境、资源或者导师的问题导致自己对LLM接触不深从而对自己的学术前景堪忧，有即将毕业的学生找工作困难，有大厂在职同学对目前LLM冲击和就业的迷茫，因为越来越多的岗位和面试官都愿意问LLM相关的东西（即使面试官自己有时候也不咋了解）。
迷茫是因为LLM这个时代绝大多数同学根本接触不到前沿，因为资源不够、身边没人搞这个、时间不足等各种原因，导致自己根本不敢触碰LLaMA等开源模型，更不好要说深入了解并实操了，因为现在NLP和以前传统NLP真的不一样了，之前你可能掌握深度学习就行了，但是现在需要你全栈了！
所以今年我和几位工业界和学术界的佼佼者一起做了个决定，打造一个属于我们自己的训练营，用我们最大的努力帮助需要的同学，他们分别是：
  • 数个大厂LLM leader和面试官
  • 23年面试近50家国内LLM大厂通过率100%拿到多个大厂人才计划offer的毕业生
  • top2在校一线研究员
  • 某985一线年轻副教授，每年LLM论文发到手软
我们的目标是：知行合一，金三银四，月余时间就能攻略LLM！
具体服务内容如下
  • 直播：至少10次在线直播，涵盖近100个知识点、8项实战内容。
  • 录播：会提供直播课程的所有录播
  • 答疑：课上开麦与老师QA、课下文字答疑，若需要可组织会议答疑
  • 面经：提供大部分LLM公司面试题+自己整理与收集的答案，大约100+页
  • 求职：（二选一）模拟面试、真实面试复盘等
  • 科研：（二选一）学术指导、idea相关指导等

直播内容大纲

我们会分10次课讲完以下内容，涵盖近100个知识点(论文精读、白板推导和代码精读等)、8项实战内容。
  1. 基础知识
    磨刀不误砍柴工，LLM基础知识还是需要的。会按照历史梳理LM，详解BERT、GPT系列等各种预备核心知识点，并带着进行GPT预训练实战、位置编码（长文本问题）实战等。
  2. 数据工程
    数据很重要，数据是天花板，算法只是无限接近天花板。LLM的第一步就是数据处理，国外的很多SoTA研究都基于此。
  3. 分布式训练框架
    大语言模型的“大”，就离不开分布式。ZeRO的三个级别、Deepspeed理论与实战等等是必备技能。
  4. 微调
    LLM微调最费机器，所以也是知识点最多的地方，比如详解各种PEFT方法、LoRA、QLoRA（两种量化、Page Optimizer等）、RLHF（强化学习基础、RW、PPO和PPO-max）等，以及Llama-Factory实战、LLaMA2-QLoRA实战和RLHF实战来巩固所学。
  5. 推理和部署优化
    LLM模型搞定，就需要考虑如何快速推理了。这里会详解Flash Attention、Speculative Decoding、KV-Cache、Paged Attention、Dynamic Batching和Contiuous Batching、稀疏attention和MoE等。
  6. 评测和分析
    LLM有输出啦，那么如何评测呢，又该评测哪些呢？这些问题又是哪里导致的呢？这里会一一进行讲解。
  7. 应用
    目前应用最火的就是Agent、langchain、RAG了，我们会对其进行详解，并最后以langchain-RAG实战收尾。
  8. 中文LLM详解
    这里对国内的开源LLM进行统一详解，了解下国内都做到什么地步了，或许某一个模型隶属的公司就是你的下家呦~
好消息，我们会提供试听课，内容为：
  1. LLM找工作/搞科研需要具备的能力
  2. LLM整体课程概览
加我，备注是训练营，即可获取。
备注：训练营

面经

我们陆续已经收集+自己整理的LLM面试题+答案已经100+页了，目前还在每天更新中~

面试指导

当课程结束后，可以根据自己情况来约面试，我们有面试官和刚获得几乎所有大厂人才计划的同学，你觉得你会收获怎样的经验~

学术指导

我们有近几年刚拿教职的985在校95后老师，每年CCF A/B学术成果占学院的近一半（每年差不多15篇），学术经历、论文经验、idea多的都愁没人做，肯定会对你有巨大帮助哒~

面向群体是哪些？

适合群体：

  • 在校：NLP方向的学生，自己没有规划 or 导师无法手把手指导自己，在LLM时代略有迷茫，想快速掌握前沿理论与实践，并顺带得到一些学术指导，可以直接提供可做的idea
  • 校招：前几年有些荒废 or 身边环境和资源阻碍了自己学习LLM，想快速掌握LLM理论与实践，并通过面试指导和真实面试复盘，大大提高拿到高薪offer的机会
  • 社招：传统NLP方向想跳槽转高薪LLM岗位，但时间匆忙，想找个快速进阶的通道，外加面试指导与复盘，为跳槽做好充分跳槽

不适合群体：

  • 不适合NLP零基础想直接进阶LLM的
  • 不适合其他专业想短时间转行LLM的
  • 不适合已经是P7及以上大佬要进阶的

一定能进大厂吗？

我们不做这个保证的，保证这个的绝对是割韭菜。如果跟着我们制定的路线走，我们能保证你从10分提到80分；如果你本身就已经有基础了，我们有信心帮你从80分提到95分，这几分可是相当具有含金量。

招生名额

我们本次只招收5-7名同学，还剩几个名额，精英式培养，招满为止。
加我咨询~
备注：训练营
本期开课时间定为 2024.1.27开课，每周两节，过年不开课，3月初学完所有课程。
2024以蜕变开始。
继续阅读
阅读原文