大家好，我是zenRRan，是本号的小号主。
从该公众号的名字就能看出，运营已经好多年了，这些年当中直接或间接帮助很多同学从NLP入门到进阶，理论到实践，学校到企业，本科到硕士甚至博士。
每天习惯性的上午9点准时去刷arxiv最新论文，虽然它常常迟到，但几乎从未缺席。之前还都是自己解读论文，后来由于时间原因慢慢的将这个交给了感兴趣的小伙伴解读了。
去年也就是23年的11月底，终于决定了之前一直想做但未下定决定做的事情：
做一个年轻化的论文直播分享平台，这也是NICE诞生的原因，目前已经成功举办了5期（目前已经排到了第7期），一共邀请了20多位来自各大高校的一线科研同学前来分享，期间也认识数位愿意加入NICE共同推动该活动继续举办的小伙伴（就是每期的主持人~） 目前已经收到了越来越多的小伙伴对该活动的支持并从中受益，很有意义，会一直做下去。
一件事坚持了这么久，能帮助到一些同学就很开心。
自从22年底ChatGPT问世以来，尤其是23年夏天开始到现在，越来越多的小伙伴来咨询我，有在校生由于身边环境、资源或者导师的问题导致自己对LLM接触不深从而对自己的学术前景堪忧，有即将毕业的学生找工作困难，有大厂在职同学对目前LLM冲击和就业的迷茫，因为越来越多的岗位和面试官都愿意问LLM相关的东西（即使面试官自己有时候也不咋了解）。
迷茫是因为LLM这个时代绝大多数同学根本接触不到前沿，因为资源不够、身边没人搞这个、时间不足等各种原因，导致自己根本不敢触碰LLaMA等开源模型，更不好要说深入了解并实操了，因为现在的NLP和以前传统NLP真的不一样了，之前你可能掌握深度学习就行了，但是现在需要你全栈了！
所以今年我和几位业界和学术界的佼佼者一起做了个决定，打造一个属于我们自己的训练营。用我们最大的努力帮助需要的同学，他们分别是：
  • 数个大厂LLM leader和面试官 - 知道问什么
  • 23年面试近50家国内LLM大厂通过率100%拿到最顶级offer的毕业生 - 知道准备什么
  • top2在校一线研究员 - 知道如何快速打基础
  • 某985一线年轻副教授，每年LLM论文发到手软 - 熟知学术前沿，可提供idea
我们的目标就是，一个月手把手带你掌握LLM理论与实践，并获得面试or学术指导！
我们采用
  • 1次直播，讲述LLM找工作/搞科研需要具备哪些能力？
  • 10次直播，手撕理论与实战
  • 课后录播+及时答疑
  • （找工作）模拟面试、真实面试复盘等
  • （搞科研）提供学术指导、idea等

内容介绍

LLM找工作需要具备哪些能力
整体概览 - LLM找工作/搞科研需要具备哪些能力？
  • 现阶段LLM市场上的哪些岗位，比如基座模型训练（预训练和对齐）、应用方向、AI Infra等
  • LLM工程师/学者需要的能力
  • LLM基础点（课程重点），比如预训练知识、微调、强化学习、优化、应用、评估等
  • 代码能力（课程重点）
  • 其他基础，包括计算机基础+数学功底等
手撕理论+实践
手撕理论+实践
  1. 梳理整个transformer基础
    （手撕Transformer、BERT、GPT等经典模型）
    实战：GPT预训练
  2. LLaMA
    （数据处理、SFT、CoT、手撕LLaMA和LLaMA2）
    实战：LLaMA预训练
  3. LoRA
    （包括手撕LoRA和QLoRA等）
    实战：LLaMA2+QLoRA
  4. RLHF
    （手撕DQN&A2C、SFT、RW、RW-PPO等）
    实战：RLHF训练实战
  5. decoding算法
    （手撕Flash Attention等）
    实战：flash attention和 flash decode等对比实验验证效果
  6. 分布式训练
    （分布式并行、分布式集群、DeepSpeed）
    实战：deepspeed实战
  7. 长文本问题
    （详解位置编码等）
    实战：拓宽上下文窗口实践
  8. 推理优化（详解Vllm等）
  9. 国内有名LLM模型（详解ChatGLM、Baichuan、MOSS、零一、千问等）
  10. Agent&RAG
    （详解Agent和RAG理论）
    实战：langchain
备注：细节的点很多很多，上面只是粗略的列举了一些~

面向群体是哪些？

适合群体

  • 在校：NLP方向的学生，自己没有规划 or 导师无法手把手指导自己，在LLM时代略有迷茫，想快速掌握前沿理论与实践，并顺带得到一些学术指导，可以直接提供可做的idea
  • 校招：前几年有些荒废 or 身边环境和资源阻碍了自己学习LLM，想快速掌握LLM理论与实践，并通过面试指导和真实面试复盘，大大提高拿到高薪offer的机会
  • 社招：传统NLP方向想跳槽转高薪LLM岗位，但时间匆忙，想找个快速进阶的通道，外加面试指导与复盘，为跳槽做好充分跳槽

不适合群体

  • 不适合NLP零基础想直接进阶LLM的
  • 不适合其他专业想短时间转行LLM的
  • 不适合已经是P7及以上大佬要进阶的

其他问题

  1. 直播上课期间可以当场提问吗？当然可以，在课程当中会有提问环节，直接与老师面对面提问即可。
  2. 课后会有录播吗？直播后会将该 直播视频+所有课上的材料 放入群中，供同学课后学习
  3. 课后答疑会是怎么样的？答疑直接在群里提问即可，老师会及时回答，如果大家疑惑点一致的话，会额外安排答疑meeting细细解答。
  4. 模拟面试和真实面试复盘 和 学术指导是什么时候开始？一般默认为课程结束后进行面试指导 or 学术指导，如果想提前与我们说即可，一般没问题。
  5. 课程结束后新的技术还会继续同步群里吗？之后新的课程如果有新的技术加入，会更新到群里的哈。
  6. 一定能进大厂吗？我们不做这个保证的，保证这个的绝对是割韭菜。如果跟着我们制定的路线走，我们能保证你从10分提到80分；如果你本身就已经有基础了，我们有信心帮你从80分提到95分，这几分可是相当具有含金量。

招生名额

我们本次只招收3-5名同学，精英式培养，招满为止。
咨询报名，备注：训练营
本期开课时间暂定为 2024.1.27 开课，每周两节，过年不开课，3月初学完所有课程。
2024以蜕变开始。
继续阅读
阅读原文