大模型开发工程师 roadmap
你好,我是郭震
大模型开发工程师应该是接下来几年最火的方向之一,今天逛github发现一个很好的学习导图,是一个专业的大模型开发工程师的学习路线图:
我翻译了一下,供英文不是很好的同学参考:
- 运行LLMs:
- LLM APIs
- 开源LLMs(Open-source LLMs)
- 提示工程(Prompt engineering)
- 结构化输出(Structuring outputs)
- 构建向量存储:
- 摄入文档(Ingesting documents)
- 分割文档(Splitting documents)
- 嵌入模型(Embedding models)
- 向量数据库(Vector databases)
- 检索增强生成(Retrieval Augmented Generation):
- 编排器(Orchestrators)
- 检索器(Retrievers)
- 内存(Memory)
- 评估(Evaluation)
- 高级RAG(Advanced RAG):
- 查询构建(Query construction)
- 代理和工具(Agents and tools)
- 后处理(Post-processing)
- 编程LLMs(Program LLMs)
- 推理优化(Inference optimization):
- 闪电注意力(Flash Attention)
- 键值缓存(Key-value cache)
- 投机解码(Speculative decoding)
- 部署LLMs:
- 本地部署(Local deployment)
- 演示部署(Demo deployment)
- 服务器部署(Server deployment)
- 边缘部署(Edge deployment)
- 安全LLMs:
- 提示黑客(Prompt hacking)
- 后门(Backdoors)
- 防御措施(Defensive measures)
最新评论
推荐文章
作者最新文章
你可能感兴趣的文章
Copyright Disclaimer: The copyright of contents (including texts, images, videos and audios) posted above belong to the User who shared or the third-party website which the User shared from. If you found your copyright have been infringed, please send a DMCA takedown notice to [email protected]. For more detail of the source, please click on the button "Read Original Post" below. For other communications, please send to [email protected].
版权声明:以上内容为用户推荐收藏至CareerEngine平台,其内容(含文字、图片、视频、音频等)及知识版权均属用户或用户转发自的第三方网站,如涉嫌侵权,请通知[email protected]进行信息删除。如需查看信息来源,请点击“查看原文”。如需洽谈其它事宜,请联系[email protected]。
版权声明:以上内容为用户推荐收藏至CareerEngine平台,其内容(含文字、图片、视频、音频等)及知识版权均属用户或用户转发自的第三方网站,如涉嫌侵权,请通知[email protected]进行信息删除。如需查看信息来源,请点击“查看原文”。如需洽谈其它事宜,请联系[email protected]。