你好，我是郭震
大模型开发工程师应该是接下来几年最火的方向之一，今天逛github发现一个很好的学习导图，是一个专业的大模型开发工程师的学习路线图：
我翻译了一下，供英文不是很好的同学参考：

  1. 运行LLMs：
    • LLM APIs
    • 开源LLMs（Open-source LLMs）
    • 提示工程（Prompt engineering）
    • 结构化输出（Structuring outputs）
  2. 构建向量存储：
    • 摄入文档（Ingesting documents）
    • 分割文档（Splitting documents）
    • 嵌入模型（Embedding models）
    • 向量数据库（Vector databases）
  3. 检索增强生成（Retrieval Augmented Generation）：
    • 编排器（Orchestrators）
    • 检索器（Retrievers）
    • 内存（Memory）
    • 评估（Evaluation）
  4. 高级RAG（Advanced RAG）：
    • 查询构建（Query construction）
    • 代理和工具（Agents and tools）
    • 后处理（Post-processing）
    • 编程LLMs（Program LLMs）
  5. 推理优化（Inference optimization）：
    • 闪电注意力（Flash Attention）
    • 键值缓存（Key-value cache）
    • 投机解码（Speculative decoding）
  6. 部署LLMs：
    • 本地部署（Local deployment）
    • 演示部署（Demo deployment）
    • 服务器部署（Server deployment）
    • 边缘部署（Edge deployment）
  7. 安全LLMs：
    • 提示黑客（Prompt hacking）
    • 后门（Backdoors）
    • 防御措施（Defensive measures）
继续阅读
阅读原文