進階技術 中級至進階

LLM 應用開發:API 整合與 RAG 實戰

為開發人員而設,將大型語言模型整合到你的產品中

教授如何透過 API 整合 OpenAI、Claude、Gemini 等大型語言模型,並實作 RAG(檢索增強生成)架構,讓 AI 能基於企業自有資料回答問題。

課程大綱

1 LLM API 整合基礎

  • 主流 LLM API 比較與選型考量
  • 串流回應、Token 用量與成本控制

2 RAG 架構實戰

  • 文件切割、嵌入(Embedding)與向量儲存
  • 檢索與生成流程串接
  • 提升答案準確度的技巧

3 生產環境部署

  • 快取與延遲優化
  • 安全性與資料私隱考量

課程假設學員已具備基本程式開發經驗,重點放在如何將 LLM 穩定、安全地整合到實際產品當中,包含大量生產環境常見的坑與解決方案分享。

適合對象

  • 有程式開發經驗的工程師
  • 產品團隊需要在產品中整合 AI 功能
  • 技術主管評估 AI 導入方案