課程假設學員已具備基本程式開發經驗,重點放在如何將 LLM 穩定、安全地整合到實際產品當中,包含大量生產環境常見的坑與解決方案分享。
進階技術 中級至進階
LLM 應用開發:API 整合與 RAG 實戰
為開發人員而設,將大型語言模型整合到你的產品中
教授如何透過 API 整合 OpenAI、Claude、Gemini 等大型語言模型,並實作 RAG(檢索增強生成)架構,讓 AI 能基於企業自有資料回答問題。
課程大綱
1 LLM API 整合基礎
- 主流 LLM API 比較與選型考量
- 串流回應、Token 用量與成本控制
2 RAG 架構實戰
- 文件切割、嵌入(Embedding)與向量儲存
- 檢索與生成流程串接
- 提升答案準確度的技巧
3 生產環境部署
- 快取與延遲優化
- 安全性與資料私隱考量
適合對象
- 有程式開發經驗的工程師
- 產品團隊需要在產品中整合 AI 功能
- 技術主管評估 AI 導入方案