職缺描述
1.整合 LLM 模型與應用系統 - 採用 RAG 架構整合內外部語意資料。 - 提供 LLM 推論服務與相關 API(如 Prompt API、Embedding API、Agent API)。 2.提示工程與驗測模型 - 設計並優化 Prompt。 - 解決 Domain-specific 與 Edge-case 回答問題。 - 評估與調整模型精準度與穩定性。 3. API 系統開發與維運(使用 FastAPI) - 使用 FastAPI 架設模組化服務。 - 強化與內部系統串接效能。 - 開發與維運推論相關 API。 4. 資料清洗與轉換(RAG Pipeline 前處理) - 處理半結構化資料(PDF、HTML、Word、Markdown)。 - 對後續 embedding 與 chunking 流程進行最佳化。 # 技能要求 1. LLM API & tool_calls: - 能區分何時使用 Tool Calls、何時使用 RAG。 - 熟悉使用地端模型回應特定領域問題(如金融相關知識、理財、策略交易...等)。 2. Prompt Engineering: - 能針對專業任務撰寫具語意控制的 prompt。 - 調整提示詞以提升準確性與一致性。例如:在開發一個專為金融數位服務提供的AI系統,工程師需要精心設計prompt,以確保生成的回覆既專業又準確。 3. Agent & Chaining: - 能獨立開發處理複雜任務的 AI Agent。 - 整合多個 Agent 實現端對端流程(如數據分析、廣告優化)。 4. Embeddings: - 了解如何透過向量理解文本與用戶需求(如推薦系統)。例如,在建立一個客製化新聞推薦系統時,工程師會使用嵌入向量來理解用戶的興趣和新聞文章的內容,從而提供客製化的推薦。 5. Vector Database: - 熟悉向量資料庫的查詢與優化方法(如相似度檢索)。 6. RAG(Retrieval-Augmented Generation): - 了解檢索+生成混合架構的判斷與應用場景。 - 能分辨何時用 RAG、何時直接查詢資料庫。
收合內容