工研院資通所_AI 系統架構與推論優化實習生(F103)

【工作內容】 

本職務負責開發與整合以大型語言模型（LLM）為核心之 AI 客服與智慧互動系統，包含 RAG 架構、AI Agent、地端部署服務及多語言應用。工作內容涵蓋知識檢索、即時通訊整合，以及將語音與對話系統導入實體客服或陪伴型機器人，並與專案團隊及合作單位協作，確保系統穩定運作並符合政府與長照場域需求。 

【職務亮點／優勢】 

1. 可參與從 LLM、RAG 與 AI Agent 設計，到地端部署與實體機器人整合的端到端 AI 系統建置，而非僅限模型實驗。 

2. 參與部署於醫療、長期照護及政府服務場域之 AI 客服與陪伴系統，直接產生公共服務與社會價值。 

3. 與學術單位合作，實際投入國語、台語、客語等多語言 AI 系統之開發與落地。 

4. 實作任務型與關懷型 AI Agent，並將其部署於實體服務型或陪伴型機器人。 

5. 累積符合資安、地端部署、系統穩定性與法規要求之政府專案 AI 系統經驗。 

6. 依專案成果與技術貢獻，可進一步發展至系統架構設計、應用型研究或領域 AI 技術主導角色。

【工作內容】 結合軟硬體協同設計、作業研究(Operation Research)、數學建模與資料工程，開發專為AI晶片加速推論與強化硬體效能的演算法與中介軟體，於特定晶片硬體架構優化任務部署、模型量化壓縮與優化。 1.AI晶片中介軟體演算法設計與開發：設計與發展適合特定硬體加速器(如：NPU/GPU/FPGA)的模型量化(Quantization)、剪枝(Pruning)、任務指派與資源配置演算法，監控並優化模型表現，完成版本迭代。 2.數據資料建構與模擬：依據AI晶片與加速器之推論中介軟體框架與流程，利用AI技術建模，並於模擬環境預測效能與資料清洗，再依據實體硬體資源規格採集並統計分析效能運算數據。 3.模型部署與系統整合：部署AI模型及演算法於Mini Data Center或Edge AI平台，開發高效能硬體抽象層或驅動串接程式。 4.趨勢應用與導入：追蹤研析AI加速器發展趨勢，並據以發展新興技術，以運用於實證場域。 【需求條件】 1.精通Python、C相關(C、C++、C#)程式語言與Linux開發環境，熟悉各式AI加速器底層推論框架，通用框架如：vLLM、llama.cpp、ONNX Runtime等；專用框架如：PyTorch、ONNX、TensorRT、Triton Inference Server、OpenVINO等；有封裝演算法與應用系統串接的實戰經驗、熟習LLM、VLA、RAG者尤佳。 2.具備數位電路架構、記憶體頻寬限制，及訊號處理或電腦視覺之專業知識，以及IC設計所產生的結構化數據處理經驗，並能與硬體協作調優系統效能。 3.擁有處理海量數據及基本數據視覺化能力。 4.熱忱學習，可快速掌握新技術，能規劃技術規格，編寫技術文件，並轉化實作為技術產品；同時擁有良好的邏輯思維與跨部門溝通和團隊合作能力。

1.無人機模擬系統建置。  

2.無人機地面站軟體開發(使用VC++, C#, Qt, Python, Java等語言)。  

3.進行影像辨識，AI運算等應用軟體功能開發。  

4.PX4、Ardupilot飛控韌體開發。  

5.整合與測試環境建置。

協助自主移動機器人軟體開發。

協助AI模型訓練、資料標記。

《工作內容》 

1. 負責雲端與邊緣運算平台之基礎架構建置、部署與維運，聚焦 Kubernetes、K3S 與 KubeEdge 架構整合。 

2. 規劃並開發邊緣節點管理、工作負載佈署、服務治理、資源監控與異常排除機制。 

3. 建立 CI/CD、自動化部署與 Infrastructure as Code 流程，提升開發與維運效率。 

4. 與 AI、系統軟體與應用團隊協作，支援容器化服務於雲邊協同場域之落地。 

《職務亮點/優勢》 

1. 參與雲邊協同與智慧場域之核心平台建設，技術可落地於多元產業應用。 

2. 深入實作 K8s / K3s / KubeEdge 與 Edge Native 架構，累積前瞻基礎設施能力。 

3. 有機會結合自動化維運、可觀測性與平台工程實務，打造可擴展的研發平台。

《工作內容》 

1. 負責視覺語言模型（VLM）、大型語言模型（LLM）與 Agentic AI 系統之研發、整合與驗證。 

2. 建構多模態推論流程，整合影像、文字、文件等資料，發展具任務規劃、工具調用與流程自動化能力之智慧代理系統。 

3. 設計 Prompt、RAG、Tool Use、Workflow Orchestration 與模型評測機制，提升系統準確度、穩定性與可用性。 

4. 與平台、Infra、前後端及場域應用團隊合作，推動生成式 AI 技術於實際產業場域落地。 

《職務亮點/優勢》 

1. 可參與 VLM、LLM、RAG、AI Agent 等前瞻技術之系統化研發。 

2. 有機會將多模態模型與 Agent workflow 導入真實產業情境，從 PoC 推進到可落地原型。 

3. 可結合雲端、邊緣、資料工程與應用場域需求，累積完整生成式 AI 系統實作經驗。

工作內容說明：系統級FPGA架構設計 + AI/視覺IP開發 + 特殊應用系統整合 

1.CIM AI晶片之ASIC FPGA Prototyping平台建置與驗證 

2.TinyML平台關鍵IP之FPGA設計與加速架構開發 

3.TinyML系統級FPGA整合與邊緣AI應用開發 

4.量子運算控制系統之低溫FPGA控制架構開發 

5.FPGA硬體與軟體協同設計（HW/SW Co-design） 

6.建立AI晶片設計前期驗證與系統測試平台

【工作內容】 

開發資安管理平台後端，設計 RESTful API 架構，將各類開源或商用資安掃描工具整合至 Web 統一介面，實現「單一平台，全域掃描」。透過 AI 轉化為開發人員可直接使用的程式碼修補建議 (Code Fix Recommendations) 與漏洞成因分析，降低修補門檻。 

【職務亮點／優勢】 

1.工作不是單純的維運或看報表，而是親手打造一套能「自動發現問題」並「自動建議解法」的 AI 資安產品。 

2. 挑戰如何讓 AI 讀懂複雜的弱點掃描報告，並精準輸出 Code Level 的修補建議，這是目前 DevSecOps 領域含金量最高的技能。 

3. 掌握國際最新合規技術，合規自動化工具將是未來 3-5 年硬體與軟體出口的剛需，相關經驗將極大提升職涯稀缺性。

• 具備以下任一項經驗者佳： 

　- 實際參與機器人與視覺整合系統開發 

　- 電腦視覺與影像處理應用（OpenCV、PCL） 

　- AI/深度學習演算法整合與應用於實體機器人專案 

• 熟悉 C++ 與 Python 程式設計，具五年以上相關開發經驗 

• 熟悉以下技術者尤佳： 

　- OpenCV、Point Cloud Library (PCL)、CUDA、Qt 

　- 物件導向程式設計、多執行緒程式架構 

　- ROS 或其他機器人軟體平台整合經驗 

• 具備良好的溝通能力、團隊合作精神、主動積極、責任感強

開發AI系統，基於基地台獲得的資訊環境物件偵測/定位

進行3GPP標準追蹤、市場追蹤

Participate in the system and software R&D related to UAV swarm networking, including: 

1.Development of UAV swarm flight mission and performance simulations. 

2.Development of recommendations for UAV swarm mission specifications. 

3.Front-end and back-end software development for UAV swarm systems. 

4.Development of communication modules for UAV swarms. 

5.Analysis and development of standards related to UAV swarms.

協助系統專案前端開發

協助建置與測試 RAG（Retrieval-Augmented Generation）系統架構，包含資料整理、資料格式設計與模型訓練流程自動化，並持續追蹤國際大型語言模型（LLM）、RAG 與 Fine-tuning 相關研究趨勢及開源工具，參與實驗驗證與技術評估。

AI多模態資料建構與生成

1. 負責系統後端架構的設計、開發、測試與維護 2. 維運與優化雲端平台基礎設施（AWS、GCP），監控系統資源，確保系統高可用性與穩定運行 3. 負責系統模組開發（包含：資料庫架構設計、跨系統資料串接、即時數據處理） 4. 設計並開發 RESTful API 與 WebSocket、WebRTC 等，確保前後端資料同步流暢 5. 與前端/APP 開發團隊、PM 跨部門協作，持續優化系統效能與服務穩定度

協助自動部署AI模型至嵌入式系統進行推論之整合流程

1. 負責行動裝置應用程式（App）的架構設計、開發、測試與維護 2. 開發與優化影像處理相關功能（包含：相機硬體串接、影像分析、濾鏡處理或視覺辨識模型串接） 3. 負責場域應用程式開發（如：IoT 設備連線、LBS 定位服務、即時數據互動等），並確保在不同場域的穩定性 4. 串接第三方 API 與後端服務（RESTful API、WebSocket），處理 JSON/XML 資料格式，確保前後端資料同步流暢 5. 與 UI/UX 團隊、PM 及後端工程師跨部門協作，持續優化 App 效能與使用者體驗（UX）

1. AI系統架構規劃與整合：規劃AI應用系統架構，整合模型、資料平台與邊緣設備，發展具產業應用價值解決方案。 

2. AI垂直整合系統設計：依據產業需求規劃AI垂直整合系統架構。 

3. 團隊專案管理：帶領技術團隊執行研發專案，負責分派及進度管理，確保研發成果順利導入。 

4. 跨領域技術整合與需求：參與產業合作專案討論，整合AI技術及系統並提出方案。 

5. 技術發展策略與產業應用：追蹤國際AI技術發展趨勢，協助規劃團隊中長期技術發展方向，促進研發成果落地。