README.md

Phi 食譜：Microsoft Phi 模型的實作範例

Phi 是由 Microsoft 開發的一系列開源人工智能模型。

Phi 目前是功能最強大且最具成本效益的小型語言模型（SLM），在多語言、推理、文字／聊天生成、編碼、影像、音訊及其他場景中均有非常優異的基準表現。

您可以將 Phi 部署到雲端或邊緣裝置，並能夠輕鬆使用有限的計算能力建構生成式 AI 應用。

請依照以下步驟開始使用這些資源：

1. 派生此倉庫：點擊
2. 克隆此倉庫：git clone https://github.com/microsoft/PhiCookBook.git
3. 加入 Microsoft AI Discord 社群，與專家及開發者交流

🌐 多語言支援

透過 GitHub Action 支援（自動且持續更新）

阿拉伯文 | 孟加拉文 | 保加利亞語 | 緬甸語 (緬甸) | 中文（簡體） | 中文（繁體，香港） | 中文（繁體，澳門） | 中文（繁體，臺灣） | 克羅地亞語 | 捷克語 | 丹麥語 | 荷蘭語 | 愛沙尼亞語 | 芬蘭語 | 法語 | 德語 | 希臘語 | 希伯來語 | 印地語 | 匈牙利語 | 印尼語 | 義大利語 | 日語 | 坎納達語 | 高棉語 | 韓語 | 立陶宛語 | 馬來語 | 馬拉雅拉姆語 | 馬拉地語 | 尼泊爾語 | 奈及利亞洋蔥語 | 挪威語 | 波斯語 (法爾西語) | 波蘭語 | 葡萄牙語 (巴西) | 葡萄牙語 (葡萄牙) | 旁遮普語 (谷魯穆奇) | 羅馬尼亞語 | 俄語 | 塞爾維亞語 (西里爾字母) | 斯洛伐克語 | 斯洛文尼亞語 | 西班牙語 | 斯瓦希里語 | 瑞典語 | 塔加洛語 (菲律賓語) | 泰米爾語 | 泰盧固語 | 泰語 | 土耳其語 | 烏克蘭語 | 烏爾都語 | 越南語

偏好本地克隆嗎？

本倉庫包含超過 50 種語言的翻譯，會大幅增加下載大小。若不包含翻譯克隆，請使用稀疏檢出功能：

Bash / macOS / Linux:

git clone --filter=blob:none --sparse https://github.com/microsoft/PhiCookBook.git
cd PhiCookBook
git sparse-checkout set --no-cone '/*' '!translations' '!translated_images'

CMD (Windows):

git clone --filter=blob:none --sparse https://github.com/microsoft/PhiCookBook.git
cd PhiCookBook
git sparse-checkout set --no-cone "/*" "!translations" "!translated_images"

這樣您就會取得完成課程所需的所有內容，且下載速度更快。

目錄

• 介紹

  • 歡迎加入 Phi 家族
  • 設置您的開發環境
  • 理解關鍵技術
  • Phi 模型的 AI 安全
  • Phi 硬體支援
  • Phi 模型及跨平台可用性
  • 使用 Guidance-ai 和 Phi
  • GitHub 市場模型
  • Azure AI 模型目錄

• 在不同環境中推論 Phi

  • Hugging face
  • GitHub 模型
  • Microsoft Foundry 模型目錄
  • Ollama
  • AI 工具包 VSCode (AITK)
  • NVIDIA NIM
  • Foundry 本地

• 推論 Phi 家族

  • 在 iOS 上推論 Phi
  • 在 Android 上推論 Phi
  • 在 Jetson 上推論 Phi
  • 在 AI PC 上推論 Phi
  • 使用 Apple MLX 框架推論 Phi
  • 在本地伺服器推論 Phi
  • 使用 AI 工具包於遠端伺服器推論 Phi
  • 使用 Rust 推論 Phi
  • 本地推論 Phi–視覺
  • 使用 Kaito AKS 和 Azure Containers（官方支援）推論 Phi

• Phi 家族量化

  • 使用 llama.cpp 量化 Phi-3.5 / 4
  • 使用 onnxruntime 的生成 AI 擴充功能量化 Phi-3.5 / 4
  • 使用 Intel OpenVINO 量化 Phi-3.5 / 4
  • 使用 Apple MLX 框架量化 Phi-3.5 / 4

• Phi 評估

  • 負責任的 AI
  • 使用 Microsoft Foundry 進行評估
  • 使用 Promptflow 進行評估

• 結合 Azure AI 搜尋的 RAG

  • 如何使用 Phi-4-mini 和 Phi-4-multimodal (RAG) 搭配 Azure AI 搜尋

• Phi 應用程式開發範例

  • 文字與聊天應用

    • Phi-4 範例
      • [📓] 使用 Phi-4-mini ONNX 模型聊天
      • 使用 Phi-4 本地 ONNX .NET 模型聊天
      • 使用 Sementic Kernel 的 Phi-4 ONNX .NET 主控台應用聊天
    • Phi-3 / 3.5 範例
      • 使用 Phi3、ONNX Runtime Web 與 WebGPU 的本地瀏覽器聊天機器人
      • OpenVino 聊天
      • 多模型 - 互動式 Phi-3-mini 與 OpenAI Whisper
      • MLFlow - 建立封裝並使用 Phi-3 與 MLFlow
      • 模型優化 - 如何為 ONNX Runtime Web 使用 Olive 優化 Phi-3-min 模型
      • WinUI3 應用程式搭配 Phi-3 mini-4k-instruct-onnx -WinUI3 多模型 AI 功能筆記應用程式範例
      • 微調並整合自訂 Phi-3 模型與 Prompt flow
      • 在 Microsoft Foundry 中使用 Prompt flow 微調並整合自訂 Phi-3 模型
      • 評估在 Microsoft Foundry 中微調的 Phi-3 / Phi-3.5 模型，聚焦於微軟負責任的 AI 原則
      • [📓] Phi-3.5-mini-instruct 語言預測範例（中文/英文）
      • Phi-3.5-Instruct WebGPU RAG 聊天機器人
      • 使用 Windows GPU 與 Phi-3.5-Instruct ONNX 建立 Prompt flow 解決方案
      • 使用微軟 Phi-3.5 tflite 建立 Android 應用程式
      • 使用本地 ONNX Phi-3 模型和 Microsoft.ML.OnnxRuntime 的 Q&A .NET 範例
      • 使用 Semantic Kernel 與 Phi-3 的主控台聊天 .NET 應用程式

  • Azure AI 推理 SDK 代碼範例

    • Phi-4 範例
      • [📓] 使用 Phi-4-multimodal 生成專案程式碼
    • Phi-3 / 3.5 範例
      • 使用微軟 Phi-3 家族建立您自己的 Visual Studio Code GitHub Copilot 聊天
      • 使用 GitHub 模型搭配 Phi-3.5 建立您自己的 Visual Studio Code 聊天 Copilot 代理

  • 進階推理範例

    • Phi-4 範例
      • [📓] Phi-4-mini-reasoning 或 Phi-4-reasoning 範例
      • [📓] 使用微軟 Olive 微調 Phi-4-mini-reasoning
      • [📓] 使用 Apple MLX 微調 Phi-4-mini-reasoning
      • [📓] 使用 GitHub 模型的 Phi-4-mini-reasoning
      • [📓] 使用微軟 Foundry 模型的 Phi-4-mini-reasoning

  • 演示

    • 托管於 Hugging Face Spaces 的 Phi-4-mini 演示
    • 托管於 Hugginge Face Spaces 的 Phi-4-multimodal 演示

  • 視覺範例

    • Phi-4 範例
      • [📓] 使用 Phi-4-multimodal 讀取圖片並生成程式碼
    • Phi-3 / 3.5 範例
      • [📓]Phi-3-vision-圖片文本轉文本
      • Phi-3-vision-ONNX
      • [📓]Phi-3-vision CLIP 嵌入
      • 演示: Phi-3 回收
      • Phi-3-vision - 視覺語言助理 - 使用 Phi3-Vision 和 OpenVINO
      • Phi-3 視覺 Nvidia NIM
      • Phi-3 視覺 OpenVino
      • [📓]Phi-3.5 視覺多幀或多圖像範例
      • Phi-3 視覺本地 ONNX 模型，使用 Microsoft.ML.OnnxRuntime .NET
      • 選單式 Phi-3 視覺本地 ONNX 模型，使用 Microsoft.ML.OnnxRuntime .NET

  • 推理-視覺範例

    • Phi-4-Reasoning-Vision-15B
      • [📓] 使用 Phi-4-Reasoning-Vision-15B 偵測闖紅燈
      • [📓] 使用 Phi-4-Reasoning-Vision-15B 解數學題
      • [📓] 使用 Phi-4-Reasoning-Vision-15B 偵測使用者界面

  • 數學範例

    • Phi-4-Mini-Flash-Reasoning-Instruct 範例 使用 Phi-4-Mini-Flash-Reasoning-Instruct 的數學演示

  • 音訊範例

    • Phi-4 範例
      • [📓] 使用 Phi-4-multimodal 擷取語音文字轉錄
      • [📓] Phi-4-multimodal 音頻範例
      • [📓] Phi-4-multimodal 語音翻譯範例
      • .NET 主控台應用程式，使用 Phi-4-multimodal 分析音訊檔案並生成文字轉錄

  • MOE 範例

    • Phi-3 / 3.5 範例
      • [📓] Phi-3.5 專家混合模型 (MoEs) 社交媒體範例
      • [📓] 使用 NVIDIA NIM Phi-3 MOE、Azure AI 搜尋及 LlamaIndex 建立檢索增強生成 (RAG) 管線

  • 函式調用範例

    • Phi-4 範例 🆕
      • [📓] 使用 Phi-4-mini 的函式調用
      • [📓] 使用函式調用建立多代理，搭配 Phi-4-mini
      • [📓] 搭配 Ollama 的函式調用
      • [📓] 搭配 ONNX 的函式調用

  • 多模態混合範例

    • Phi-4 範例 🆕
      • [📓] 使用 Phi-4-multimodal 作為科技記者
      • .NET 主控台應用程式，使用 Phi-4-multimodal 分析圖片

• Phi 微調範例

  • 微調場景
  • 微調與 RAG
  • 微調讓 Phi-3 成為產業專家
  • 使用 AI Toolkit for VS Code 微調 Phi-3
  • 使用 Azure 機器學習服務微調 Phi-3
  • 使用 Lora 微調 Phi-3
  • 使用 QLora 微調 Phi-3
  • 使用微軟 Foundry 微調 Phi-3
  • 使用 Azure ML CLI/SDK 微調 Phi-3
  • 與微軟 Olive 共同微調
  • 微軟 Olive 實務操作實驗室
  • 使用 Weights and Bias 微調 Phi-3-vision
  • 使用 Apple MLX 框架微調 Phi-3
  • 微調 Phi-3-vision（官方支援）
  • 使用 Kaito AKS、Azure Containers（官方支援）微調 Phi-3
  • 微調 Phi-3 與 3.5 Vision

• 實作實驗室

  • 探索尖端模型：LLMs、SLMs、本地開發及更多
  • 解鎖 NLP 潛力：使用 Microsoft Olive 進行微調

• 學術研究論文與出版品

  • Textbooks Are All You Need II：phi-1.5 技術報告
  • Phi-3 技術報告：在您的手機上運行的高度能力語言模型
  • Phi-4 技術報告
  • Phi-4-Mini 技術報告：通過 LoRA 混合實現小巧但強大的多模態語言模型
  • 優化車載功能呼叫用的小型語言模型
  • (WhyPHI) 用於多選題問答的 PHI-3 微調：方法論、結果與挑戰
  • Phi-4 推理技術報告
  • Phi-4-mini 推理技術報告

使用 Phi 模型

Microsoft Foundry 上的 Phi

您可以學習如何使用 Microsoft Phi 以及如何在不同硬件裝置上構建端到端解決方案。想親自體驗 Phi，請先試玩模型並使用 Microsoft Foundry Azure AI Model Catalog 根據您的場景自訂 Phi。更多資訊請參考 Microsoft Foundry 入門指南

遊樂場
每個模型都有專屬的遊樂場測試模型 Azure AI Playground。

GitHub 模型上的 Phi

您可以學習如何使用 Microsoft Phi 以及如何在不同硬件裝置上構建端到端解決方案。想親自體驗 Phi，請先試玩模型並使用 GitHub Model Catalog 根據您的場景自訂 Phi。更多資訊請參考 GitHub Model Catalog 入門指南

遊樂場
每個模型皆有專屬的遊樂場以測試模型。

Hugging Face 上的 Phi

您亦可在 Hugging Face 平台找到此模型。

遊樂場
Hugging Chat 遊樂場

🎒 其他課程

我們的團隊亦製作了其他課程！歡迎查看：

LangChain

Azure / Edge / MCP / Agents

---

生成式 AI 系列

---

核心學習

---

Copilot 系列

負責任的 AI

Microsoft 致力於幫助客戶負責任地使用我們的 AI 產品，分享我們的學習成果，並通過透明備註和影響評估等工具建立基於信任的合作夥伴關係。許多這些資源可以在 https://aka.ms/RAI 找到。
Microsoft 的負責任 AI 方法基於我們的 AI 原則：公平性、可靠性與安全性、隱私與安全、包容性、透明度及問責制。

大規模的自然語言、影像和語音模型——例如本範例中使用的模型——有可能表現出不公平、不可靠或冒犯性的行為，繼而造成傷害。請參閱 Azure OpenAI 服務透明備註 以了解相關風險與限制。 推薦的減輕這些風險的方法是在您的架構中包含一個安全系統，以檢測和防止有害行為。Azure AI 內容安全 提供一個獨立的保護層，能夠在應用程式和服務中檢測用戶生成和 AI 生成的有害內容。Azure AI 內容安全包含文字和圖片 API，讓您能夠檢測有害的材料。在 Microsoft Foundry 中，內容安全服務允許您查看、探索並嘗試跨不同模態檢測有害內容的範例程式碼。以下的快速入門文件 將指引您如何向該服務發出請求。

另一個需要考慮的方面是整體應用程式的效能。對於多模態和多模型應用程式，我們認為效能意指系統的表現符合您和您的用戶的期望，包括不產生有害輸出。評估整體應用程式的效能非常重要，您可以使用效能和品質以及風險和安全評估器來完成評估。您也可以使用自訂評估器來建立和評估。

您可以在開發環境中使用Azure AI 評估 SDK評估您的 AI 應用程式。透過測試資料集或目標，系統可以使用內建或您選擇的自訂評估器對生成的 AI 輸出進行量化測量。要開始使用 Azure AI 評估 SDK 評估系統，您可以參考快速入門指南。執行評估後，您可以在Microsoft Foundry 中視覺化結果。

商標

此專案可能包含專案、產品或服務的商標或標誌。授權使用 Microsoft 商標或標誌需遵守並遵循Microsoft 商標及品牌指引。
在修改版本中使用 Microsoft 商標或標誌不得造成混淆或暗示 Microsoft 的贊助。任何第三方商標或標誌的使用皆須遵守該第三方的政策。

尋求協助

如果您遇到困難或對建立 AI 應用程式有任何疑問，請加入：

如果您在開發過程中有產品反饋或錯誤，請造訪：

---

免責聲明：
本文件已使用 AI 翻譯服務 Co-op Translator 進行翻譯。雖然我們致力於提高準確性，但請注意，自動翻譯可能包含錯誤或不準確之處。原始文件的母語版本應視為權威來源。對於關鍵資訊，建議採用專業人工翻譯。我們不對因使用本翻譯而產生的任何誤解或誤譯承擔責任。