Chapter 82
欢迎使用基于 C 的 Phi 实验室
欢迎使用基于 C# 的 Phi 实验室
这里有一系列实验室示例,展示了如何在 .NET 环境中集成功能强大的不同版本 Phi 模型。
先决条件
在运行示例之前,请确保已安装以下内容:
.NET 9: 确保您的机器上安装了最新版本的 .NET。
(可选)Visual Studio 或 Visual Studio Code: 您需要一个能够运行 .NET 项目的 IDE 或代码编辑器。推荐使用Visual Studio或Visual Studio Code。
使用 git 从 Hugging Face 本地克隆可用的 Phi-3、Phi3.5 或 Phi-4 版本之一。
下载 Phi-4 ONNX 模型 到本地机器:
进入存放模型的文件夹
cd c:\phi\models添加 lfs 支持
git lfs install 克隆并下载 Phi-4 mini instruct 模型和 Phi-4 多模态模型
git clone https://huggingface.co/microsoft/Phi-4-mini-instruct-onnx
git clone https://huggingface.co/microsoft/Phi-4-multimodal-instruct-onnx下载 Phi-3 ONNX 模型 到本地机器:
克隆并下载 Phi-3 mini 4K instruct 模型和 Phi-3 vision 128K 模型
git clone https://huggingface.co/microsoft/Phi-3-mini-4k-instruct-onnx
git clone https://huggingface.co/microsoft/Phi-3-vision-128k-instruct-onnx-cpu重要提示: 当前演示设计为使用模型的 ONNX 版本。上述步骤克隆了以下模型。
关于实验室
主解决方案包含多个示例实验室,展示了如何使用 C# 调用 Phi 模型的功能。
| 项目 | 模型 | 描述 |
|---|---|---|
| LabsPhi301 | Phi-3 或 Phi-3.5 | 示例控制台聊天,允许用户提问。项目使用 Microsoft.ML.OnnxRuntime 库加载本地 ONNX Phi-3 模型。 |
| LabsPhi302 | Phi-3 或 Phi-3.5 | 示例控制台聊天,允许用户提问。项目使用 Microsoft.Semantic.Kernel 库加载本地 ONNX Phi-3 模型。 |
| LabPhi303 | Phi-3 或 Phi-3.5 | 示例项目,使用本地 phi3 视觉模型分析图像。项目使用 Microsoft.ML.OnnxRuntime 库加载本地 ONNX Phi-3 视觉模型。 |
| LabPhi304 | Phi-3 或 Phi-3.5 | 示例项目,使用本地 phi3 视觉模型分析图像。项目使用 Microsoft.ML.OnnxRuntime 库加载本地 ONNX Phi-3 视觉模型。项目还提供了一个菜单,包含多种与用户交互的选项。 |
| LabPhi4-Chat | Phi-4 | 示例控制台聊天,允许用户提问。项目使用 Microsoft.ML.OnnxRuntime 库加载本地 ONNX Phi-4 模型。 |
| LabPhi-4-SK | Phi-4 | 示例控制台聊天,允许用户提问。项目使用 Semantic Kernel 库加载本地 ONNX Phi-4 模型。 |
| LabsPhi4-Chat-03GenAIChatClient | Phi-4 | 示例控制台聊天,允许用户提问。项目使用 Microsoft.ML.OnnxRuntimeGenAI 库加载本地 ONNX Phi-4 模型,并实现了 Microsoft.Extensions.AI 中的 IChatClient。 |
| LabsPhi4-Chat-04-ChatMode | Phi-4 | 示例控制台聊天,允许用户提问。聊天实现了记忆功能。 |
| Phi-4multimodal-vision | Phi-4 | 示例项目,使用本地 Phi-4 模型分析图像,并在控制台显示结果。项目使用 Microsoft.ML.OnnxRuntime 库加载本地 Phi-4-multimodal-instruct-onnx 模型。 |
| LabPhi4-MM-Audio | Phi-4 | 示例项目,使用本地 Phi-4 模型分析音频文件,生成文件的转录文本并在控制台显示结果。项目使用 Microsoft.ML.OnnxRuntime 库加载本地 Phi-4-multimodal-instruct-onnx 模型。 |
如何运行项目
运行项目,请按以下步骤操作:
-
将仓库克隆到本地机器。
-
打开终端,进入目标项目文件夹。例如,我们运行
LabsPhi4-Chat-01OnnxRuntime。bashcd .\src\LabsPhi4-Chat-01OnnxRuntime \ -
使用以下命令运行项目
bashdotnet run -
示例项目会请求用户输入,并使用本地模型进行回复。
运行中的演示类似如下:
bashPS D:\phi\PhiCookBook\md\04.HOL\dotnet\src\LabsPhi4-Chat-01OnnxRuntime> dotnet run Ask your question. Type an empty string to Exit. Q: 2+2 Phi4: The sum of 2 and 2 is 4. Q:
免责声明:
本文件使用 AI 翻译服务 Co-op Translator 进行翻译。虽然我们力求准确,但请注意自动翻译可能包含错误或不准确之处。原始文件的母语版本应被视为权威来源。对于重要信息,建议使用专业人工翻译。对于因使用本翻译而产生的任何误解或误释,我们不承担任何责任。
