实验 3 - 在 Azure 机器学习服务上部署 Phi-3-vision

我们使用 NPU 完成本地代码的生产部署，然后希望通过它引入 PHI-3-VISION 的能力，实现图片生成代码。

在本介绍中，我们可以快速在 Azure 机器学习服务中构建一个模型即服务的 Phi-3 Vision 服务。

Note：Phi-3 Vision 需要较强的计算能力以更快地生成内容，我们需要云计算资源来帮助实现这一点。

1. 创建 Azure 机器学习服务

我们需要在 Azure 门户中创建一个 Azure 机器学习服务。如果想了解如何操作，请访问此链接 https://learn.microsoft.com/azure/machine-learning/quickstart-create-resources?view=azureml-api-2

2. 在 Azure 机器学习服务中选择 Phi-3 Vision

3. 在 Azure 上部署 Phi-3-Vision

4. 在 Postman 中测试端点

Note

1. 传输的参数必须包含 Authorization、azureml-model-deployment 和 Content-Type。你需要查看部署信息以获取这些参数。

2. 传输参数时，Phi-3-Vision 需要传递图片链接。请参考 GPT-4-Vision 的参数传递方式，例如

{
  "input_data":{
    "input_string":[
      {
        "role":"user",
        "content":[ 
          {
            "type": "text",
            "text": "You are a Python coding assistant.Please create Python code for image "
          },
          {
              "type": "image_url",
              "image_url": {
                "url": "https://ajaytech.co/wp-content/uploads/2019/09/index.png"
              }
          }
        ]
      }
    ],
    "parameters":{
          "temperature": 0.6,
          "top_p": 0.9,
          "do_sample": false,
          "max_new_tokens": 2048
    }
  }
}

1. 使用 Post 方法调用 /score

恭喜！你已完成快速部署 PHI-3-VISION，并尝试了如何通过图片生成代码。接下来，我们可以结合 NPU 和云端构建应用。

免责声明：
本文件使用 AI 翻译服务 Co-op Translator 进行翻译。虽然我们力求准确，但请注意，自动翻译可能包含错误或不准确之处。原始文件的母语版本应被视为权威来源。对于重要信息，建议采用专业人工翻译。对于因使用本翻译而产生的任何误解或误释，我们不承担任何责任。