Azure Global OPEN AI Solution

微软目前在Azure的Global产品中集成了OPEN AI的服务，其中集成了微软的全家桶产品，如Dynamics 和Power 系列产品，由于ChatGPT的服务客户主要用户文章媒体或格式化语言输出，该应用的最受益的客户为各类新旧媒体及传媒娱乐企业。主要的训练模式及应用方向如下。

Azure Open AI Fine-Tuning |

• Fine-tuning 主要是用来改善长期输出形式。相对的Prompt Engineering是短期/一次性改变输 出的方法。

•Fine-tuning的长期表现会随着样本数量的翻倍呈现类线性特性的增长。 

• 建议首先做prompt engineering来验证提升潜力。 然后转为Fine-tuning 做长线改善以帮助节 省token，降低TCO。 

• Fine-tuning可以用来限定范围，提高domain相关度

使用OpenAI服务的三种方式：

Base Model 使用OpenAI基础模型，通过调整prompt的方式获得结果

Fine-tuning 借助 Azure OpenAI 服务，你可以使用称为微调的过程根据个人数据集定制模型。 通过 此自定义步骤，你可以更充分地利用服务，获得以下好处： • 结果的质量比从提示设计中获取的质量更高 • 训练时所依据的示例比拟合提示的示例更多 • 较低延迟的请求

Embeddings  一组可以理解和使用嵌入的模型。嵌入是一种特殊的数据表示格式，机器学习模型和算 法可以轻松利用。嵌入是一段文本语义含义的信息密集表示。目前，我们为不同的功能 提供了三个嵌入模型系列：相似性、文本搜索和代码搜索。