• 本系列课程以 阿里百炼平台为主,辅以Ollama本地模型,同时也适用于其他模型,提供更广泛的适用性和灵活性。

  • 所有调用均基于 OpenAI 协议标准,实现一致的接口设计与规范,确保多模型切换的便利性,提供高度可扩展的开发支持

模型供应商主要特点优势备注
OpenAIGPT系列(如GPT-4),具备强大的文本生成与理解能力灵活性高,适用于多种应用场景。YYDS 大模型界的事实标准暂停对国服的API服务,需要通过 Azure 接入
阿里百炼提供多种大模型服务(如通义千问系列)性能接近GPT-4,API价格较低,支持企业迁移解决方案主要面向企业用户
所有新用户可获得超过5000万Tokens的免费额度及4500张图片生成额度,以鼓励更多企业使用。
DeepSeek开源大模型,支持多语言推理与编码任务表现优异,社区活跃,支持多样化应用性价比高,输入价格(缓存命中):
缓存未命中):1元/百万Tokens
敏感词封号严重
智谱清言基于GLM架构,支持多轮对话与复杂指令处理指令理解能力强,支持多场景下的定制化解决方案模型全面;在国庆月特别活动中,智谱清言宣布用户可以以最低1折调用所有模型,并每位用户将获赠1亿Tokens的额度
硅基流动专注于AI基础设施,提供SiliconCloud平台高效推理,多模态支持,降低使用门槛,提升开发效率主要面向技术开发者。提供了一系列开源大模型的API服务,其中多个开源大模型如Qwen2、GLM4和Yi1.5均为永久免费,这使得开发者可以自由使用这些模型进行应用开发,而无需承担费用
Ollama支持本地部署,集成多种开源模型,隐私保护优先强调用户隐私和自主性需要较高的硬件配置以支持本地部署

Ollama 上手

安装Ollama

  1. 下载Ollama

  2. 安装Ollama

    • 双击下载的安装包,按照提示完成安装过程。

下载和运行模型

  1. 查看可用模型, 使用以下命令列出所有可用的模型:
ollama list
  1. 下载并运行模型
    • 例如,要运行名为qwen2.5的模型,可以输入:
ollama run qwen2.5:14b
  1. 与模型交互
    • 模型运行后,您可以在终端中输入问题或指令,与模型进行交互,例如输入“北京美食推荐”。
lengleng@huawei  ~  ollama run qwen2.5:14b
>>> Send a message (/? for help)

总结

国内大模型市场中,阿里通义系列无疑是首选,属于第一梯队。

尽管DeepSeek系列在价格和推理效率方面具备较高性价比,但其模型的全面性不及阿里云提供的服务。

阿里通义不仅覆盖了文本生成,还在向量、图形、视觉、声音等多模态领域表现出色,提供了更广泛的应用支持