Weiqing Liu

谁说文字工作者是无权无势的呢?

  1. https://github.com/marketplace/models 可以网页使用 gpt4o
  2. https://github.com/settings/personal-access-tokens 生成 api 密钥
  3. api 请求地址： https://models.inference.ai.azure.com/chat/completions# , 格式为标准的 open AI 格式

Categories:

Updated:

Leave a comment

You may also enjoy

LLM 微调避坑指南：从训练动态到显存账本的深度解剖

5 分钟阅读

在单卡（如 Tesla P100 16GB）上对大语言模型进行微调时，往往会遇到 Loss 不降、无限复读或显存溢出（OOM）等诡异问题。这篇博客将从底层逻辑出发，拆解 LLM 微调中的核心概念与显存消耗真相。