- 简介
- 目录大纲
- 最新文档
Huggingface 下载GGUF大模型的方法
前言 以qwen2.5-72b-instruct-q3_k_m大模型为例,演示解决ollama pull hf.co/Qwen/Qwen2.5-72B-Instruct-GGUF:Q3_k_M 必备条件 需要翻墙 使用ollama pull下载出错 shell sam@sam-pn64:/diskA/docker/temp2$ export all_proxy='http://127.0.0...……
admin - 2024年11月1日 15:24
提示词
前言 提⽰⼯程是⼀门新兴的学科,专注于以最佳实践构建 LLM 的最佳输⼊,从⽽尽可能以程序化⽅式⽣成⽬标输出。AI ⼯程师必须知道如何与 AI 进⾏交互,以获取可⽤于应⽤程序的有利结果。此外,AI ⼯程师还必须知道如何正确提问和编写⾼质量的提⽰词。这些都是本节的主题。 需要注意的是,提⽰⼯程可能会影响 OpenAI API 的使⽤成本。该成本与你发送给 OpenAI 并从其接收的标记数成正⽐...……
admin - 2024年10月24日 13:38
OpenAI Key
training-key sk-_Ra8-gZhsHBrW1LZ3VXSbBBsXyxo6lU3-pnswYq-hET3BlbkFJDPpoDl_6TA14ndA_WEvwH8soqt1xj2MFgKqlg0jnYA
admin - 2024年10月22日 13:44
ollama安装指南
下载 需要VPN代理,国内网络返回404 shell curl -fsSL https://ollama.com/install.sh | sh 拖取大模型 llama3.1 shell ollama pull llama3.1 运行大模型 shell ollama run llama3.1 测试搭建结果
admin - 2024年10月16日 15:07