在人工智能的浪潮中，大型语言模型（LLMs）已成为推动技术进步的关键力量。随着Meta公司最新开源的Llama 3.1模型的问世，我们见证了开源AI领域的一大飞跃。Llama 3.1以其卓越的性能和广泛的应用潜力，为开发者和研究者提供了一个强大的工具，以探索和实现各种复杂的AI应用。
本文将深入探讨Llama 3.1模型的各个方面，从性能评估到模型的推理和微调，为读者提供一份全面的实战指南。
一、Llama 3.1简介
7月23日Meta公司推出的大型多语言预训练模型Llama 3.1，包含8B、70B和405B三种参数规模的模型。这些模型不仅支持八种语言，还具备长达128K的上下文长度，使其在处理长文本方面有着天然的优势。更重要的是，Llama 3.1在性能上与业界领先的闭源模型相媲美，同时提供了开源的灵活性和可定制性。
Llama 3.1主要特性：
1.参数规模：Llama 3.1包含三种规格：80亿、700亿和4050亿参数，4050亿参数是Llama系列中最强大的模型，具备顶尖的通用知识、数学计算、多语言翻译和工具使用能力，提升了模型的细致性和复杂任务处理能力。
2.上下文长度：128K上下文长度，能够处理更长的文本输入，适用于长文本摘要、复杂对话和多步骤问题解决，提升了模型在长文本处理中的表现。
3.多语言支持：支持包括英语、中文、西班牙语、法语、德语、日语、韩语和阿拉伯语在内的八种语言，增强了模型的全球适用性，适用于多语言翻译和跨语言处理。
4.模型下载和定制：Llama 3.1模型可以从Meta官方网站和Hugging Face平台公开下载，允许开发者进行自定义训练和微调，适应各种应用场景，推动AI技术的普及和创新。
5.高性能和高效训练：在超过15万亿个标记上进行训练，并使用超过16,000个H100 GPU进行优化，确保模型的高性能和高效能。预训练数据日期截止到2023年12月。
6.量化技术：为了应对405B模型的运行需求，Meta把模型数据从16位（BF16）量化减少到8位（FP8），大幅降低了计算资源的需求，令模型能够在单一服务器节点上运行。
7.增强的安全和防护措施：提供了 Llama Guard 3 和 Prompt Guard 等安全工具，以及 Llama Stack API 的评论请求，旨在促进第三方项目更容易地利用 Llama 模型。
8.广泛的生态系统支持：Meta 改进了模型的训练和微调流程，以及模型的推理和部署方式，以便更广泛地支持开发者和平台提供商，包括AWS、NVIDIA、Google Cloud等25个合作伙伴提供的即用服务，确保无缝的开发和部署体验。
二、Llama 3.1性能评估
Llama 3.1版本在 150 多个涵盖多种语言的基准数据集上评估了性能。此外，还进行了广泛的人工评估，在真实场景中将 Llama 3.1 与竞争模型进行了比较。通过实验评估表明，Llama 3.1的旗舰模型在一系列任务中与领先的基础模型相媲美，包括 GPT-4、GPT-4o 和 Claude 3.5 Sonnet。此外，Llama 3.1的小型模型与具有相似数量参数的封闭和开放模型相媲美。
三、Llama 3.1模型推理实战
1、环境准备
首先，我们需要确保我们的服务器具备足够的硬件配置来支持Llama 3.1模型的运行。我们选择的是一台配备有4090型号GPU（24G显存）的服务器，基础镜像信息如下：ubuntu 22.04、python 3.12、cuda 12.1、pytorch 2.3.0。
2、安装依赖
首先 pip 换源加速下载并安装依赖包
# 升级pip``python -m pip install --upgrade pip``# 更换 pypi 源加速库的安装``pip config set global.index-url https://pypi.tuna.tsinghua.edu.cn/simple``pip install fastapi==0.111.1``pip install uvicorn==0.30.3``pip install modelscope==1.16.1``pip install transformers==4.42.4``pip install accelerate==0.32.1
安装完成如下：
3**、模型下载**
使用 modelscope 中的 snapshot_download 函数下载模型。第一个参数为模型名称，参数 cache_dir 用于指定模型的下载路径。
在 /root/autodl-tmp 路径下新建 d.py 文件，并在其中输入以下内容：
`import torch`
`from modelscope import snapshot_download, AutoModel, AutoTokenizer``import os``model_dir = snapshot_download('LLM-Research/Meta-Llama-3.1-8B-Instruct', cache_dir='/root/autodl-tmp', revision='master')`
如下：
运行 python /root/autodl-tmp/d.py 执行下载。需注意，模型大小约为 15GB，下载模型大概需要 20 分钟，请耐心等待。
4、模型推理
1）推理测试
# 导入所需的库``from transformers import AutoTokenizer, AutoModelForCausalLM``import torch``# 加载预训练的分词器和模型``model_name_or_path = '/root/autodl-tmp/LLM-Research/Meta-Llama-3___1-8B-Instruct'``tokenizer = AutoTokenizer.from_pretrained(model_name_or_path, use_fast=False)``model = AutoModelForCausalLM.from_pretrained(model_name_or_path, device_map="auto", torch_dtype=torch.bfloat16)``# 定义对话消息列表，包含系统角色和用户角色的消息``messages = [``{"role": "system", "content": "You are a helpful assistant."},``{"role": "user", "content": "Who are you?"}``]``# 使用分词器将对话消息转换为模型输入格式``input_ids = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)``# 将输入转换为PyTorch张量并移动到GPU设备上``model_inputs = tokenizer([input_ids], return_tensors="pt").to('cuda')``# 使用模型生成回复``generated_ids = model.generate(model_inputs.input_ids, max_new_tokens=512)``# 从生成的ID中提取回复部分``generated_ids = [``output_ids[len(input_ids):] for input_ids, output_ids in zip(model_inputs.input_ids, generated_ids)``]``# 使用分词器将生成的ID解码为文本``response = tokenizer.batch_decode(generated_ids, skip_special_tokens=True)[0]
执行成功如下：
查看响应结果
`response`
结果如下：
"I'm an artificial intelligence model designed to assist and communicate with users in a helpful and informative way. I'm a type of chatbot, and my primary function is to provide information, answer questions, and engage in conversation to the best of my abilities.\n\nI don't have a personal identity or emotions, but I'm here to help you with any questions or topics you'd like to discuss. I can provide information on a wide range of subjects, from science and history to entertainment and culture. I can also help with tasks such as language translation, text summarization, and even creative writing.\n\nHow can I assist you today?"
2）中文测试一
# 定义对话消息列表，包含系统角色和用户角色的消息``messages = [``{"role": "user", "content": "你会讲中文么?"}``]``# 使用分词器将对话消息转换为模型输入格式``input_ids = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)``# 将输入转换为PyTorch张量并移动到GPU设备上``model_inputs = tokenizer([input_ids], return_tensors="pt").to('cuda')``# 使用模型生成回复``generated_ids = model.generate(model_inputs.input_ids, max_new_tokens=512)``# 从生成的ID中提取回复部分``generated_ids = [``output_ids[len(input_ids):] for input_ids, output_ids in zip(model_inputs.input_ids, generated_ids)``]``# 使用分词器将生成的ID解码为文本``response = tokenizer.batch_decode(generated_ids, skip_special_tokens=True)[0]``response
输出如下：
3）中文测试二
# 定义对话消息列表，包含系统角色和用户角色的消息``messages = [``{"role": "user", "content": "请以“夜晚”为题写一首诗"}``]``# 使用分词器将对话消息转换为模型输入格式``input_ids = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)``# 将输入转换为PyTorch张量并移动到GPU设备上``model_inputs = tokenizer([input_ids], return_tensors="pt").to('cuda')``# 使用模型生成回复``generated_ids = model.generate(model_inputs.input_ids, max_new_tokens=512)``# 从生成的ID中提取回复部分``generated_ids = [``output_ids[len(input_ids):] for input_ids, output_ids in zip(model_inputs.input_ids, generated_ids)``]``# 使用分词器将生成的ID解码为文本``response = tokenizer.batch_decode(generated_ids, skip_special_tokens=True)[0]``response
输出如下：
注意：如果推理报错如下
`File ~/miniconda3/lib/python3.10/site-packages/transformers/models/llama/configuration_llama.py:182, in LlamaConfig._rope_scaling_validation(self) 179 return 181 if not isinstance(self.rope_scaling, dict) or len(self.rope_scaling) != 2:--> 182 raise ValueError( 183 "`rope_scaling` must be a dictionary with two fields, `type` and `factor`, " f"got {self.rope_scaling}" 184 ) 185 rope_scaling_type = self.rope_scaling.get("type", None) 186 rope_scaling_factor = self.rope_scaling.get("factor", None)````ValueError: `rope_scaling` must be a dictionary with two fields, `type` and `factor`, got {'factor': 8.0, 'low_freq_factor': 1.0, 'high_freq_factor': 4.0, 'original_max_position_embeddings': 8192, 'rope_type': 'llama3'}`
则需要升级transformers：
pip install --upgrade transformers
资源消耗如下：
四、Llama 3.1模型微调实战
1、数据集准备
微调大型语言模型（LLM）通常涉及指令微调，这是一种特定的数据准备和训练过程。在指令微调中，数据集由一系列包含指令、输入和输出的条目组成，例如：
{`` ``"instruction": "回答以下用户问题，仅输出答案。",``"input": "1+1等于几?",``"output": "2"``}
在这个例子中，`instruction` 是给予模型的任务指令，明确告知模型需要完成的具体任务；`input` 是为了完成任务所需的用户提问或相关信息；而 `output` 则是模型应产生的预期回答。
我们的目标是训练模型，使其能够准确理解并遵循用户的指令。因此，在构建指令集时，必须针对特定的应用目标精心设计。例如，如果我们的目标是创建一个能够模仿特定对话风格的个性化LLM，我们就需要构建与之相应的指令集。
以使用开源的甄嬛传对话数据集为例，如果我们希望模型能够模拟甄嬛的对话风格，我们可以构造如下形式的指令：
在此示例中，我们省略了 `input` 字段，因为模型的回答是基于预设的角色背景知识，而非用户的直接提问。通过这种方式，我们可以训练模型学习并模仿特定角色的语言风格和对话模式，从而在实际应用中提供更加个性化和情景化的交互体验。
2、导入依赖包
from datasets import Dataset``import pandas as pd``from transformers import AutoTokenizer, AutoModelForCausalLM, DataCollatorForSeq2Seq, TrainingArguments, Trainer, GenerationConfig
3、读取数据集
# 将JSON文件转换为CSV文件``df = pd.read_json('huanhuan.json')``ds = Dataset.from_pandas(df)``ds[:3]
输出：
{'instruction': ['小姐，别的秀女都在求中选，唯有咱们小姐想被撂牌子，菩萨一定记得真真儿的——',``'这个温太医啊，也是古怪，谁不知太医不得皇命不能为皇族以外的人请脉诊病，他倒好，十天半月便往咱们府里跑。',``'嬛妹妹，刚刚我去府上请脉，听甄伯母说你来这里进香了。'],``'input': ['', '', ''],``'output': ['嘘——都说许愿说破是不灵的。', '你们俩话太多了，我该和温太医要一剂药，好好治治你们。', '出来走走，也是散心。']}
4、处理数据集
1）定义分词器
tokenizer = AutoTokenizer.from_pretrained('/root/autodl-tmp/LLM-Research/Meta-Llama-3___1-8B-Instruct', use_fast=False, trust_remote_code=True)``tokenizer.pad_token = tokenizer.eos_token
2）消息格式查看
messages = [``{"role": "system", "content": "现在你要扮演皇帝身边的女人--甄嬛"},``{"role": "user", "content": '你好呀'},``{"role": "assistant", "content": "你好，我是甄嬛，你有什么事情要问我吗？"},` `]``print(tokenizer.apply_chat_template(messages, tokenize=False))
输出：
<|begin_of_text|><|start_header_id|>system<|end_header_id|>``现在你要扮演皇帝身边的女人--甄嬛<|eot_id|><|start_header_id|>user<|end_header_id|>``你好呀<|eot_id|><|start_header_id|>assistant<|end_header_id|>``你好，我是甄嬛，你有什么事情要问我吗？<|eot_id|><|start_header_id|>assistant<|end_header_id|>
3）数据处理函数
def process_func(example):` `MAX_LENGTH = 384 # Llama分词器会将一个中文字切分为多个token，因此需要放开一些最大长度，保证数据的完整性` `input_ids, attention_mask, labels = [], [], []` `instruction = tokenizer(f"<|begin_of_text|><|start_header_id|>system<|end_header_id|>\n\n现在你要扮演皇帝身边的女人--甄嬛<|eot_id|><|start_header_id|>user<|end_header_id|>\n\n{example['instruction'] + example['input']}<|eot_id|><|start_header_id|>assistant<|end_header_id|>\n\n", add_special_tokens=False) # add_special_tokens 不在开头加 special_tokens` `response = tokenizer(f"{example['output']}<|eot_id|>", add_special_tokens=False)` `input_ids = instruction["input_ids"] + response["input_ids"] + [tokenizer.pad_token_id]` `attention_mask = instruction["attention_mask"] + response["attention_mask"] + [1] # 因为eos token咱们也是要关注的所以 补充为1` `labels = [-100] * len(instruction["input_ids"]) + response["input_ids"] + [tokenizer.pad_token_id]`` if len(input_ids) > MAX_LENGTH: # 做一个截断` `input_ids = input_ids[:MAX_LENGTH]` `attention_mask = attention_mask[:MAX_LENGTH]` `labels = labels[:MAX_LENGTH]` `return {` `"input_ids": input_ids,` `"attention_mask": attention_mask,` `"labels": labels` `}
4）数据处理
tokenized_id = ds.map(process_func, remove_columns=ds.column_names)``tokenized_id
输出：
5）解码查看input_ids
tokenizer.decode(tokenized_id[0]['input_ids'])
输出：
'<|begin_of_text|><|start_header_id|>system<|end_header_id|>\n\n现在你要扮演皇帝身边的女人--甄嬛<|eot_id|><|start_header_id|>user<|end_header_id|>\n\n小姐，别的秀女都在求中选，唯有咱们小姐想被撂牌子，菩萨一定记得真真儿的——<|eot_id|><|start_header_id|>assistant<|end_header_id|>\n\n嘘——都说许愿说破是不灵的。<|eot_id|><|eot_id|>'
6）解码查看labels
tokenizer.decode(list(filter(lambda x: x != -100, tokenized_id[1]["labels"])))
输出：
'你们俩话太多了，我该和温太医要一剂药，好好治治你们。<|eot_id|><|eot_id|>'
5、定义模型
import torch``model = AutoModelForCausalLM.from_pretrained('/root/autodl-tmp/LLM-Research/Meta-Llama-3___1-8B-Instruct', device_map="auto",torch_dtype=torch.bfloat16)``model
输出如下：
model.enable_input_require_grads() 开启梯度检查点时，要执行该方法
查看模型加载的精度
model.dtype
输出：
torch.bfloat16
6、Lora配置
LoraConfig这个类中可以设置很多参数，但主要的参数如下
-
task_type：模型类型
-
target_modules：需要训练的模型层的名字，主要就是attention部分的层，不同的模型对应的层的名字不同，可以传入数组，也可以字符串，也可以正则表达式。
-
r：lora的秩，
-
具体可以看Lora原理lora_alpha：Lora alaph，具体作用参见 Lora 原理
Lora的缩放是啥？不是r（秩），这个缩放就是lora_alpha/r, 在这个LoraConfig中缩放就是4倍。
from peft import LoraConfig, TaskType, get_peft_model`` ``config = LoraConfig(` `task_type=TaskType.CAUSAL_LM,`` target_modules=["q_proj", "k_proj", "v_proj", "o_proj", "gate_proj", "up_proj", "down_proj"],` `inference_mode=False, # 训练模式` `r=8, # Lora 秩` `lora_alpha=32, # Lora alaph，具体作用参见 Lora 原理` `lora_dropout=0.1# Dropout 比例``)``config
输出：
LoraConfig(peft_type=<PeftType.LORA: 'LORA'>, auto_mapping=None, base_model_name_or_path=None, revision=None, task_type=<TaskType.CAUSAL_LM: 'CAUSAL_LM'>, inference_mode=False, r=8, target_modules={'k_proj', 'v_proj', 'up_proj', 'o_proj', 'down_proj', 'gate_proj', 'q_proj'}, lora_alpha=32, lora_dropout=0.1, fan_in_fan_out=False, bias='none', use_rslora=False, modules_to_save=None, init_lora_weights=True, layers_to_transform=None, layers_pattern=None, rank_pattern={}, alpha_pattern={}, megatron_config=None, megatron_core='megatron.core', loftq_config={}, use_dora=False, layer_replication=None)
加载微调配置
`model = get_peft_model(model, config)`
`config`
输出：
LoraConfig(peft_type=<PeftType.LORA: 'LORA'>, auto_mapping=None, base_model_name_or_path='/root/autodl-tmp/LLM-Research/Meta-Llama-3___1-8B-Instruct', revision=None, task_type=<TaskType.CAUSAL_LM: 'CAUSAL_LM'>, inference_mode=False, r=8, target_modules={'k_proj', 'v_proj', 'up_proj', 'o_proj', 'down_proj', 'gate_proj', 'q_proj'}, lora_alpha=32, lora_dropout=0.1, fan_in_fan_out=False, bias='none', use_rslora=False, modules_to_save=None, init_lora_weights=True, layers_to_transform=None, layers_pattern=None, rank_pattern={}, alpha_pattern={}, megatron_config=None, megatron_core='megatron.core', loftq_config={}, use_dora=False, layer_replication=None)
查看可训练的参数
model.print_trainable_parameters()
输出：
trainable params: 20,971,520 || all params: 8,051,232,768 || trainable%: 0.2605
7、配置训练参数
TrainingArguments这个类的源码也介绍了每个参数的具体作用，当然大家可以来自行探索，这里就简单说几个常用的。
-
output_dir：模型的输出路径
-
per_device_train_batch_size：顾名思义 batch_size
-
gradient_accumulation_steps: 梯度累加，如果你的显存比较小，那可以把 batch_size 设置小一点，梯度累加增大一些。
-
logging_steps：多少步，输出一次log
-
num_train_epochs：顾名思义 epoch
-
gradient_checkpointing：梯度检查，这个一旦开启，模型就必须执行model.enable_input_require_grads()
args = TrainingArguments(` `output_dir="./output/llama3_1_instruct_lora",` `per_device_train_batch_size=4,` `gradient_accumulation_steps=4,` `logging_steps=10,` `num_train_epochs=3,` `save_steps=100, # 为了快速演示，这里设置10，建议你设置成100` `learning_rate=1e-4,` `save_on_each_node=True,` `gradient_checkpointing=True``)
8、开始****Trainer训练
trainer = Trainer(``model=model,``args=args,``train_dataset=tokenized_id,``data_collator=DataCollatorForSeq2Seq(tokenizer=tokenizer, padding=True),``)``trainer.train()
训练完成如下：
9、合并模型
将训练后的权重文件合并到基础模型中，产生新的模型文件
from transformers import AutoModelForCausalLM, AutoTokenizer``import torch``from peft import PeftModel`` ``mode_path = '/root/autodl-tmp/LLM-Research/Meta-Llama-3___1-8B-Instruct'``lora_path = '/root/autodl-tmp/output/llama3_1_instruct_lora/checkpoint-100' # 这里改称你的 lora 输出对应 checkpoint 地址`` ``# 加载tokenizer``tokenizer = AutoTokenizer.from_pretrained(mode_path, trust_remote_code=True)`` ``# 加载模型``model = AutoModelForCausalLM.from_pretrained(mode_path, device_map="auto",torch_dtype=torch.bfloat16, trust_remote_code=True).eval()`` ``# 加载lora权重``model = PeftModel.from_pretrained(model, model_id=lora_path)
合并完成如下：
10、模型推理
prompt = "你是谁？"`` ``messages = [` `{"role": "system", "content": "假设你是皇帝身边的女人--甄嬛。"},` `{"role": "user", "content": prompt}``]`` ``input_ids = tokenizer.apply_chat_template(messages, tokenize=False)``model_inputs = tokenizer([input_ids], return_tensors="pt").to('cuda')``generated_ids = model.generate(model_inputs.input_ids,max_new_tokens=512)``generated_ids = [` `output_ids[len(input_ids):] for input_ids, output_ids in zip(model_inputs.input_ids, generated_ids)``]``response = tokenizer.batch_decode(generated_ids, skip_special_tokens=True)[0]``print(response)
推理结果输出：
我是甄嬛，家父是大理寺少卿甄远道。
五、Llama 3.1模型API部署调用
为了将Llama 3.1模型的能力发布分享给其他用户，我们采用FastAPI框架来发布一个API服务。FastAPI是一个现代、快速（高性能）的Web框架，用于构建API与Python类型提示的强大组合。它使得设计、构建、测试和部署API变得简单快捷。
首先，我们创建了一个名为fastapi-test.py的文件，这个文件将包含启动和运行我们的API服务所必需的代码。
1、代码准备
from fastapi import FastAPI, Request``from transformers import AutoTokenizer, AutoModelForCausalLM``import uvicorn``import json``import datetime``import torch`` ``# 设置设备参数``DEVICE = "cuda" # 使用CUDA``DEVICE_ID = "0" # CUDA设备ID，如果未设置则为空``CUDA_DEVICE = f"{DEVICE}:{DEVICE_ID}" if DEVICE_ID else DEVICE # 组合CUDA设备信息`` ``# 清理GPU内存函数``def torch_gc():` `if torch.cuda.is_available(): # 检查是否可用CUDA` `with torch.cuda.device(CUDA_DEVICE): # 指定CUDA设备` `torch.cuda.empty_cache() # 清空CUDA缓存` `torch.cuda.ipc_collect() # 收集CUDA内存碎片`` ``# 创建FastAPI应用``app = FastAPI()`` ``# 处理POST请求的端点``@app.post("/")``async def create_item(request: Request):` `global model, tokenizer # 声明全局变量以便在函数内部使用模型和分词器` `json_post_raw = await request.json() # 获取POST请求的JSON数据` `json_post = json.dumps(json_post_raw) # 将JSON数据转换为字符串` `json_post_list = json.loads(json_post) # 将字符串转换为Python对象` `prompt = json_post_list.get('prompt') # 获取请求中的提示`` ` `messages = [` `{"role": "system", "content": "You are a helpful assistant."},` `{"role": "user", "content": prompt}` `]`` ` `# 调用模型进行对话生成` `input_ids = tokenizer.apply_chat_template(messages,tokenize=False,add_generation_prompt=True)` `model_inputs = tokenizer([input_ids], return_tensors="pt").to('cuda')` `generated_ids = model.generate(model_inputs.input_ids,max_new_tokens=512)` `generated_ids = [` `output_ids[len(input_ids):] for input_ids, output_ids in zip(model_inputs.input_ids, generated_ids)` `]` `response = tokenizer.batch_decode(generated_ids, skip_special_tokens=True)[0]` `now = datetime.datetime.now() # 获取当前时间` `time = now.strftime("%Y-%m-%d %H:%M:%S") # 格式化时间为字符串` `# 构建响应JSON` `answer = {` `"response": response,` `"status": 200,` `"time": time` `}` `# 构建日志信息` `log = "[" + time + "] " + '", prompt:"' + prompt + '", response:"' + repr(response) + '"'` `print(log) # 打印日志` `torch_gc() # 执行GPU内存清理` `return answer # 返回响应`` ``# 主函数入口``if __name__ == '__main__':` `# 加载预训练的分词器和模型` `model_name_or_path = '/root/autodl-tmp/LLM-Research/Meta-Llama-3___1-8B-Instruct'` `tokenizer = AutoTokenizer.from_pretrained(model_name_or_path, use_fast=False)` `model = AutoModelForCausalLM.from_pretrained(model_name_or_path, device_map="auto", torch_dtype=torch.bfloat16)`` ` `# 启动FastAPI应用` `# 用6006端口可以将autodl的端口映射到本地，从而在本地使用api` `uvicorn.run(app, host='0.0.0.0', port=6006, workers=1) # 在指定端口和主机上启动应用
2、启动API服务
在终端输入以下命令启动api服务：
python fastapi-test.py
加载完毕后出现如下信息说明成功。
3、curl命令调用API
默认部署在 6006 端口，通过 POST 方法进行调用，可以使用 curl 调用，如下所示：
curl -X POST "http://127.0.0.1:6006" \``-H 'Content-Type: application/json' \``-d '{"prompt": "什么是AI大模型？"}'
输出：
{"response":"AI大模型（Large Language Model, LLM）是一种基于深度学习的计算机模型，它能够处理和理解自然语言的能力。它可以理解和生成人类语言的不同方面，如语法、语义、语调等。","status":200,"time":"2024-07-30 10:37:36"}
4、python代码调用API
也可以使用 python 中的 requests 库进行调用，如下所示：
import requests``import json`` ``def get_completion(prompt):``headers = {'Content-Type': 'application/json'}``data = {"prompt": prompt}``response = requests.post(url='http://127.0.0.1:6006', headers=headers, data=json.dumps(data))``return response.json()['response']``get_completion('什么是机器学习？')
得到的返回值如下所示：
`'机器学习是一种人工智能的分支，研究如何让计算机能够通过数据和经验学习和改进其性能。它涉及使用算法和统计模型来分析数据，自动化决策和预测任务。'`
结语
在本文中，我们深入探讨了Llama 3.1模型的推理过程、微调技巧以及API部署调用，旨在助力读者精进对AI大型模型的实践技能。Llama 3.1的开源精神不仅赋予了AI社区一款功能强大的工具，更激发了技术的共享与创新活力。随着越来越多的开发者和企业深入挖掘Llama 3.1的潜力，我们有理由相信，未来将涌现出更多令人振奋的应用成果和技术创新。
如何学习大模型 AI ？
由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。
但是具体到个人，只能说是：
“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。
这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。
我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。
我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。
第一阶段（10天）：初阶应用
该阶段让大家对大模型 AI有一个最前沿的认识，对大模型 AI 的理解超过 95% 的人，可以在相关讨论时发表高级、不跟风、又接地气的见解，别人只会和 AI 聊天，而你能调教 AI，并能用代码将大模型和业务衔接。
- 大模型 AI 能干什么？
- 大模型是怎样获得「智能」的？
- 用好 AI 的核心心法
- 大模型应用业务架构
- 大模型应用技术架构
- 代码示例：向 GPT-3.5 灌入新知识
- 提示工程的意义和核心思想
- Prompt 典型构成
- 指令调优方法论
- 思维链和思维树
- Prompt 攻击和防范
- …
第二阶段（30天）：高阶应用
该阶段我们正式进入大模型 AI 进阶实战学习，学会构造私有知识库，扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架，抓住最新的技术进展，适合 Python 和 JavaScript 程序员。
- 为什么要做 RAG
- 搭建一个简单的 ChatPDF
- 检索的基础概念
- 什么是向量表示（Embeddings）
- 向量数据库与向量检索
- 基于向量检索的 RAG
- 搭建 RAG 系统的扩展知识
- 混合检索与 RAG-Fusion 简介
- 向量模型本地部署
- …
第三阶段（30天）：模型训练
恭喜你，如果学到这里，你基本可以找到一份大模型 AI相关的工作，自己也能训练 GPT 了！通过微调，训练自己的垂直大模型，能独立训练开源多模态大模型，掌握更多技术方案。
到此为止，大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗？
- 为什么要做 RAG
- 什么是模型
- 什么是模型训练
- 求解器 & 损失函数简介
- 小实验2：手写一个简单的神经网络并训练它
- 什么是训练/预训练/微调/轻量化微调
- Transformer结构简介
- 轻量化微调
- 实验数据集的构建
- …
第四阶段（20天）：商业闭环
对全球大模型从性能、吞吐量、成本等方面有一定的认知，可以在云端和本地等多种环境下部署大模型，找到适合自己的项目/创业方向，做一名被 AI 武装的产品经理。
- 硬件选型
- 带你了解全球大模型
- 使用国产大模型服务
- 搭建 OpenAI 代理
- 热身：基于阿里云 PAI 部署 Stable Diffusion
- 在本地计算机运行大模型
- 大模型的私有化部署
- 基于 vLLM 部署大模型
- 案例：如何优雅地在阿里云私有部署开源大模型
- 部署一套开源 LLM 项目
- 内容安全
- 互联网信息服务算法备案
- …
学习是一个过程，只要学习就会有挑战。天道酬勤，你越努力，就会成为越优秀的自己。
如果你能在15天内完成所有的任务，那你堪称天才。然而，如果你能完成 60-70% 的内容，你就已经开始具备成为一名大模型 AI 的正确特征了。
