文章目录
- 一、Meta Llama 3 大模型安装
- 1、Llama 3 大模型简介
- 2、Ollama 软件下载安装
- 3、Llama3 模型下载
- 二、Meta Llama 3 大模型使用
- 1、Llama 3 大模型在线使用
- 2、Llama 3 大模型离线使用
首先 , 安装 Ollama 软件 , 到 https://ollama.com/ 下载安装 ;
然后 , 运行
命令 , 即可开始使用 Llama3 大模型 ;
一、Meta Llama 3 大模型安装
1、Llama 3 大模型简介
Llama 3 大模型 是 Meta 公司 发布的 大模型 , Meta 公司 就是 Facebook ;
Llama 3 大模型 使用的是 标准的 仅解码 Decoder-Only 式的 Transformer 架构 ; 与之相对的 ChatGPT 使用的是 GPT ( Generative Pre-trained Transformer ) 架构 , 包含了编码器 ( Encoder ) 和 解码器 ( Decoder ) 的特性 ;
2、Ollama 软件下载安装
到 Ollama 官网 https://ollama.com/ , 点击 Download 按钮 进入下载页面 ;
进入下载页面后 , 根据自己的系统 , 选择对应的 Ollama 版本 , 目前 Ollama 支持 Windows / Linux / MacOS ;
这个 模型有 299 MB , 等待下载完成 ;
进入到 Ollama 的下载路径 , 直接运行 下载后的 安装文件 ;
点击 Install 按钮 , 安装该软件 ;
安装完成后 , 自动弹出如下对话框 :
3、Llama3 模型下载
安装前提 : 需要挂 全局 , 全局 , 挂上以后可以达到 5 ~ 10MB 每秒 , 不挂 1KB 每秒 ;
运行
命令 , 即可启动 Llama3 大模型 ;
下载的模型放在了 C:\Users\用户名.ollama 目录中 , 在我的电脑上的路径是 C:\Users\octop.ollama ;
这个模型很大 , 有 4.7 G
安装完成后的效果 :
安装过程中的命令行终端输出 :
二、Meta Llama 3 大模型使用
1、Llama 3 大模型在线使用
在命令行中 , 可以直接进行对话 , 下面是对话内容 :
2、Llama 3 大模型离线使用
Llama 3 大模型 联网时 , 可以访问云端服务 , 可以生成更加丰富的文本 ;
Llama 3 大模型 在 断网后也可以使用 , 下面是断开网络后 , 也能进行基本的对话 , 可以保证一些常识输出和基本对话逻辑 ;
下面的内容是断网后离线生成的内容 :
下图中 展示了 关闭 网络 , 离线生成文本 ;
