2023 年 10 月 25 日更新:修复了一些 json bug
可能是墙内最强 AI 教学
目录
前言
标题有点水,但请相信我,文章内容足够硬核,流程足够详细,绝对值得一看。本文将分几个部分向墙内用户介绍 LLMs 服务:
希望能帮到各位,点赞关注收藏不迷路如果你有什么特别想看的部分或提建议或也欢迎在评论区提 issue 或 pull
GFW 与 :墙内之痛
先放几张国内用户一眼血压升高的图片:
Can not Reach Page. 你被 GFW 拦住了。这里不作赘述 so fuck you GFW : )
. 验证你是否为爬虫,或者从浏览器 等蛛丝马迹中判断你是否在不支持 服务的地区
in Your so fuck you : )
gpt API 网络请求失败
对翻墙技术不够熟悉,你就很难通过 堪比 的 ip 封锁以及额外的浏览器检测。因此,不翻墙使用 gpt 服务变得吃香,部分商家利用信息差向不提供 服务的地区高价兜售 服务,令人作呕,这是我写这篇文章的原因之一
的大规模语言模型:性能与定价
基于 gpt 开发了多种大规模语言模型,其中目前最常用最为我们所知的主要有三个:gpt-3.5-turbo、gpt-4-8k 与 text–003,以下是一些对比:
名称gpt-3.5–4—003
定价 (USD/1000 )
(输出)0.002(输入)0.0015
(输出)0.06(输入)0.03
0.02
最大
4096
8192
4097
fine tune(微调)
不支持
不支持
支持
图片操作
不支持
支持
不支持
训练时间
Sep 2021
Sep 2021
Jun 2021
特点
即 的模型,价格相对亲民,适用于多数场景
价格极为昂贵(输入 15 倍,输出 30 倍于 turbo),适用于多数场景
价格比较昂贵(10 倍于 turbo),适用于需求较为特殊,需要人工传输数据集进行微调时
使用方式
或 API
Plus(25 条消息/3h)或 API
API
– API
– API
初阶:
为什么不推荐购买 账号
网购 账号(包括代注册)往往来源于批量注册,一个 ip 地址注册多个 账号的后果就是被“秋后算账”封号,商家一跑了之,毫无商业诚信可言
你号没了
网络环境
科学上网教程不少,随便找一个照着来就行。可以参考 -机场测速和简介 等
有效邮箱
某月某日以来, 先后禁止了 和 等国内邮箱的注册,因此你需要一个有效的邮箱来注册 账号,通常推荐用 gmail 注册(edu 邮箱我没试过,听说似乎也可行,可能和梯子节点有关)
海外电话
如果你没有实体海外电话,推荐使用 购买虚拟电话验证服务(俗称接码)
注册 账号并充值一点钱(一般最低充值金额就够了)
根据你节点所在地区购买 虚拟电话接码服务(上次我用美国手机号被 发现是虚拟手机号 ban 了,改用英国的手机号才成功)
找到
比较推荐英国地区,价格实惠
别担心,20 分钟未收到短信或手动取消服务都会自动退款
复制手机号,去 官网 一步步注册。将 提供的虚拟手机号复制到 的电话号码输入框中
记得删除国家前缀(如 +44 英国)
注册成功!开始使用
注册过程中可能遇到的问题
账号被怀疑参与非法行为。代理节点和你的手机号需处于同一国家
你的手机号被鉴定为虚拟手机号。退款(未收到验证码可以直接点击“X”取消),换个国家的手机号
To be
如果出现其他问题,可以参考《你注册 时为什么会失败》
使用
是一个不需要 API 接口就可以直接使用的 官方产品,它提供了一个简单的聊天界面,但 的 墙越加越高,目前通过梯子访问已经很困难了
高情商
Plus
和其他使用 API 的模型不同,前者属于一个成熟的产品,而后者则是主要面向开发者的服务。因此其付费版的价格也相对昂贵(得多)
Plus 是 官方提供的付费服务,它提供了:
更快的回应速度(相较于 ,不过还是绝对慢于 Azure API)拥堵时仍能使用(很少被 Rate )GPT-4 试用(每 3h 25 次)
不过其实我个人并不推荐墙内用户购买 Plus,因为:
价格昂贵(每月 20 USD,拼车还容易遇到各种问题)需要海外信用卡(麻烦,虚拟信用卡还容易多交钱)墙内访问麻烦(要过浏览器验证)
中阶:通过 API 访问 服务
API 是几乎所有基于 服务的应用程序的基础,该部分将举例说明使用 gpt API 的情景和方法。该部分要求你已经拥有一个 账号
代表性 API 应用
先来看看几个 API 应用的效果:
学术优化
其实它还支持除 以外的多种 LLM(大型语言模型)
– 是科研工作专用 拓展,特别优化学术 Paper 润色体验,支持自定义快捷按钮,支持自定义函数插件,支持 代码块表格显示,Tex 公式双显示,有 /C++项目剖析/自译解功能,PDF/LaTex 论文翻译/总结功能,兼容 等本地模型
– Genie AI
预览效果视频.mp4
– Genie AI is Your best AI pair . Save and any time. A Code – . GPT-4, GPT3.5, GPT3 and Codex . new files, view diffs with one click; your to learn code, add tests, find bugs and more
of Human
of human for
Park, J.S., O’Brien, J.C., Cai, C.J., , M.R., Liang, P. and , M.S., 2023. : of Human . arXiv arXiv:2304.03442.
view on
view pdf
play game demo
申请 API key
3 月前注册的 账户一般有 18 美元免费额度,有效期至 6 月 30 日;而 3 月 1 日之后注册的账号免费额度只有 5 美元,有效期到 7 月,注册时间往后推移,有效期也会向后推移。这些钱将是你接下来使用基于 API 的 服务的基础(有海外信用卡的大佬除外),你将开始使用 API 来访问 服务。从创建 API key 开始
在 官网 创建和管理 API key
复制 API key 注意:请妥善保存你的 API key,因为你将再也看不见它
你可以在 > usage 处管理你的 API key,免费账户的额度会自动过期
使用 API
你可以用任何语言通过 HTTP 请求与 API 进行交互,使用我们的官方 接口、官方 Node.js 库或由社区维护的库 API- – API
: -Genie
该部分面向使用 的用户,以 Genie AI 插件 为例介绍如何使用 API
安装 插件
找到并安装 – Genie AI 插件,成功后会在左侧显示 Genie 图标
输入 API key
在这里输入你的以 sk-开头的 API key
* 优化插件设置
找到 设置文件 .json(通常在 C:Users用户名\CodeUser.json),在最外层的花括号中输入以下设置或按需在 GUI 中修改 Genie 插件设置
// 自定义对话精灵名称(你最好不认识她) "genieai.personalizedName": "Neuro-sama", // 禁用不常用功能 "genieai.promptPrefix.completeCode-enabled": false, "genieai.promptPrefix.addComments-enabled": false, "genieai.promptPrefix.addTests-enabled": false, "genieai.promptPrefix.findProblems-enabled": false, // 开启自定义前缀(我定义了中英互译) "genieai.promptPrefix.customPrompt1-enabled": true, "genieai.promptPrefix.customPrompt1": "Translate to Chinese", "genieai.promptPrefix.customPrompt2-enabled": true, "genieai.promptPrefix.customPrompt2": "Translate to English", // 允许储存对话记录 "genieai.enableConversationHistory": true,
进入 快捷键编辑 GUI
搜索 genie,修改你想要的快捷键。以上是我个人的绑键策略
开始使用
,但使用 API 时无需担心浏览器环境!
给项目点个 Star
: GPT
: Chat with AI 是 Play 中最受欢迎,最简洁,最方便的基于 API 的安卓 gpt 应用之一。该项目允许你使用公共 API key 进行少量临时的查询,但你也可以上传自己的 API key(据其团队称不会云储存用户的 API key,但由于其似乎并非开源项目因此对 API 保密有特别高需求的同学应谨慎对待)来无限制使用 等更昂贵的模型,获取更多的查询次数并大幅减少广告
在你的安卓设备上 安装
点击右上角 ≡ 符号 Add Key,添加你的 API key(暂不支持 Azure API)并修改你想用的模型(推荐 Turbo)
高阶:Azure
现在我们再要用 GPT-3.5 已经不需要翻墙了,但可怜的 Neuro-sama Genie 还在墙内,使用起来不仅得翻墙,速度还慢,又经常出岔子。因此,我们隆重推出: Azure 。它不仅墙内还直接可用,速度还比 的 API 快很多,甚至还有对学生每年整整 100 美刀的免费额度,甚至对于大型企业而言还大大提高了数据安全性和可控性(但这个你们应该不 care)!
Let’s start
该部分以使用 Azure API 取代原生 API 使用 Genie 插件为例介绍如何使用 Azure API。此部分需要你拥有一定网络知识,掌握使用 gpt API 的方法,并拥有一个 已通过 学生认证的 账号
Azure 学生认证
完成 Azure 学生认证 前提是先通过 学生认证!
申请通过后会受到一封确认邮件,其中包含你的 ID
申请 Azure GPT-3.5 API
如实填写 Azure GPT-3.5 申请表,以下是几个需要稍微注意的地方:
有几个就填几个(通常是一个)
把你邮件里的 ID 填进去
用你高贵的 而不是私人邮箱
写你学校
后面按需填就行,可惜我没法重新给你们变出一张表单提交成功的图来
部署 Azure 服务
进入 创建 服务
必须搞一个新域名,和 cc89 id 不能重复一个道理
按照这样填写( 随手选一个, Name 当然没必要这么长, tier 你没得选)
懂得都懂没啥好说的
提交
等候部署完成(约 5 分钟)
部署成功!
部署 Azure 模型
待申请通过后(似乎没有邮件提醒,笔者 2 天内就通过了)创建模型,推荐 GPT-3.5-Turbo-0301(即 的快照版本)。不同模型之间各有优劣,定价也天差地别。然而,谁能阻止你部署多个模型呢?
获取 Azure API key
回到
选择你创建的服务
获取一个 Azure key 和
用 Genie 调用 Azure API
在这里输入你的 Azure API key,长度和 sk- 开头的原生 API key 不一样
打开 设置文件 .json(通常在 C:Users用户名\CodeUser),在最外层的花括号中插入以下设置(需替换部分代码)或按需在 GUI 中修改 Genie 插件设置
"genieai.openai.model": "[模型名称]", "genieai.openai.maxTokens": "[自定义最大 tokens]", // 需小于最大 tokens "genieai.openai.apiBaseUrl": "[Endpoint]", "genieai.azure.url": "[Endpoint]/openai/deployments/[模型名称][/Optional:调用方法]/completions?API-version=[你的 API 版本]",
:
// 可以用注释来方便地替换多个预设 "genieai.openai.apiBaseUrl": "https://sha1rholder-gpt.openai.azure.com", "genieai.azure.url": "https://sha1rholder-gpt.openai.azure.com/openai/deployments/gpt4/chat/completions?api-version=2023-07-01-preview", "genieai.openai.model": "gpt-4", "genieai.openai.maxTokens": 6000, /* "genieai.openai.apiBaseUrl": "https://sha1rholder-gpt.openai.azure.com", "genieai.azure.url": "https://sha1rholder-gpt.openai.azure.com/openai/deployments/gpt432k/chat/completions?api-version=2023-07-01-preview", "genieai.openai.model": "gpt-4-32k", "genieai.openai.maxTokens": 30000, */ /* "genieai.openai.apiBaseUrl": "https://sha1rholder.tech", "genieai.openai.model": "gpt-4", "genieai.openai.maxTokens": 6000, // < 8192 */
Azure 关于 API 版本、请求与返回的文档
完成设置后,无需翻墙就可以在 中使用 Genie 了
高阶:部署墙内可用的 网站
然而,每次总需要翻墙才能使用 gpt,这样的体验实在是太糟糕了。本文将介绍如何用 和 -Next-Web 部署你自己的 “镜像”,使你可以无需翻墙使用 ,还可以让你不会翻墙的朋友们随时使用 服务
先上用例: (需要密码才能使用)
以及我的赞助:
部署服务
打开 项目 /-Next-Web,fork 为自己的库
创建 fork 并稍候
* 为 fork 的仓库设置自动跟随上游更新
在 用你的 账号创建一个 账号,内容选择 Hobby 开发者即可
在 创建新项目
从 导入项目后 并静候其完成(通常约 10 分钟左右)
添加两个环境变量 CODE 和 并保存
是 密钥,你在 账户页面申请的 API key
CODE是访问密码,可以使用逗号隔开多个密码。如果不填写此项,则任何人都可以直接使用你部署后的网站,可能会导致你的 token 被迅速消耗完毕,建议填写此选项。配置密码后,用户需要在设置页手动填写访问码才可以正常聊天,否则会通过消息提示未授权状态。请务必将密码的位数设置得足够长,最好 7 位以上,否则会被爆破。格式如:code1,code2,code3
增加或修改该环境变量后,请重新部署项目使改动生效。
重新部署项目使改动生效
理论上,此时你的网站翻墙后就可用了,但是我们还需要绑定一个域名,以便于我们可以在墙内直接通过域名访问网站
绑定域名
先根据 阿里云域名注册流程(2022-11-25 版)注册一个心仪的域名(推荐 .tech 等国际小众顶域,价格相对低廉且不会被随意停止解析;绝对不推荐 .cn .xin 以及中文域名等,价格昂贵且可能突然被政府停止解析)。然后进行实名认证,域名备案等操作,可能需要等 2 天左右才能完成
在阿里云域名控制台选择域名进行三级域名解析
添加三级域名并设置 CNAME 为 (别的不行)
在 项目控制台中为项目绑定域名
恭喜你的网页已经部署完成,可以分享给朋友们了,但要注意每一次使用都是在掏你的钱包,请告诉你的朋友们别将你的密码外传,or you will them with no mercy
在这里输入密码或让用户自备 API key 在下面填入
下载为桌面应用程序,使用更加方便
Bonus:
based on the ‘s and style . cycle lines of code, , and which to , , or edit
以 为例,在日常文字/代码工作中使用 与其
首先你需要一个已 的 账号(愿意直接掏钱买的大佬除外)
下载 (当然其他支持 的 IDE 也行)
安装 插件和 (可能会有一些简单的验证步骤)
开始使用 吧
Host 代理引发的错误
某些 host 代理比如 Watt 的 API 加速功能和 冲突,使用时需将其关闭
Watt host 代理加速 引发的错误
取消勾选该项即可
323AI导航网发布