沉淀、分享、成长，让自己和他人都能有所收获！
近 很火，火到了各行各业。记得去年更多的还是码农新体验后拿它搜代码，现在各行各业都进来体验，问它咋理财、怎么写报告和给小孩起名。 也因此让小傅哥在头条的一篇关于 的文章都有了26万的阅读。
除了大家都想体验一下这款智能的 AI，也有很多互联网公司开始搭建自己的 ，但真的挺担心后整出来的不是 而是 。为此我也想研究下 是怎么做出来的，都说是模型和数据训练，那我能训练吗？这东西离我想做个 demo 出来有多远？
一、技术调研，很激动
当我开始往算法模型训练里踏进一脚，漏个门缝检索点相关学习资料和案例代码，发现这个世界太庞大了。早在4年前，GPT-2 就已经发布了 开源代码也就是说我们就可以拿 GPT-2 的开源代码训练一个模型，哪怕是训练出个傻子，也应该比“xxx，我在，你说。”要更智能一些。
接着检索我发现了，早在2年前有人已经基于 GPT-2 训练一版 GPT2 for /用于中文闲聊的GPT2模型。开源代码：
不知道在做的兄弟们你们激动不，看到这我是挺开心。这不是我想要的 demo 模型吗。把它给训练出来，也就能满足我对 的深入了解了，并且基于我想做的任何类数据训练得到一个个小模型部署，也是可以帮助我来完成一些事情的。如；你把公司的一些文档数据进行训练，得到一份可以搜索检索就能获取相关数据的 不挺爽吗？
越是检索越是开心，离我的目标也越来越近了。但作为一个量化算法训练的小白，其实我还是希望能找到一份 Java 的模型训练代码，这可以让我操作起来更加顺畅。没错，我找到了，也是3年前就有的一份资料；这是一个基于 的 GPT-2 文本模型的 Java 库。—— 别着急，这个时候我也不知道 是啥。
这还说啥，这有pom配置，还有代码案例。引入一下就能跑，上车吧！
好家伙，跑起代码才知道。这货上来就下了1个多G的pb模型数据，之后有报错 Mac M1 兼容性问题。折腾一大堆，后又报错；Your CPU that this was not to use: SSE4.2 AVX AVX2 FMA—— 要是你咋整，你再坚持坚持，还是放弃！
二、风浪越大，鱼越贵
本来以为 嘛、 嘛、跑个数据模型吗！这能几道墙阻挡我的去路，不就是换个工具写代码吗？但当我逐步进入后发现，这距离好像比想象的大的多！
想玩 玩到模型训练，得先进入 Gpt-2 开源代码。基于想自己训练一个小模型，需要使用创建生产级机器学习模型。而需要在本地安装一系列 工具并下载模型和数据样本。而这里就像安装 JDK 一样，是傻子都会和傻子都不会。Mac M1 天生骄傲，安装了2天，才测试出可以使用的模型训练环境。之后开始跑个模型，线性回归。再了解什么是线性回归。
这是的官网，用于创建生产级机器学习模型。也就是说想要完成一个简单的 得从这开始。——死鬼，不要在想了，你总是得从 开始。
但在检索的过程中，我又找到了一个名叫.co的网站； face 起初是一家总部位于纽约的聊天机器人初创服务商，他们本来打算创业做聊天机器人，然后在 上开源了一个 库。虽然聊天机器人业务没搞起来，但是他们的这个库在机器学习社区迅速大火起来。目前已经共享了超100,000个预训练模型，10,000个数据集，变成了机器学习界的 。
在 face 社区中可以找到相关的模型训练资源以及提供好的模型使用接口，比如像中文分词、聊天对话、图片分析也都有，当然也包括一些公司训练出来的 gpt-2 模型。
在 中提供了大量的算法模型，你可以把自己需要的模型点个 like 关注起来。同时这些模型还提供好了调用接口，例如【api key 可以在网站申请】；
curl https://api-inference.huggingface.co/models/microsoft/CodeGPT-small-java
-X POST
-d '{"inputs": "Can you please let us know more details about your "}'
-H "Authorization: Bearer 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"
你可以通过接口对模型进行访问，当然这些模型训练的数据并不是很大，只是作为测试使用。不会像 那么智能的返回你所检索的信息。不过这至少可以让你了解和体验不同模型所带来的数据返回是什么样。
三、环境配置，搞起来
一口不能呲个胖子，为了更好的为以后能训练出一个自己可以玩的小体量的 模型，总得要从头开始。
这里小傅哥的目标是带着搭建先在本地搭建起一个 的基础环境，来跑个 的简单算法模型。为此我们需要进行一下环境配置。小傅哥2台机器已验证没问题，分别是 Mac Intel/M1，机器配置4核16G。
1. 环境2. pip 指令安装3.
官网安装指导：
但这里有个问题，没有说明 Mac M1 怎么安装。如果按照这个代码在 M1 的机器是安装不上的。所以在小傅哥的一顿折腾后找到了对应的按照指令。步骤如下；
四、跑个模型，验证下
可能很多伙伴不知道什么是算法模型，简单描述比如；为啥给你推荐你喜欢看的美女，为啥给你发送一个键盘购物券、为啥看你小子有钱就总给你推荐豪车。这都是根据你身上的标签进行模型训练的结果，在众多的人群中找到目标用户。另外像我在腾讯做量化算法的小伙伴说，决策树就是一种简单的算法模型。
代码详见：
测试结果
fuzhengwei@MacBook-Pro TensorFlow-Tutorial % /usr/local/bin/python3 /Users/fuzhengwei/1024/github/TensorFlow-Tutorial/codes/linear_regression.py
Epoch 1/500
1/1 [==============================] - 0s 3ms/step - loss: 0.0150
Epoch 500/500
1/1 [==============================] - 0s 2ms/step - loss: 0.0150
1/1 [==============================] - 0s 76ms/step
[[-0.19686729]]
1/1 [==============================] - 0s 29ms/step
[[-1.0953956]]
1/1 [==============================] - 0s 29ms/step
[[-1.9939239]]
1/1 [==============================] - 0s 31ms/step
[[-2.8924522]]
1/1 [==============================] - 0s 30ms/step
[[-3.7909803]]
1/1 [==============================] - 0s 30ms/step
[[-8.283622]]
这一篇文章先给我自己以及大家对 开个门，让对此感兴趣的编程爱好者可以参与进去学习。在我感觉 的出现会打破某些平衡，对一些事项进行秩序重置。因此也让更多的人获得了大量的机会。如果你还没有体验到 的能力，那么可以点击链接对它提问体验。这是小傅哥注册 API Keys 接口，并对接到下面程序中使用的。
相关文章
