跟进最新的 gpt-3.5-turbo 模型，写了一个套壳 ChatGPT

[ddiu8081]

今天 OpenAI 公布了最新的模型 gpt-3.5-turbo，已经可以进行顺畅的对话了。

就做了这么一个应用，可以进行正常的上下文连贯对话。

技术栈使用了 Astro + SolidJS

• Site: https://chatgpt.ddiu.io
• Github: https://github.com/ddiu8081/chatgpt-demo

[justin2018]

速度好快😁

[anonydmer]

挺好的，有个小建议，响应结果中如果是代码的话是符合 markdown 的标准的，用```包围的，楼主可以在样式上处理一下

[svaeric]

不错 好快 比我白嫖的快多了😭

[LXchienne]

打字回车确认和对话输入确认重复了。。打两个字就发过去了

[ersic]

速度很快，能在页面上自定义 key 就更好了

[ao99]

代码显示不太友好

[jatsz]

一个字：快

[WeiPong]

回答的挺快，就是答案样式缺少处理

[ddiu8081]

@LXchienne #4 @ersic #5 晚上优化下😀
@anonydmer #2 @ao99 #6 @WeiPong #8 谢谢，回头我加上回答内容的格式化

[lambdaq]

就感觉到快

[rimutuyuan]

搜狗输入法输入英文直接回车时，会把分隔符一起传过去

h'e'l'l'o

[rimutuyuan]

顺便问下 lz 怎么付费的

[ddiu8081]

@rimutuyuan #11 #12 他家的收费标准是 $0.002/1K tokens ，大概 750 词

[rimutuyuan]

@ddiu8081 是的，想咨询的是通过什么方式付费，国外银行卡？

[ddiu8081]

@rimutuyuan 对，用的国外虚拟信用卡

[swulling]

新的 API 确实快得很

[rimutuyuan]

@ddiu8081 门槛高吗，能否透露下

[wmc1125]

api 反应好快

[dev436]

连续对话能力是 api 自带的吗？

[910035487]

国外虚拟卡是哪家，可以介绍吗

[quzard]

@ddiu8081 他的 token 对于中文是怎么计数的，一个汉子一个 token ？

[ddiu8081]

@rimutuyuan #17 @910035487 #20 depay
@dev436 #19 是 api 自带的，在接口入参传入历史对话内容就可以了
@quzard #21 没细致统计过。。我就当作一个字 1token 算了

[znl1087]

@ddiu8081 历史对话内容字数好像有点多啊

[ddiu8081]

@znl1087 #23 是有点多，我看文档的指引大概是......自行精简内容🤣

[rjagge]

这个 api 也有 country 的限制吗。。。

[bigfei]

飞快啊。。

[helloet]

回答速度也太快了吧。。

[littlecowherd]

@quzard #21 一个汉字大概是两个 token

https://platform.openai.com/tokenizer
https://github.com/openai/openai-cookbook/blob/main/examples/How_to_count_tokens_with_tiktoken.ipynb

[anonydmer]

@ddiu8081 楼主可否考虑加一个简单的认证机制？可以只让个人使用

[shuxhan]

比较好奇，是 chatGPT 质量高还是 api 质量好，对比一下。

[zooo]

速度太快了...

[zooo]

突然不适应了....还是我那个慢吞吞的 gpt 么

[znl1087]

@ddiu8081 那这个 token 消耗是指数增长的。。感觉会用的非常快。

[telami]

太快了，不适应呢

[twor2]

如果回答质量一样
是不是自己搭建一个，会比自己开会员便宜？

[nekomiao]

@shuxhan 理论上是一样的吧

[NeroKamin]

连续对话是要把之前所有的对话历史都传进去？包括你的发言和 AI 的回复？

[qping]

每次用都感觉自己会被淘汰

[yawn852]

我看文档是没有连续对话的哎，你是通过把之前的聊天记录传输过去实现的吗？

[qping]

想问下 op ，api 的话有地区限制么

[zhangsansama]

很快！

[ddiu8081]

@rjagge #25 @qping #40 试下来 api 应该没发现有地区限制
@anonydmer #29 今天没来得及，后面应该会简单限制一下
@twor2 #35 感觉是这样的，如果 api 这种质量能一直持续下去的话感觉就不用买 plus 了...
@NeroKamin #37 @yawn852 #39 是要把之前的对话内容传进去，这点比较坑

[ZoeeoZ]

有钱就是好,速度真快

[qping]

可以把最近的十个问题传过去，不用维持这么多连续对话

[malagebidi]

把速度调到人类每分钟 60 字就差不多了

[Mason2021]

速度真的好快，谢谢楼主。

[xrzxrzxrz]

这个不收费的吗？试了下，直接可以用

[AS4694lAS4808]

OP 的代码是自己写的还是 GPT 生成的？[狗头]
话说速度是真快，我还没写完。。估计得周末了

[ddiu8081]

@qping #44 最近十个还是不太行，因为有时候 ChatGPT 的用法是第一句抛出大背景（ e.g. “你是一个翻译机器人”），所以至少还得把第一句传进去；不过 api 也有一个设定背景的功能，回头我也接入下试试
@xrzxrzxrz #47 现在用的是我自己的 ApiKey ，后续会加一个自定义 key 的功能

[billytom]

其实我不太懂，为了个问题，它说它是对话机器人不能回答问题？ 是 chatgpt 有分问答（完整型）和 对话 bot （类似 telegram ）那种入门型的吗？

[ddiu8081]

@AS4694lAS4808 #48 是写的 🐶 因为前两周正好写过一个 GPT-3 的应用，今天正好 UI 复用上了，就改了些逻辑
@billytom #50 chatgpt 听描述应该和 api 一样，可以换一种问法试试。。当然也可能确实有差异

[hailiang88]

op 还是不要自定义 key 了，免得被别人说 key 被别人盗用

[timeance]

问了一些硬件相关的问题，比如如何连接两个 Jetson 模组
chatgpt 说用 nvlink ，InfiniBand 或者分布计算。gpt3.5 和我说用 usb ，串口，并口，网络...

写报告，周报，邮件。两个水平旗鼓相当

[crokily]

@shuxhan 可以两个都用对比一下，会发现一直以来开放的 api 都是弱化版本的 ChatGPT

[billytom]

奇怪，我问了好几个问题，一问都说自己只是对话模型，不知道，然后就说了些似是而非的对话，感觉楼主这就是个 bot 不是人工智能啊

[cat9life]

快的飞起

[GeekJason]

页面很好看，已 star

[jjrow]

洁面挺干净清爽的，请问这样的页面，是不是自己设计的，当时说有模版可用

[DjvuLee]

响应速度真的快，出乎意料。

openAI 封了好多 vps 的地址，lz 是怎么搞定这个的？

[quzard]

@DjvuLee api 不封 vps 吧

[quzard]

用 op 的代码稍微编译了一个 docker ，用自己的 token 搭了一个，api 确实比 web 的快很多，只不过免费的 18 美金只能用 3 个月。。。

```text
version: "3"

services:
chatgpt:
image: quzard/chatgpt-demo:latest
container_name: chatgpt
restart: always
ports:
- "3000:3000"
volumes:
- .env:/app/.env
```

[DjvuLee]

@quzard API 不清楚了，之前网页登录，显示地址被封了。

[cat9life]

[cat9life]

@cat9life #63 貌似不是 chatGPT ？

[u2gign]

他这是 GPT-3 目前时间段可以调通
GPT-3.5 现在调不通了

[turtlekey]

效果不是很好哦，如图：[https://imgse.com/i/ppFX57R]( https://imgse.com/i/ppFX57R)

[justin2018]

生成的 table 是 Markdown 格式 没有做转换~~~

[cutchop]

不怕破产😂？

[PINSONGCAKE]

OP 网址运行在 Google Cloud 上？

[dxppp]

@PINSONGCAKE Vercel ，Vercel 用了 AWS Global Accelerator

[dcsite]

你和 ChatGPT 有什么区别

我和 ChatGPT 都是基于 OpenAI 的语言模型技术，但我们有一些区别：

1. 训练数据不同：我使用的训练数据是来自于多个领域的新闻、博客、维基百科等文本，而 ChatGPT 主要使用的是社交媒体上的对话文本。

2. 模型大小不同：我相比 ChatGPT 来说是比较小的模型，可以更快地响应用户的请求。

3. 功能不同：我被设计为一个通用型的语言模型，可以回答各种类型的问题，而 ChatGPT 则更专注于自然语言生成任务，例如生成文章、摘要等。

总的来说，我和 ChatGPT 都是基于相同技术的语言模型，但我们的应用场景和功能略有不同。

[dxppp]

@PINSONGCAKE https://vercel.com/blog/aws-and-vercel-accelerating-innovation-with-serverless-computing

[dxppp]

@PINSONGCAKE https://vercel.com/blog/behind-the-scenes-of-vercels-infrastructure

[LKim]

有个疑问，该怎么选择：
用 web 版的 chatgpt plus 版，月费 20 刀；
还是用 chagpt 的 API 版，按照使用量付费
我已经订阅了 plus ，想着如果可以用 API 版，是不是可以少一点花销。
还有一个是，二者的回复有什么不同

[SteveRogers]

原来又是 v2 这边网友弄出来的

[ninvfeng2020]

好快, 用起来好流畅

[gr3yman]

这源码应该如何编译啊？不懂前端，有说明吗 @ddiu8081

[lovestudykid]

@cat9life 不能太信任这种答案...它还说 gpt-3 比 chatgpt 更先进呢

[laila]

快的很

[ddiu8081]

@jjrow #58 是自己做的
@justin2018 #67 已支持表格 /数学公式 /代码块高亮
@cutchop #68 还在观望中，目前还没有超限...
@LKim #74 根据楼上的回复来看 API 应该是要稍弱一些的，不过都能接受的话还是 API 更划算
@gr3yman #77 回头我加一个，issue 里也有人贡献了 docker 的

[MisakiYui]

请问可不可以加个重新生成回复的按钮？

[shadoworld]

可以加个 api 轮询吗？.env 填写多个 api key

[logiclab]

还不错啊

[kanhongj]

感觉拿来做高等数学还是有些难，就比如 “怎么解 lim x->0 1/x(1/sinx - 1/tanx) ” ，”怎么解 lim x->0 1/x(1/sinx - 1/tanx) 答案是 1“， 其实答案是 1/2 都能给你做出来

[zanxj]

@kanhongj #84 这个你应该用 “微软数学”

[encro]

模仿白居易做一首关于高考的诗

高考时节到，应试者心慌慌。
卷面前，笔如飞，不知成败在此一擂。
题海茫茫，思路乱，不禁感慨人生多长。
背诵千篇，默写万句，唯有一场考试决定命运。
但愿此生不虚度，高考后，前程似锦路。

[clannadmk]

乖乖，快的我都反应不过来，666

[lividsu]

cool!

[ly529]

谢谢楼主，不知道能坚持多久

[HanSonJ]

@ddiu8081 #15 这个是怎么申请的？

[LKim]

@HanSonJ depay

[artshooter]

赞楼主

[zuoyi333888]

建议加上一些 API 的参数配置，例如 temperature, stop 等，方便使用者可以根据自己的要求来设置，如果 ta 想要一个非常准确的答案，可以降低 temperature 。

[fqns]

体验挺好,就是图片没法显示.哈哈. 能自定义 key 的话, 也能给你节省点开支.

[zhaohua]

楼主好快， 我刚准备写

[ViolaH]

@zuoyi333888 gpt-3.5-turbo 好像不支持，摘自官网：
"Is fine-tuning available for gpt-3.5-turbo?
No. As of Mar 1, 2023, you can only fine-tune base GPT-3 models. See the fine-tuning guide for more details on how to use fine-tuned models."

[zuoyi333888]

@ViolaH 不是 fine-tuning ，是发送 API 请求时候的配置设定（ https://platform.openai.com/docs/api-reference/completions/create#completions/create-temperature ）

[myselflove8090]

数据不是最新的

[LeeeSe]

直接部署在 vercel 速度跟 OP 的差不多

[OkabeRintaro]

太傻了
问他天地有正气下一句是什么,回我一句:雄心向前人无敌
又问他这是谁写的,回我 [王勃的《滕王阁序》]
再问他正气歌谁写的，回我 [唐代的韩愈，这首诗是韩愈在他的文章《马蹄铁》中所附的一首赋] ，我问他确定吗？他立马改口说是 [宋朝理学家朱熹] 写的，再问他确定吗？又改回说是 [韩愈] 写的。
最后让他把正气歌和滕王阁序的内容说出来，我在问他 [滕王阁序有"天地有正气,杂然赋流形"这一句吗] ，直接就不会答了。