V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
mazejiang04
V2EX  ›  程序员

想落地一个企业自己的生成式 AI 问答系统,基于自己的数据进行训练,该从哪些方面入手,有好的教程吗?

  •  
  •   mazejiang04 · 158 天前 · 1938 次点击
    这是一个创建于 158 天前的主题,其中的信息可能已经有所发展或是发生改变。
    12 条回复    2024-06-13 21:55:35 +08:00
    xhldtc
        1
    xhldtc  
       158 天前
    可以看看 llama index 这个库。我最近也在搞类似的东西,看看有没有大佬有好的实践
    mazejiang04
        2
    mazejiang04  
    OP
       158 天前
    @xhldtc 好的,我看一下,多谢啦
    Songxwn
        4
    Songxwn  
       158 天前
    MaxKB
    bensky
        5
    bensky  
       158 天前
    https://huggingface.co/ 整个好显卡就行了。
    tuotuolala
        6
    tuotuolala  
       158 天前
    qanything 、不私有化部署扣子,钉钉 ai 助理都行,太多了
    gauinlee
        7
    gauinlee  
       158 天前
    一、前端 GPT 框架
    Gradio
    https://www.gradio.app/

    Streamlit 、Static SDK 等方式快速创建创空间,向大家分享您的创意


    二、后端 GPT 开源社区
    Hugging Face
    https://huggingface.co/

    摩搭社区
    https://modelscope.cn/studios
    gauinlee
        8
    gauinlee  
       158 天前   ❤️ 1
    zty5678
        9
    zty5678  
       158 天前
    向量数据库 milvus 的官网有个例子演示了如何搭建一个知识问答系统: https://milvus.io/docs/question_answering_system.md , 可以参考一下, 看看它的大致原理.

    如果想集成 chatgpt 或者国内大模型, 那么需要懂 RAG 的流程了, 刚好它也有个关于 RAG 的例子: https://milvus.io/docs/build-rag-with-milvus.md
    Ghostsss
        10
    Ghostsss  
       158 天前
    我是用的这个,1panel+MaxKB + Ollama
    ALLROBOT
        11
    ALLROBOT  
       158 天前
    构建问答系统可以下个通义千问 App ,“工具”->“高级设置”:上传 PDF 格式的知识库文件,设置角色设定等

    或去智谱搞个智能体,允许 PDF 、doc 、xlsx 等上传作为知识库,支持加入外部工具自定义 API 创建想要的功能

    大公司早就考虑好了,这是一个普通人最快创建 AI 问答系统的途径,还是免费的
    c466934322
        12
    c466934322  
       158 天前
    原来没有人推荐 fastgpt ,我用了半天,感觉本地很吃显卡。因为 qwen7b 就是乱回。
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   1008 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 21ms · UTC 21:47 · PVG 05:47 · LAX 13:47 · JFK 16:47
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.