V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
推荐学习书目
Learn Python the Hard Way
Python Sites
PyPI - Python Package Index
http://diveintopython.org/toc/index.html
Pocoo
值得关注的项目
PyPy
Celery
Jinja2
Read the Docs
gevent
pyenv
virtualenv
Stackless Python
Beautiful Soup
结巴中文分词
Green Unicorn
Sentry
Shovel
Pyflakes
pytest
Python 编程
pep8 Checker
Styles
PEP 8
Google Python Style Guide
Code Style from The Hitchhiker's Guide
Carry0317
V2EX  ›  Python

如何正确(商业化)部署 AI 服务?

  •  
  •   Carry0317 · 12 天前 · 1554 次点击

    想请教两个问题: 1:比如当前用 python 实现了一个 OCR 的功能,该如何正确的封装这个功能,使其成为一个服务被调用? flask+gunicorn 这套我理解有点简单了,是否还有更适合部署方式? 2:服务构建好之后,用 docker 打包的话,若是 python 开发的,如何真正做到代码保护?

    9 条回复    2024-04-12 14:08:11 +08:00
    LeoQ
        1
    LeoQ  
       12 天前 via iPhone
    你是啥位置呀? 怎么还要考虑代码保护? 给人做私有部署吗?直接卖 API 不就保护起来了?
    GeekGao
        2
    GeekGao  
       12 天前
    1.封装 OCR 功能为服务:使用 Flask 和 Gunicorn 是一个常见且有效的方式来封装 OCR 功能为一个可以被调用的服务。

    2.代码保护:在使用 Docker 打包 Python 应用程序时,代码保护是一个重要的考虑因素。使用工具如 PyOxidizer 、PyArmor 对代码进行混淆,使得代码更难以被理解和修改。对关键代码或数据进行加密,只在运行时解密。
    StubbornHuang
        3
    StubbornHuang  
       12 天前
    工业化部署 AI 模型一般都是 C 艹,不会直接使用 python+pytorch 这种形式
    Sayuri
        4
    Sayuri  
       11 天前
    fastapi
    Carry0317
        5
    Carry0317  
    OP
       11 天前
    @LeoQ 内网环境部署呢
    inkuku
        6
    inkuku  
       10 天前
    如果你的代码是 python 的,那么 flask+gunicorn 这个就能满足需求了,不需要特别复杂,你就是提供 API 就可以了
    其次,如果要保护代码,最简单的就是先编译成.pyc ,只发布 pyc 就可以了
    CHchenkeyi
        7
    CHchenkeyi  
       5 天前
    我目前开发和部署下来的情况是编译打包,docker 方案很难,首先你要做成服务化,你的客户基本不懂技术,而且基本使用环境都是 WINDOWS ,docker 方案就很难实现
    Carry0317
        8
    Carry0317  
    OP
       4 天前
    @CHchenkeyi 编译 python 代码么?服务用的是 flask 么?
    CHchenkeyi
        9
    CHchenkeyi  
       2 天前
    @Carry0317 cx_Freeze 可以看看这款工具
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   我们的愿景   ·   实用小工具   ·   6227 人在线   最高记录 6543   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 28ms · UTC 02:17 · PVG 10:17 · LAX 19:17 · JFK 22:17
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.