AI Comic Factory:AI(连环)漫画生成器

发布时间:2024-07-04 11:31:50 浏览量:242次

AI Comic Factory:创意无限的AI漫画生成器

这里介绍了AI Comic Factory项目的重要信息。这是一个开源项目,需要多个关键组件来运行,包括前端、后端、LLM(大型语言模型)、SDXL等。在开始项目之前,需要对一些变量进行配置,如LLM_ENGINE、HF_API_TOKEN等。目前项目使用Llama-2 70b作为LLM,用户可选择使用Inference API模型、Inference Endpoint URL或者自定义代码以应用其他LLM系统。项目还使用Rendering API生成面板图像,并提供了部署VideoChain和使用其他SDXL API的选项。未来可能会简化项目,并增加对OpenAI或Replicate的支持。

在家探索项目

首先,要强调所有组件均采用开源方式运行(详细信息请参考此处、此处、此处、此处)。

然而,这并不是一个复制即可运行的整套系统:它需要前端、后端、LLM、SDXL等多种组件。

如果尝试复制项目,需要配置一些变量:

  • LLM_ENGINE:可选择“INFERENCE_API”或“INFERENCE_ENDPOINT”
  • HF_API_TOKEN:如果选择使用推理API模型或自定义推理端点,则此项是必需的
  • HF_INFERENCE_ENDPOINT_URL:选择使用自定义推理端点时必需
  • RENDERING_ENGINE:目前仅支持“VIDEOCHAIN”,除非自行编写代码进行修改
  • VIDEOCHAIN_API_URL:VideoChain API服务器的URL
  • VIDEOCHAIN_API_TOKEN:访问VideoChain API服务器的秘密令牌

通过阅读.env默认配置文件可获取更多信息。如需自定义本地变量,可创建一个.env.local文件(请勿提交此文件,因为其中包含机密信息)。

-> 想在本地、云端或使用私有模型运行项目,需要进行代码编写操作。

LLM API(大型语言模型)

目前,AI Comic Factory使用Llama-2 70b通过推理端点运行。

用户有三个选择:

选项 1:使用推理API模型

这是最新添加的选项,允许使用Hugging Face Hub中的模型之一。建议默认选择CodeLlama 34b,因为它能提供比7b模型更好的结果。

激活此选项需创建一个.env.local配置文件:

            LLM_ENGINE="INFERENCE_API"        HF_API_TOKEN="Your Hugging Face token"        # codellama/CodeLlama-7b-hf" is used by default, but you can change this        # note: You should use a model able to generate JSON responses,        # so it is strongly suggested to use at least the 34b model        HF_INFERENCE_API_MODEL="codellama/CodeLlama-7b-hf"    

选项 2:使用推理端点URL

若要在Hugging Face推理端点服务上运行私有LLM,需创建一个.env.local配置文件:

            LLM_ENGINE="INFERENCE_ENDPOINT"        HF_API_TOKEN="Your Hugging Face token"        HF_INFERENCE_ENDPOINT_URL="path to your inference endpoint url"    

若要在本地运行此LLM,可使用TGI(详细许可信息请阅读相关文章)。

选项 3:修改代码使用其他LLM系统

另一选择是完全替换LLM,并使用其他LLM协议和提供者(如OpenAI、Replicate),或通过返回模拟或静态数据实现人工生成的故事。

小记

未来可能会优化AI Comic Factory,例如增加对OpenAI或Replicate的支持。

渲染API

此API用于生成面板图像,为我为Hugging Face的各类项目所创建。

虽然尚未为该API编写文档,但基本上它是其他API的“包装器™”:

  • @hysts 的hysts/SD-XL空间
  • 还有其他用于制作视频、添加音频等功能的API……但AI漫画工厂并不需要它们

选项 1:自定义部署VideoChain

需克隆源代码

目前我还没有时间为VideoChain编写文档。(若我完成后,将更新文档并指向VideoChain的自述文件)

选项 2:使用其他SDXL API

若分叉此项目,可修改代码以应用您选择的稳定扩散技术(包括本地、开源、及自定义HF空间等)

小记

未来将优化AI漫画工厂,例如增加对Replicate的支持。


项目链接

https://github.com/jbilcke-hf/ai-comic-factory

热门课程推荐

热门资讯

请绑定手机号

x

同学您好!

您已成功报名0元试学活动,老师会在第一时间与您取得联系,请保持电话畅通!
确定