2.5 KiB
2.5 KiB
SKG TK 二创 API
FastAPI 后端,跑 yt-dlp + ffmpeg + ASR/翻译/音频画像、抽帧、GPT 图像生成/修图、Azure OpenAI TTS 预留和视频候选预留管线。
启动
cd api
python3 -m venv .venv
source .venv/bin/activate
pip install -r requirements.txt
cp .env.example .env # 按需填 LLM_API_KEY / AZURE_OPENAI_API_KEY
uvicorn main:app --host 127.0.0.1 --port 4291
不要在长下载、抽帧、音频处理时带 --reload 跑后端;reload 会等待后台任务结束,表现为端口还在但新请求卡住。
路由
GET /health— 健康检查 + 配置状态POST /jobs{url}— 创建 job,后台下载源视频;前端“开始分析”会在视频就绪后自动启动音频解析和视觉抽帧POST /jobs/{id}/download/retry— TK 链接下载失败后重试下载;上传视频任务不能重下载GET /jobs/{id}— 当前状态 + 产物;若原始音轨已拆出,会返回source_audio_urlPOST /jobs/{id}/transcribe— 触发音频提取 + ASR + 中文翻译 + 讲话人 / 节奏 / 背景音分析;当前第一步不默认生成 SKG 新口播或 TTS 配音GET /jobs/{id}/video.mp4— 原视频GET /jobs/{id}/audio.wav— 拆轨后的原始音频,供前端音频波形和多模态音频分析使用GET /jobs/{id}/audio-script.mp3— 后续新配音阶段保留的 Azure OpenAI TTS 文件GET /jobs/{id}/frames/{i}.jpg— 第 i 张参考帧;当前主流程自动抽 12 张动作 / 节奏参考帧,也支持手动按当前播放点补帧
Mock 模式
未设 LLM_API_KEY 时,转录走本地 mock,便于 UI 联调;未设 AZURE_OPENAI_API_KEY 时,后续 TTS 文件不会生成,但不影响当前第一步音频解析。
依赖
ffmpeg系统二进制(拆轨 / 抽帧)yt-dlp系统二进制(也可走 Python 包)- OpenAI 兼容 LLM 网关(ASR / 翻译 / 文案改写 / 视觉 brief);ASR 默认自动识别中文、英文和其他多语言,远端失败后先走容器内多语言
faster-whisper/ 本机mlx_whisper,再按开关用ASR_FALLBACK_MODEL走多模态音频识别,后端会拒绝疑似假字幕或覆盖率过低的时间轴 - GPT 图片网关(当前所有生图 / 修图 / 产品视角识别 / 主体资产 / 首尾帧都强制使用
gpt-image-2,不做其他图片模型 fallback) - Azure OpenAI TTS(后续新配音阶段使用
AZURE_OPENAI_API_KEY;默认模型gpt-4o-mini-tts,按AZURE_TTS_PATHS依次尝试语音路径)