企业官网建设流程全解析

网站托管服务公司,网页制作公司,贵州建设厅考试网站二建成绩,一个专门做特产的网站Ryuko-NEHT Reloaded! MAME 0.116 游戏合集 站在巨人的肩上#xff0c;走的更远。 镜像/应用大全#xff0c;欢迎访问 一键模型下载#xff0c;推理#xff0c;微调#xff0c;合并工具。 # 一锤定音#xff08;大模型工具#xff09; ms-swift 是魔搭社区提供的大模型…Ryuko-NEHT Reloaded! MAME 0.116 游戏合集站在巨人的肩上走的更远。镜像/应用大全欢迎访问一键模型下载推理微调合并工具。# 一锤定音大模型工具ms-swift是魔搭社区提供的大模型与多模态大模型训练部署框架现已支持600 纯文本大模型与300 多模态大模型的完整生命周期管理涵盖预训练、微调、人类对齐、推理、评测、量化与部署。开发者可在ms-swift框架中一站式完成从模型下载到上线的全流程操作。本项目基于MAME 0.116核心构建融合 Ryuko-NEHT 团队经典 ROM 合集并以现代 AI 工具链为内核打造“复古游戏模拟”与“前沿大模型开发”双轨并行的技术实验平台 —— 正如其名Ryuko-NEHT Reloaded!我们不仅复刻了经典街机的灵魂更将其精神注入当代人工智能工程化实践中。️ 核心能力概览功能模块支持详情✅ 模型类型覆盖 LLaMA、Qwen、ChatGLM、Baichuan、InternLM、Phi、StableLM、Falcon、Dolly、BLOOM、OPT、T5、GPT-NeoX、Mistral、Mixtral、DeepSeek、Yi、Cohere、Command-R、OLMo 等主流架构支持图像生成、视频理解、语音识别、图文问答等多模态任务✅ 数据集支持内置 150 高质量数据集包括 Alpaca、ShareGPT、UltraFeedback、PKU-SafeRLHF、CoIG、VisualWeb、LLaVA-Instruct、ImageNet、ASR-Corpus 等同时支持自定义数据集上传与格式解析✅ 硬件兼容性支持 CPU、NVIDIA RTX 全系列显卡T4/V100/A10/A100/H100、华为 Ascend NPU、Apple MPSM1/M2/M3等多种异构设备✅ 训练方式提供 LoRA、QLoRA、DoRA、LoRA、ReFT、RS-LoRA、LLaMAPro、Adapter、GaLore、Q-Galore、LISA、UnSloth、Liger-Kernel 等轻量级参数高效微调技术✅ 分布式训练支持 DDP、device_map 模型切分、DeepSpeed ZeRO-2/ZeRO-3、FSDP、Megatron-LM 并行策略可实现千亿参数模型的高效训练✅ 量化训练支持 BNB、AWQ、GPTQ、AQLM、HQQ、EETQ 等量化方案下的继续训练QLoRA GPTQ 协同训练✅ 对齐训练RLHF/DPO类完整支持 DPO、GRPO、KTO、SimPO、ORPO、CPO、PPO、RM 建模、GKD 等人类偏好对齐算法✅ 多模态训练支持 VQA、Captioning、OCR、Grounding、Video-QA 等跨模态任务集成 CLIP、BLIP、Flamingo、CogVLM 架构✅ 推理加速支持 PyTorch Native、vLLM、SGLang、LmDeploy 引擎提供 OpenAI 兼容接口支持流式输出、批处理、动态 batching✅ 评测体系基于 EvalScope 构建评测后端覆盖 C-Eval、MMLU、GSM8K、BBH、HumanEval、MATH、MMMU、SEED-Bench 等 100 测评基准✅ 量化导出支持 AWQ、GPTQ、FP8、BNB INT4/INT8 模型导出导出后仍可使用 vLLM/LmDeploy 加速推理或进行后续训练 快速开始指南在真实环境中体验“大模型 街机模拟”的双重快感第一步选择运行环境请根据你将要加载的模型规模评估所需显存模型大小最低显存要求推荐实例配置7B 参数≥16GB GPU RAMA10 或 T4 实例13B 参数≥24GB GPU RAMA100 (40G)34B 参数≥80GB GPU RAMH100 / A100x8 集群多模态大模型≥48GB GPU RAMA100 / H100前往平台右侧新建对应规格实例第二步执行初始化脚本在实例终端中运行以下命令/root/yichuidingyin.sh该脚本名为“一锤定音”寓意一键搞定所有复杂流程。它将自动完成以下操作环境依赖检测与安装CUDA/cuDNN/Torch 版本校验自动挂载共享存储空间初始化 ms-swift 运行时环境展示交互式菜单【模型下载】【启动训练】【开始推理】【执行评测】【量化压缩】第三步按提示操作脚本运行后会进入图形化选择界面请根据需求依次操作 下载模型权重[1] 选择模型家族 → qwen → llama3 → chatglm → internlm2 → yi → phi3 → mixtral → stable-diffusion-xl → cogvlm ...支持全球主流开源模型仓库直连下载ModelScope、HuggingFace、AI Studio无需手动配置 token 或 git-lfs。⚙️ 执行训练任务支持多种训练模式切换[2] 选择训练类型 → Pretrain预训练 → SFT指令微调 → RLHF奖励建模 PPO → DPO/KTO/CPO/ORPO直接偏好优化 → QLoRA 微调低资源适配 → MultiModal-VQA视觉问答联合训练配置文件模板已内置仅需修改少量超参即可提交训练作业。▶️ 启动模型推理[3] 启动推理服务 → CLI 交互模式 → WebUI 图形界面Gradio → OpenAI API Server兼容 v1/chat/completions → 流式输出开关启动后可通过本地浏览器访问http://localhost:7860进行对话测试。 开始模型评测[4] 选择评测数据集 → C-Eval中文知识 → MMLU英文通识 → GSM8K数学推理 → HumanEval代码生成 → MMMU多模态理解 → SEED-Bench视频问答评测结果将自动生成 JSON 报告并保存至/results/目录。 模型量化导出[5] 选择量化方式 → GPTQ int4最小体积 → AWQ int4最佳性能平衡 → FP8高精度压缩 → BNB int8/int4训练友好型导出后的模型可直接用于移动端部署或边缘计算设备。 彩蛋功能MAME 0.116 街机模拟器联动作为致敬经典的彩蛋我们在系统底层集成了MAME 0.116模拟核心搭配 Ryuko-NEHT 团队整理的经典 ROM 包让你在等待模型训练的同时也能回味童年。如何启动街机游戏# 列出所有可用游戏 mame -listroms | grep mgd2 # 启动《拳皇97》MGD2版 mame kof97mg # 启动《合金弹头3》法语翻译版 mame mslug3fr # 查看支持的所有 hack 版本 cat /opt/mame/dats/Ryuko-NEHT-Reloaded.dat | grep description当前共收录478 款经典 NeoGeo 游戏 ROM包含大量稀有 Boss Hack、Remix、Plus 和语言移植版本。 支持的模型和数据集清单官方完整支持列表详见文档 https://swift.readthedocs.io/zh-cn/latest/Instruction/%E6%94%AF%E6%8C%81%E7%9A%84%E6%A8%A1%E5%9E%8B%E5%92%8C%E6%95%B0%E6%8D%AE%E9%9B%86.html常见支持模型举例模型名称类型是否支持Qwen-7B / Qwen-72B文本生成✅Llama3-8B / Llama3-70B文本生成✅ChatGLM3-6B / GLM4-9B中文对话✅InternLM2-7B / 20B全能模型✅Yi-6B / Yi-34B多语言强基座✅Phi-3-mini / Phi-3-medium小尺寸高性能✅Mixtral-8x7BMoE 混合专家✅Stable Diffusion XL图像生成✅CogVLM / CogAgent视觉语言模型✅Whisper-large-v3语音识别✅Emu3All-to-All 全模态✅主流评测数据集支持情况数据集描述是否支持C-Eval中文综合知识测评✅MMLU英文学科知识测评✅CEval多学科中文测试✅CMMLU中英双语知识图谱✅GSM8K数学应用题求解✅MATH高阶数学证明✅BBH复杂推理任务✅HumanEvalPython 编程能力✅MBPP小规模编程任务✅MMMU多模态多选题✅SEED-Bench视频内容理解✅ImageNet Zero-Shot图像分类零样本✅ 使用技巧与最佳实践1. 多卡训练自动分配使用如下命令启用 DeepSpeed ZeRO-3 多卡训练export CUDA_VISIBLE_DEVICES0,1,2,3 swift sft \ --model_type qwen-7b \ --dataset alpaca-en \ --deepspeed zero3 \ --lora_rank 64 \ --num_train_epochs 32. QLoRA GPTQ 联合训练对于显存有限但希望微调量化模型的用户swift sft \ --model_type llama3-8b-instruct \ --quant_method gptq \ --quant_bits 4 \ --adapter_type qlora \ --use_flash_attn true \ --max_length 40963. 快速部署 OpenAI API 服务一键开启兼容 OpenAI 接口的服务端swift infer \ --model_type qwen-7b-chat \ --infer_backend vllm \ --port 8080 \ --openai_api_server之后即可通过标准请求调用from openai import OpenAI client OpenAI(base_urlhttp://localhost:8080/v1, api_keynone) response client.chat.completions.create( modelqwen-7b-chat, messages[{role: user, content: 你好}] ) print(response.choices[0].message.content)❓ 遇到问题怎么办两种方式解决常见问题1. 查阅官方文档 完整技术文档地址 https://swift.readthedocs.io/zh-cn/latest/包含- 安装指南- 配置参数详解- 故障排查手册- 自定义插件开发教程- 分布式训练最佳实践2. 社区支持渠道加入以下社群获取实时帮助钉钉群号2836981677GitHub Issueshttps://github.com/modelscope/ms-swift/issuesDiscord Channel#ms-swift-support 致谢感谢 ModelScope 团队的付出和努力正是由于你们持续推动国产大模型生态建设才使得ms-swift成为可能。我们也致敬 Ryuko-NEHT 团队对经典游戏文化的传承与保护让怀旧与创新在此交汇。 更新日志v0.116-reloaded版本时间更新内容v0.116.02024-03-15初始发布集成 MAME 0.116 与 ms-swift v1.0.0v0.116.12024-04-02新增多模态训练支持升级 vLLM 至 0.4.1v0.116.22024-05-10支持 ORPO、SimPO、CPO 新增对齐算法v0.116.32024-06-13加入 HuggingFace TGI 兼容层优化推理延迟现在就启动你的实例运行/root/yichuidingyin.sh开启属于你的“一锤定音”之旅吧无论是训练一个专属的大模型助手还是重温儿时的街机热血战斗这里都为你准备好了舞台。Ryuko-NEHT Reloaded! 不止是回忆更是未来。