企业官网建设流程全解析

自动成交型网站建设,新能源网站建设,互联网产品设计公司,大型高迸发网站用什么语言做大语言模型 (LLM) 已成为构建现代软件不可或缺的工具。 但对于 Apple 平台的开发者来说#xff0c;集成这些模型仍然不够友好。在开发 AI 驱动的应用时#xff0c;开发者通常采用混合方案#xff0c;比如#xff1a;使用 Core ML 或 MLX 运行本地模型#xff0c;提升隐私性…大语言模型 (LLM) 已成为构建现代软件不可或缺的工具。 但对于 Apple 平台的开发者来说集成这些模型仍然不够友好。在开发 AI 驱动的应用时开发者通常采用混合方案比如使用 Core ML 或 MLX 运行本地模型提升隐私性并支持离线运行通过 OpenAI、Anthropic 等云服务获取先进模型能力使用 Apple 的 Foundation Models 作为系统级的默认模型但每种方案都有各自不同的 API、配置要求和集成方式开发门槛高、整合成本大。 我在采访开发者时模型集成的困难几乎是所有人都提到的问题。 一位开发者直言不讳地说我本来想随便跑个 demo 测试一下快速做个雏形 没想到浪费了这么多时间搞得我头都大了。高昂的尝试成本阻碍了开发者发现其实本地开源模型就能很好地满足很多场景需求。现在我们发布了AnyLanguageModel 这是一个 Swift 包可作为 Apple Foundation Models 框架的直接替代 同时支持多个模型服务商。我们的目标是AnyLanguageModelhttps://github.com/mattt/AnyLanguageModel降低在 Apple 平台上使用 LLM 的难度鼓励开发者采用可本地运行的开源模型解决方案只需替换importAPI 保持不变核心理念很简单只需替换导入语句原有代码几乎不用改。- import FoundationModels import AnyLanguageModel实战示例如下 先来看 Apple 内置模型的用法let model SystemLanguageModel.default let session LanguageModelSession(model: model) let response try await session.respond(to: Explain quantum computing in one sentence) print(response.content)然后用 MLX 本地运行的开源模型 (如 Qwen) let model MLXLanguageModel(modelId: mlx-community/Qwen3-4B-4bit) let session LanguageModelSession(model: model) let response try await session.respond(to: Explain quantum computing in one sentence) print(response.content)AnyLanguageModel 支持多种模型提供商包括Apple Foundation Models原生集成 Apple 的系统模型 (支持 macOS 26 / iOS 26)Core ML通过神经引擎加速运行已转换的本地模型MLX在 Apple Silicon 上高效运行量化模型llama.cpp通过 llama.cpp 后端加载 GGUF 格式模型Ollama通过 Ollama 的 HTTP API 连接本地模型服务OpenAI、Anthropic、Google Gemini云端模型服务商便于对比和兜底Hugging Face Inference Providers支持数百个云端模型由业界领先的推理服务商提供计算支持推理服务商https://hf.co/docs/inference-providers/en/index我们特别关注本地模型建议通过Hugging Face Hub下载使用。 当然也保留云服务选项降低上手门槛并为迁移提供路径“先跑起来再优化。”Hugging Face Hubhttps://hf.co/docs/hub/为什么以 Foundation Models 作为基础 API我们在设计 AnyLanguageModel 时面临一个选择是重新设计一套抽象还是基于已有的 API 构建我们选择后者以 Apple 推出的Foundation Models 框架为模板。Foundation Models 框架https://developer.apple.com/documentation/FoundationModels这看起来可能有点反直觉——为什么要绑定 Apple 的设计 但我们有几个理由Foundation Models 的 API 设计真的很棒。 它充分利用了 Swift 的特性比如宏开发体验优秀 它的抽象 (如会话、工具、生成等) 也高度契合 LLM 的使用方式。它的功能是有意做了限制的。 Foundation Models 可以看作是大语言模型能力的“最小公分母”。 我们并不认为这是缺点反而把它当作一个稳定的基础 (嘿嘿) 。 几乎所有面向 Apple 平台的 Swift 开发者都需要接触这套 API 直接在它之上构建可以大大减少理解和上手成本。它让我们保持专注。 每多加一层抽象就会让你离实际问题更远。 抽象固然有用但叠加太多反而会带来新的复杂性。最终的好处是在不同模型服务商之间切换时代码几乎不用改 而且核心抽象干净、统一、可预测。包的可选特性按需加载避免依赖臃肿多后端的库常常会出现依赖太多的问题。 比如你只想跑 MLX 模型却不得不引入 llama.cpp 及其庞大依赖。AnyLanguageModel 使用 Swift 6.1 的包特性 (Package Traits) 解决这一问题。你可以按需引入需要的后端支持dependencies: [ .package( url: https://github.com/mattt/AnyLanguageModel.git, from: 0.4.0, traits: [MLX] // Pull in MLX dependencies only ) ]支持的 traits 包括CoreML、MLX、Llama(支持 llama.cpp 和llama.swift) 默认情况下只包含基础 API 和云服务支持不引入重依赖后者仅依赖标准的URLSession网络请求。llama.swifthttps://github.com/mattt/llama.swift对于 Xcode 项目 (目前还不支持直接声明 trait) 你可以创建一个内部的 Swift 包指定所需 trait 依赖 AnyLanguageModel 然后将这个包作为本地依赖添加到你的项目中。 具体操作方法可以参考README中的详细说明。READMEhttps://github.com/mattt/AnyLanguageModel#using-traits-in-xcode-projects图像支持 (以及 API 设计的权衡)视觉语言模型如今非常强大且广泛应用。 它们可以对图片进行描述、从截图中提取文字、分析图表甚至可以回答与图片内容相关的问题。 但遗憾的是Apple 的 Foundation Models 框架目前还不支持在 prompt 中发送图片。视觉语言模型https://hf.co/blog/vlms-2025基于已有 API 进行开发就意味着要接受它的限制。 Apple 未来大概率会在后续版本 (也许 iOS 27) 加入图像支持 但视觉语言模型实在太实用了等不了那么久。 因此我们在现有 Foundation Models 的基础上进行了扩展提供了更多功能。例如下面是发送图片给 Claude 的代码let model AnthropicLanguageModel( apiKey: ProcessInfo.processInfo.environment[ANTHROPIC_API_KEY]!, model: claude-sonnet-4-5-20250929 ) let session LanguageModelSession(model: model) let response try await session.respond( to: Whats in this image?, image: .init(url: URL(fileURLWithPath: /path/to/image.png)) )我们在这里做了有意识的取舍 也许我们现在的设计将来会和 Apple 官方的实现产生冲突 但这正是废弃警告 (deprecation warnings) 存在的意义。 有时候你必须为“还不存在的框架”提前设计好 API。快速体验chat-ui-swift 应用示例想要直观体验 AnyLanguageModel 的实际效果 可以试用chat-ui-swift这个 SwiftUI 聊天应用 它完整展示了该库的各种功能。chat-ui-swifthttps://github.com/mattt/chat-ui-swift这个应用包含通过 Foundation Models 集成 Apple Intelligence (支持 macOS 26)支持 Hugging Face OAuth 登录访问受限模型支持流式响应支持聊天记录持久化这个项目是一个起点 你可以 fork 它、扩展它、替换不同的模型 了解各个模块如何协作并根据自己的需求进行定制。下一步计划AnyLanguageModel 当前版本仍为 pre-1.0。 核心 API 已稳定 但我们仍在努力将 Foundation Models 的全部特性引入到所有适配器中包括工具调用 (Tool calling)适配所有模型服务商MCP 集成 (MCP integration)用于工具调用与引导结构化输出的引导生成 (Guided generation)本地推理的性能优化这个库只是迈向更大目标的第一步。 统一的推理 API 能为 Apple 平台上的智能代理类应用打下基础—— 让模型能够调用工具、访问系统资源、完成复杂任务。 更多内容敬请期待。一起参与进来我们非常欢迎你来一起完善这个项目试用它—— 实际开发点什么体验下功能分享你的反馈—— 哪些地方顺手哪些有痛点我们很想听听你在集成 AI 到应用时遇到的挑战提交 issue—— 不管是功能建议、Bug 报告还是技术问题都欢迎参与贡献—— 欢迎提交 PR链接汇总AnyLanguageModel on GitHubchat-ui-swift on GitHubAnyLanguageModel on GitHubhttps://github.com/mattt/AnyLanguageModelchat-ui-swift on GitHubhttps://github.com/mattt/chat-ui-swift我们期待看到你能用它打造出什么精彩作品 英文原文: https://huggingface.co/blog/anylanguagemodel原文作者: Mattt译者: Luke, Hugging Face Fellow