ONNX（Open Neural Network Exchange）和 PT（PyTorch 模型文件）是两种不同的模型格式，主要区别体现在设计目标、兼容性、用途和特性上，具体如下：

格式定义与设计目标​

• PT 格式：

  是 PyTorch 框架的原生模型格式（文件后缀通常为 .pt 或 .pth），本质上是 PyTorch 张量和模型结构的序列化文件，紧密依赖 PyTorch 的运行时环境和 API。

  设计目标是方便 PyTorch 模型的保存、加载和断点续训，更适合 PyTorch 生态内的模型开发、调试和训练。

• ONNX 格式：

  是一种跨框架的开放格式（由微软、Facebook 等联合推出），旨在标准化神经网络模型的表示方式，实现不同深度学习框架（如 PyTorch、TensorFlow、MXNet 等）之间的模型互转和部署兼容。

  设计目标是解决 “模型格式碎片化” 问题，专注于模型的跨平台部署。

兼容性​

• PT 格式：

  仅能被 PyTorch 框架识别和加载，依赖 PyTorch 的版本和具体算子实现（不同 PyTorch 版本可能存在兼容性问题），无法直接在其他框架（如 TensorFlow、ONNX Runtime）中使用。

• ONNX 格式：

  与框架无关，支持多种深度学习框架导出（如 PyTorch 的 torch.onnx.export、TensorFlow 的 tf2onnx 工具），并可被多种推理引擎加载运行（如 ONNX Runtime、TensorRT、OpenVINO 等），兼容性更强。

用途场景​

• PT 格式：

  主要用于模型训练阶段，例如：

  • 保存训练过程中的模型权重和结构，方便断点续训；
  • 在 PyTorch 环境下进行模型微调、评估或修改网络结构。

• ONNX 格式：

  主要用于模型部署阶段，例如：

  • 将训练好的模型（无论来自 PyTorch 还是 TensorFlow）转换为 ONNX 格式，再部署到不同硬件（CPU、GPU、移动端、嵌入式设备）或平台（Windows、Linux、Android 等）；
  • 结合推理引擎（如 ONNX Runtime）进行高效推理优化（如算子融合、量化等）。

存储内容​

• PT 格式：

  通常存储模型的参数权重、计算图结构（PyTorch 的动态图定义），还可能包含优化器状态（用于续训）等额外信息，文件大小可能较大。

• ONNX 格式：

  存储的是静态计算图（节点、算子、输入输出张量信息）和模型权重，结构更标准化，不包含训练相关的优化器状态等信息，更适合推理。

灵活性与优化​

• PT 格式：

  依赖 PyTorch 的动态图机制，加载后可灵活修改网络结构或参数，适合研发阶段的灵活调试，但推理时需要 PyTorch runtime 支持，优化手段相对受限。

• ONNX 格式：

  作为静态图格式，一旦导出后结构相对固定，但可被专用推理引擎深度优化（如 TensorRT 的 FP16/INT8 量化、层融合），通常能获得更高的推理效率，尤其在生产环境中优势明显。

总结​

• PT 是 PyTorch 原生格式，适合训练、调试和 PyTorch 生态内的开发；
• ONNX 是跨框架开放格式，适合模型部署和跨平台推理。

实际流程中，常先在 PyTorch 中用 PT 格式保存模型，训练完成后导出为 ONNX 格式，再部署到生产环境。

CUDA（Compute Unified Device Architecture）是一个非常重要且广泛应用的并行计算平台和编程模型。

CUDA 是什么​

CUDA 是由 NVIDIA 公司推出的一种通用并行计算架构。它允许软件开发者和研究人员使用 **NVIDIA 的 GPU（**图形处理器） 来进行通用目的的计算，而不仅仅是渲染图形。这种将 GPU 用于非图形计算的概念被称为 GPGPU（General-Purpose computing on Graphics Processing Units）。

简单来说，CUDA 提供了一套软硬件体系，让你能用 C/C++、Python、Fortran 等语言编写程序，直接利用 GPU 中成千上万个计算核心的强大并行处理能力，来加速解决复杂的计算问题。

​

概述​

Make​

Make 定位为企业级无代码自动化解决方案，是连接多系统的可视化流程工具，致力于帮助企业自动化工作流、提高生产力，无需编写代码。其前身为 Integromat，2016 年成立，2020 年被 Celonis 收购，后更名 Make，现为云端 SaaS 平台，服务全球 170 多个国家的 20 万+企业客户。

平台采用直观拖拽式界面，提供模块化设计与实时数据流可视化，支持从简单流程到复杂业务模型的构建，满足大中小型企业的自动化需求。

n8n​

n8n 是德国团队 2019 年开发的开源工作流自动化平台，定位“开源界的 Zapier”，以“可视化+代码双模式”为核心特性，支持 400+ 应用集成与 2000+ 社区贡献节点，GitHub Stars 达 97.6k。其技术架构基于 Node.js，采用三层微服务设计，提供拖拽式可视化编辑器与 JavaScript/Python 自定义节点能力，支持复杂分支、循环及子流程逻辑编排。应用聚焦企业级场景，如 IT 运维、供应链管理，可嵌入 LLM 节点实现“报销单-OCR-审批-记账”等流程自动化，同时支持自托管部署确保数据隐私。

Dify​

Dify 定位为企业级 LLMOps 标杆平台，首创“LLMOps”概念，以“开源世界的企业 AI 中间件”为核心定位，致力于降低大模型应用开发门槛。2023 年由中国团队创立，采用蜂巢架构（BeeHive）模块化设计，GitHub 星标 37.4k+，社区响应迅速且活跃度高。

技术上融合 BaaS 与 LLMOps 理念，提供从原型设计到生产运维的全生命周期管理，核心能力包括多模型热切换（无缝集成 OpenAI、Llama 3 等百余种模型）、企业级 RAG 引擎（检索精度>95%，支持混合检索）及 Agent 协作系统（支持 ReAct、Function Calling 策略）。工作流引擎支持条件分支、循环等复杂逻辑编排，可在对话流程中插入 RAG 检索或工具调用节点。

应用场景覆盖金融风控、医疗诊断辅助等专业领域，典型案例包括智能客服、合同审查机器人及银行 LLM 网关，国内多家股份行将其用作核心 AI 中间件。部署方式灵活，支持 Docker 私有化部署（最低 2 核 4G 配置）与企业级 BaaS 服务，成本模型为开源社区版免费（需支付第三方模型 API 费用），企业版按需定价。

Coze​

Coze 是字节跳动于 2025 年推出的零代码 AI 应用开发平台，核心定位“新一代 AI 应用开发神器”，主打“5 分钟搭建聊天机器人”的轻量化体验，深度集成抖音、飞书等字节系生态，是个人开发者首选工具。其核心优势在于“零代码+字节生态”双驱动：模板市场提供 1200 余款预制 Bot 模板，支持可视化拖拽搭建，纯小白可快速上手；原生对接抖音评论自动回复、飞书会议纪要生成等场景，发布至字节生态平台仅需一键操作。

技术架构采用模块化设计，后端基于 Go 语言，前端使用 TypeScript (React)，支持通过中转平台调用 Claude、ChatGPT 等外部大模型，目标用户覆盖 AI 初学者、自媒体创作者及中小团队。

BISHENG​

BISHENG 定位为企业级文档处理与多智能体协作平台，是开源 LLM DevOps 平台，以 Apache 2.0 协议开源可商用，已被大量财富 500 强企业采用。核心解决企业非结构化数据处理痛点，自研高精度文档解析引擎支持 PDF、扫描件等处理，双栏排版识别准确率超 95%，跨页表格拼接技术领先，可处理手写体与印章干扰，将非结构化数据转换为结构化数据，作为企业知识库基石。平台采用“低代码+全代码”模式，支持业务人员拖拽与开发者深度编排，提供生成式 AI 工作流、RAG、智能代理等功能，简化部署配置，支持私有化部署。

​

一、多数玩家陷入 “非必经之路” 的致命陷阱​

当行业沉迷于 “参数竞赛”“数据堆砌” 的狂欢时，82% 的企业大模型项目卡在 PoC 阶段的残酷数据，早已敲响警钟 —— 这些团队正走在大模型的 “旁支陌路” 上，而非技术扩散的必经之路。

1. 押注 “规模迷信”：用参数堆不出商业价值​

某头部科技公司耗资千万训练的 175B 参数模型，在电商导购场景的转化效率仅为 3.2%，不及 GPT-3.5（6.8%）的一半；反观某创业公司基于 10B 参数的 Qwen 微调模型，聚焦跨境电商合规问答场景，转化率达 12.7%。这印证了一个真理：参数规模≠场景适配力，那些执着于 “更大、更多” 的团队，本质是用技术焦虑替代商业思考，重蹈 2000 年互联网泡沫中 “烧钱换流量却无变现路径” 的覆辙。

2. 迷信 “技术原生”：忽视 “落地最后一公里”​

某品牌投入 200 万开发的数字人主播，转化率仅为真人 15%—— 并非模型不够智能，而是团队沉迷于 “数字人逼真度” 的技术执念，却忽视了 “直播场景话术适配”“用户互动节奏” 的核心需求。这类 “技术至上” 的玩家，恰恰偏离了大模型从 “实验室” 到 “产业” 的必经之路：技术本身不是价值，让技术适配场景才是。

3. 依赖 “单一路径”：把鸡蛋押在 “训练 / 云服务” 上​

部分企业要么一门心思自研模型，要么完全依赖单一云厂商的大模型服务，却不知 “多云部署”“模型适配”“数据处理” 才是产业落地的必经环节。某金融机构曾因过度依赖某云厂商的大模型服务，遭遇接口中断导致业务停摆 4 小时；而另一家机构通过 “多云部署 + 本地化适配” 方案，将故障风险降低 90%—— 这证明，单一路径的执念，会让企业错过技术扩散的关键节点。

二、大模型的必经之路：三条 “补给线” 才是核心赛道​

王小川所言的 “生命科学 + 具身智能”，本质是大模型从 “通用能力” 到 “场景落地” 的必经之路；而对从业者和企业而言，真正的必经之路，是站在技术扩散的 “补给线” 上，而非 “主战场” 上。

1. 场景翻译之路：让大模型 “懂行业”​

李开复的 “价值链金字塔” 早已揭示：应用层贡献 90% 的商业价值。医疗场景中，月薪 4.9 万的 “医学 Prompt 产品经理”，能将 “病灶描述”“病历术语” 转化为模型可理解的指令，让 10B 参数模型的诊断准确率超越通用大模型；保险场景中，懂 “理赔流程 + 条款解读” 的 AI 产品经理，设计的 Prompt 能让模型理赔审核效率提升 3 倍 —— 这就是 “场景翻译” 的价值：必经之路的核心，是让技术听懂行业的 “话”。

2. 算力调度之路：让大模型 “落地”​

无问芯穹提出的 “M×N” 算力生态，指向了一个被忽视的必经环节：不同芯片（昇腾、英伟达、寒武纪）与不同模型（Qwen、DeepSeek、Llama）的适配。某云厂商的 “算力调度工程师”，能将 Qwen 模型在昇腾芯片上的部署效率提升 40%，降低算力成本 30%，这类岗位缺口同比增长 280%，薪资较传统运维提升 50%—— 这说明，大模型的必经之路，是解决 “在哪跑、怎么跑更高效” 的问题，而非 “怎么训练更大的模型”。

3. 数据炼金之路：让大模型 “有料”​

星环科技 CEO 孙元浩的 “语料质量决定模型上限”，点出了大模型的根本必经之路：数据。某银行的数据工程师，将 20 年信贷记录清洗、结构化、标注为训练语料，让微调后的模型坏账预测准确率提升 25%，个人年薪达 70 万；某制造企业通过 “生产数据 + 设备日志” 的炼金处理，让大模型的设备故障预警准确率达 92%——没有高质量数据的喂养，再大的模型都是 “空心化”，而数据处理正是技术落地的必经前提。

三、2025 年：站在必经之路上的职业跃迁与生存法则​

1. 职业跃迁：必经之路的岗位红利​

转型方向	核心必经技能	2025 薪资区间	行业需求场景
大模型解决方案架构师	行业 Know-How + 跨芯片 / 模型适配能力	50-150K / 月	金融风控、医疗诊断、工业质检
AI 产品经理（场景型）	需求转化 + 行业流程拆解 + Prompt 设计	30-70K / 月	保险理赔、电商导购、政务服务
向量数据库工程师	传统 DB 经验 + Embedding 优化 + 数据索引设计	40-90K / 月	企业知识库、智能搜索、推荐系统
大模型运维 / 调度工程师	多云部署 + 芯片适配 + 性能优化	35-80K / 月	所有产业落地场景

这些岗位的共同特征：不直接参与模型训练的 “主战场”，却牢牢占据技术落地的 “必经节点”，就像淘金热中卖牛仔裤、铁锹的商人，赚走了最稳定的收益。

2. 生存法则：避开非必经之路的三大铁律​

• 不追 “参数虚火”：10B 参数模型在数学推理、行业问答等场景已超越 GPT-4，聚焦 “小而精” 的场景适配，比 “大而空” 的模型训练更具商业价值；

• 不搞 “单一依赖”：多云部署、跨芯片适配能力正在成为核心竞争力，依赖单一模型或云服务，等于把命运交给他人；

• 不丢 “传统根基”：规则引擎 + AI 的混合架构在客服、合规场景已验证有效，传统行业经验 + AI 技术的组合，才是必经之路的 “通行证”。

四、终极启示：必经之路的本质是 “价值落地”​

周鸿祎 “把大模型从原子弹变成茶叶蛋” 的比喻，道破了行业的终极命题：技术民主化正在消灭单纯的技术溢价，大模型的必经之路，从来不是 “技术有多先进”，而是 “技术能解决什么问题”。

2025 年的 AI 从业者，需要回答的三个核心问题，本质是对 “必经之路” 的叩问：

1. 你能否让模型适配客户的硬件环境？（算力调度的必经之路）

2. 你能否让模型读懂行业的特殊数据？（数据炼金的必经之路）

3. 你能否让模型满足场景的具体需求？（场景翻译的必经之路）

那些还在纠结 “学 PyTorch 还是 TensorFlow”、沉迷 “模型训练技巧” 的开发者，就像 1995 年研究调制解调器协议的程序员 —— 他们站在了互联网的 “旁支”，而非 “必经之路”，最终错过应用爆发的黄金时代。

大模型的时代，真正的机会永远在 “技术落地的必经之路上”：不是训练更大的模型，而是让模型走进产业；不是追求更先进的算法，而是让算法创造实际价值。站对了这条路，才能在 AI 浪潮中站稳脚跟；走错了方向，再努力也只是徒劳。

​ A2A协议（Agent-to-Agent Protocol）是谷歌于2025年4月发布的首个开源标准智能体交互协议，旨在解决AI智能体之间的互操作性问题。该协议通过统一通信标准，允许不同开发者、平台或供应商构建的智能体（如自动化程序、AI助手等）跨越数据孤岛和应用程序壁垒，实现安全、高效的协作与任务协调。

​ 随着 AI 技术的快速发展，各类企业对 AI Agent（代理）的需求不断增长。这些 Agent 能够自主处理许多日常重复性或复杂的任务，从简化采购流程、协助客户服务，到优化供应链规划，大大提升了企业自动化与智能化水平。然而，若想让这些 Agent 真正发挥合力，就需要在跨平台、跨框架、跨应用的多代理生态系统中实现"互联互通"。这正是谷歌与众多合作伙伴联合推出 Agent2Agent（A2A）协议 的初衷所在。A2A 致力于在不同底层技术和供应商之间实现标准化的 Agent 协同，让 AI Agent 可以相互通信、交换信息并进行动作协调，形成更强大的企业工作流程自动化方案。

​ Second Me能够通过学习用户的行为习惯、表达方式和兴趣偏好，构建一个高度贴合个人的数字分身。它不仅能记住用户的写作风格、代码习惯，甚至连日常用语中的口头禅都能精准捕捉。

​ Second Me通过自我学习机制，能够不断总结用户的思维模式并形成长期记忆。它还能基于这些习惯进行自主决策，例如在起草邮件时先寒暄再切入正题，或在筛选新闻时优先推送用户感兴趣的内容，而非泛泛的随机推荐。此外，该AI还能与其他AI实例互动并共享知识，展现出强大的扩展潜力。

​ 在现代 AI 的发展中，模型与外部数据源和工具的交互变得越来越复杂。为了解决这个问题，Model Context Protocol (MCP) 被提出，它是一种开放标准，旨在为 AI 模型与外部资源之间提供统一的连接方式。由 Anthropic 于 2024 年推出，MCP 希望能够像 USB-C 接口一样成为 AI 系统与各种数据源和工具之间的“通用接口。这意味着，不同的 AI 应用可以轻松与多种数据源、工具进行即插即用的连接，无需再为每种不同的数据源开发独立的集成方法。

​ MCP 协议通过为 AI 模型与外部数据源和工具提供统一的连接接口，简化了应用与外部资源的集成过程。其标准化的协议架构、双向通信能力以及良好的扩展性，使其成为 AI 应用开发中的一个重要工具。随着 MCP 协议的进一步发展和普及，它有望成为 AI 领域的USB-C 接口，为各种 AI 应用提供更加智能、灵活的连接方式。

​ 在 YOLO 算法中，GPU 在性能和可扩展性方面具有明显优势，适合大规模数据的模型训练和实时目标识别任务；而 CPU 则在成本和开发难度方面具有优势，适用于小规模数据和对实时性要求不高的场景。在使用YOLO（You Only Look Once）进行模型训练和目标识别时，使用GPU和CPU的主要区别体现在以下几个方面：

1. 计算速度​

• GPU：GPU 拥有大量的计算核心，能够并行处理大规模数据。在 YOLO 模型训练时，GPU 可以同时对多个图像批次进行卷积、池化等操作，显著加快训练速度。例如在处理大规模数据集时，使用 GPU 训练 YOLOv5 模型可能只需要数小时到数天，而使用 CPU 则可能需要数周时间。在目标识别阶段，GPU 也能快速完成图像的特征提取和目标检测，实现实时或接近实时的识别速度，适合应用于视频监控、自动驾驶等对实时性要求较高的场景。
• CPU：CPU 核心数量相对较少，且主要侧重于串行计算，在处理大规模并行计算任务时效率较低。在 YOLO 模型训练和目标识别中，CPU 需要逐个处理图像数据，导致处理速度较慢，难以满足实时性要求高的应用场景。

2. 内存带宽​

• GPU：GPU通常具有更高的内存带宽，能够快速读取和写入大量数据，这对于深度学习中的大规模矩阵运算非常重要。
• CPU：CPU的内存带宽相对较低，处理大规模数据时可能会成为瓶颈。

3. 并行计算能力​

• GPU：GPU专为并行计算设计，能够同时处理多个任务，非常适合深度学习中的批量数据处理和矩阵运算。
• CPU：CPU虽然也能进行并行计算，但并行能力远不及GPU，尤其是在处理深度学习任务时。

4. 能耗和成本​

• GPU：GPU的能耗较高，且高端GPU价格昂贵。然而，对于深度学习任务，GPU的高效计算能力通常能够抵消其能耗和成本。
• CPU：CPU的能耗相对较低，成本也较低，但在处理深度学习任务时效率较低。

5. 适用场景​

• GPU：适合大规模数据集、复杂模型的训练和推理任务，尤其是在需要快速处理大量数据时。
• CPU：适合小规模数据集、简单模型的训练和推理任务，或者在没有GPU的情况下使用。

6. 硬件要求​

• GPU：需要支持CUDA（NVIDIA的并行计算平台）的GPU，并且需要安装相应的驱动和深度学习框架（如TensorFlow、PyTorch）的GPU版本。
• CPU：不需要特殊的硬件支持，普通的CPU即可运行，但效率较低。

7. 训练时间​

• GPU：训练时间显著缩短，尤其是在处理大规模数据集时，GPU可以在几分钟或几小时内完成训练，而CPU可能需要几天甚至几周。
• CPU：训练时间较长，适合小规模实验或调试。

8. 推理速度​

• GPU：目标识别的推理速度非常快，能够实时处理视频流或大量图像。
• CPU：推理速度较慢，可能无法满足实时处理的需求。

​ 在开发应用的过程中，Cursor 堪称提升工作效率的利器。搭配 claude3.7-sonnet 使用，生成漂亮原型图的能力令人惊艳。倘若给 claude3.7-sonnet 提供一张参考图，最终产出的效果更是出类拔萃。长期以来，我借助 Cursor 搭配 claude3.5 或 claude3.7 进行代码编写，其展现出的强大功能令人赞叹。最近我也体验了一段时间的 trace，虽说它的功能与 Cursor 有相似之处，但在自动生成代码以及改错功能方面，和 Cursor 相比仍存在较大差距。

​ 不得不提的是，Claude 在编程能力上相较于 deepseek、通义、豆包等表现得更为强劲。无论是复杂算法的实现，还是对代码逻辑错误的精准修正，Claude 都能高效且出色地完成，为开发者节省大量时间和精力，成为编程工作中的得力助手 。

Manus​

Manus是一款由中国的创业公司Monica.im（蝴蝶效应科技）开发的通用型AI Agent（人工智能代理）产品，于2025年3月正式发布。它被定位为全球首款能够自主规划、执行并交付复杂任务的AI助手，突破了传统对话式AI的局限，旨在为用户提供从任务规划到结果交付的全流程闭环服务。

1. 核心功能与特点​

• 自主执行能力：Manus不仅能理解用户需求，还能独立完成从任务规划到实际操作的全过程。例如，用户只需输入“筛选适合投资的股票”或“制作一份AI产品介绍的PPT”，Manus可以自动调用工具（如Python脚本、浏览器等）完成任务并交付结果。
• 多智能体架构：Manus采用多代理系统，将复杂任务分解为规划、执行和验证三个模块，每个模块由独立的语言模型或强化学习模型支持，通过API协同工作。
• 跨领域应用：Manus已展示出在金融分析、招聘筛选、房地产推荐、编程辅助等多个领域的实用价值。例如，它可以解压简历包并自动筛选候选人，或生成股票分析报告。

2. 技术亮点​

• 多智能体分工系统：包括规划代理（采用蒙特卡洛树搜索算法）、执行代理（调用工具完成任务）和验证代理（通过对抗性测试检测逻辑矛盾）。
• 云端虚拟机模式：Manus在云端设置了一个“虚拟机”，用户可以在低性能设备上完成复杂任务，所有操作在云端执行。
• GAIA基准测试表现：Manus在GAIA基准测试中创造了新的SOTA（最先进）记录，性能超越了包括OpenAI在内的同类产品。

Manus的推出标志着AI从“建议者”向“执行者”的转变，为人机协作提供了新的可能性。尽管面临技术质疑和市场炒作，其多智能体架构和全流程闭环能力为通用人工智能（AGI）的落地提供了重要参考。