混乱特工
各种AI端云模型大爆发，路由的重要性开始凸显_我的网站
一 | 飞象原创（魏德龄/文）路由是很多人所熟悉的词汇，最先想到的莫过于家中的路由器，它在网络层面，将数据拆分为一个个小小的“数据包”，以最经济的传输路径，把数据传给下一个节点。
二 | 我觉得球队把他安排去防守，或许是一步错棋。 “算力路由”在算力感知网络中用来支撑“最优路径+最佳算力”的分配逻辑，将业务流量动态调度至算力资源的最优节点。此前，IETF还正式成立了算力路由工作组，来推进在通信协议中，使用“路由”来对算力流量进行优化分配。我懂什么足球呢？球队当时已经取得领先，却把队内最好的球员调去防守。
三 | “模型路由”则在消费电子领域中，用来形容端侧与云端模型算力的智能切换。智能路由机制会将复杂的任务拆解为子任务，通过决策器判断该子任务是留在本地（端侧）执行以保护隐私并节省成本，还是脱敏后发往云端执行以利用更强大算力。”一旁陪着特朗普说笑的国际足联主席因凡蒂诺听到这番话后还鼓起了掌。特朗普接着说道：“比赛总得有点进攻性，对吧？不过我哪懂执教的门道？这套战术实在反常，但凯恩本人确实是个很好的人。 与此同时，现代负载均衡器已演变为“智能请求路由”系统，它们不再将请求视为可互换的单位，而是根据模型的复杂度、数据的本地性以及硬件的亲和性来导向流量。这种“路由”将不仅看脸结束，还会监控CPU、GPU使用率和队列深度，以实现多维度的资源优化。”凯恩上周也证实，自己确实和特朗普18个月前在佛罗里达相约打球，并称特朗普球技出色：“老实说他高尔夫水平相当厉害，我真心希望自己到他这个年纪，也能打出这么好的球。 节省资源，保护隐私 在各个节点的算力，以及位于不同位置的模型间，使用路由来进行调度的好处在于节约资源与将敏感数据留在本地。”而特朗普也透露二人早有高尔夫之约：“凯恩是顶尖球员，我和他打过球，我特别欣赏他，他高尔夫打得也很好，人非常优秀。 一个最简单易懂的原理在于，有时用户请求大模型的问题，可能仅仅是一个百科查询的问题，或只是简单的调侃，甚至所谓的低幼问题。”▲凯恩打高尔夫球本届世界杯期间，特朗普多次登上赛事舆论中心，最出名的一次便是他致电国际足联主席因凡蒂诺，促成美国队球员巴洛贡的红牌处罚暂缓执行。
四 | 但这些请求与复杂的研究与生成内容，一样传送至了高参数量的模型中运行，几乎可以说是对算力资源的一种浪费。 以英特尔在智能体PC中采用的路由机制为例，可以通过固定规则或AI模型判断该子任务的复杂度。如果子任务与本地AI能力的匹配度高，则被判定为“简单任务”，路由至本地小参数量模型执行。若本地无法胜任，则路由至云端API。
五 | 该功能还能同时提供保护敏感数据的能力，例如目前很多公司在内部，均开始限制公司资料上传至云端AI的权限，甚至使用专用的浏览器，来对数据进行水印添加、拦截上传等操作。而通过路由机制，可以进行隐私脱敏处理，在调度过程中，所有必须发往云端的数据都会先在本地进行脱敏处理，保护敏感信息。同时，路由并不盲目信任端侧结果。
六 | 在端侧执行完成后，系统会进行质量校验。若结果不达标，会将其脱敏后重新提交至云端执行，并最终完成结果拼装。 路由机制也具备与AI一样的学习能力，能从过往的调度错误中积累经验，不断优化子任务的切割方式和分类器的准确度，使其越来越贴合用户习惯。 这种路由原理，在更广的终端范围内同样适用，例如在智能手表、XR眼镜、手机、边缘算力与云端，路由机制在未来同样可以完成对于任务复杂度的调度。如调整设置、快速检索、优化照片这样的简单任务可以由本地2B小模型处理。而当可穿戴设备侧算力不足时，调度平台会将任务分流到与其连接的手机、PC或专用计算单元，通过7B-10B参数的模型进行处理，而针对极其复杂的重负载任务或需要海量数据支撑的请求，系统会通过调制解调器将任务发送至云端处理。
七 | 不过，对于个人用户的隐私保护而言，一旦涉及设备迁移，个性化数据则需要经过加密处理的云端服务来完成，以便用户购买新设备时，这些模型和数据会从云端无缝流转回新的端侧设备，避免了重新训练和磨合的周期。 以往在家庭网络中被人熟悉的路由概念，如今正准备开始指挥一场关于算力的交通。
八 | 而在对不同任务需求再拆分再分配的背后，用户端不仅将保持无感的体验，还将获得时延更低的反馈，以及更好的数据保护，甚至是深度用户对于Token费用的节省。
九 |
Current article:http://0ng3it.xiaqingzhuangdaminnan.cyou/news/20260826_319991.html
Published on:08:19:55
评论
- 下一篇：三伏过后，高温还会持续多久
- 上一篇：为建设用地使用权转让出租抵押建“超市”
-
关于我们 | 我的网站 版权所有
Copyright ? 2019 我的网站 All Rights Reserved