Home avatar

JoeSmile

聚焦 AI Agent 全链路工程实践:RAG 检索、记忆系统、Agent 编排、Next.js 产品落地与 AI 协作工程化。下方为当前写作方向;首页文章列表仅展示本阶段内容。

当前方向

历史归档

2018–2019 年前端与 Node.js 学习笔记(Koa、JavaScript、MongoDB 等)已整理为归档,URL 保持不变,可随时查阅。

前端端侧AI推理终极实践:WebAssembly+TensorFlow.js+WebGPU全链路落地方案

前端端侧AI推理终极实践:WebAssembly+TensorFlow.js+WebGPU全链路落地方案

在AI应用全面普及的当下,绝大多数Web AI产品依赖云端GPU推理架构。但高并发场景下的网络延迟、服务器算力成本、用户数据隐私泄露、带宽瓶颈等问题,始终制约着Web AI的体验升级。端侧AI推理凭借本地计算、数据不出端、零网络延迟、极低运维成本的核心优势,成为轻量化Web AI场景的最优解。