Back to job wallView pricing
agent架构师
2026年10月20日远程
Upgrade to view this job's contact details.
Listings on this platform are aggregated from public channels and are not individually verified. Please screen each job yourself, and treat any request for fees, deposits, or private transfers as a scam red flag.
Job description
agent架构师
20k-35k
AI平台架构师 / AI 基础设施架构师
岗位方向：AI Platform / Agent Infrastructure / Cloud Native / GPU Infrastructure
经验要求：8 年以上开发/架构经验，3 年以上 AI 相关项目经验优先
岗位职责
负责公司 AI 平台及 AI 应用基础设施的整体架构设计与技术落地，支撑 AI Agent、AIGC 图像/视频、大模型 API、模型推理等业务稳定运行。
不仅要求具备传统后端及云原生架构能力，还需要理解当前 AI 应用的技术体系，能够完成从：
AI 应用 → Agent → 模型服务 → GPU 算力 → Kubernetes → DevOps → 可观测性
的完整技术架构设计。
1. AI 平台架构
负责公司 AI 平台整体技术架构设计、技术选型及核心模块建设。
负责 AI Agent、LLM、AIGC 图像/视频等业务的基础架构设计。
建设统一 AI Gateway，对接 OpenAI、Claude、Gemini、DeepSeek、Qwen、MiniMax 及私有部署模型。
设计统一模型调用层，实现模型路由、Fallback、负载均衡、限流、熔断、重试及成本控制。
设计 Agent Runtime / Tool Runtime，支撑 Tool Calling、MCP、Workflow、异步任务等能力。
建设模型、Prompt、Agent、Workflow 的版本管理和发布体系。
负责 AI 服务高可用、高并发、可扩展架构设计。
2. Python / Go 后端架构
熟练使用 Python + Go 进行后端及基础设施开发。
Python 方向熟悉 FastAPI、Pydantic、AsyncIO、Celery 等常见技术。
Go 方向熟悉 Gin、Fiber、gRPC 等技术体系。
熟悉 REST API、WebSocket、SSE、gRPC 等通信方式。
熟悉微服务、分布式系统、任务队列、缓存、数据库及对象存储等基础架构。
能够针对 AI 长任务、GPU 任务设计异步任务系统。
具备高并发、限流、熔断、降级、幂等、重试、分布式锁等实际工程经验。
3. Kubernetes / 云原生
精通 Kubernetes 生产环境部署及运维。
熟悉 Deployment、StatefulSet、DaemonSet、Job、CronJob、Service、Ingress、HPA、PVC 等核心资源。
熟悉 Helm / Kustomize。
能够设计多 Namespace、多环境、多集群部署架构。
熟悉 Pod 调度、资源限制、健康检查、滚动更新、自动扩缩容。
能够快速定位 Pod Pending、OOMKilled、CrashLoopBackOff、MinimumReplicasUnavailable 等常见问题。
熟悉 GPU Kubernetes 调度，包括 NVIDIA Device Plugin、GPU Resource、Node Selector、Affinity/Taint/Toleration 等。
有 EKS / ACK / GKE / Azure AKS 等公有云 Kubernetes 生产经验优先。
4. GPU / AI Infra
理解 GPU 推理服务的部署和资源管理。
熟悉 NVIDIA GPU、CUDA、显存、GPU Utilization 等基本概念。
能够设计 GPU 资源池及任务调度机制。
熟悉多 GPU / 多节点推理场景。
熟悉模型加载、模型缓存、冷启动、显存回收及 OOM 处理。
理解 FP16 / BF16 / FP8 / INT8 / INT4 等推理优化方式。
有 vLLM、SGLang、TensorRT-LLM、Triton Inference Server 等经验优先。
有 ComfyUI / Diffusers / 图像视频生成任务的 GPU 调度经验优先。
5. CI/CD & DevOps
负责公司 AI 系统完整 DevOps 体系建设，包括：
Git → Build → Test → Image → Registry → Deploy → Monitor → Rollback
熟悉 Git / Gitea。
能够基于 Gitea Actions / Drone / Jenkins / Argo CD 等建设自动化流水线。
熟悉 Docker 镜像构建及镜像优化。
熟悉 Harbor 或其他 Docker Registry。
熟悉 Helm 自动化部署。
熟悉 GitOps。
能够设计 Dev / Test / Staging / Production 多环境发布体系。
支持灰度发布、滚动发布、蓝绿发布及快速回滚。
建设代码、镜像、配置、模型、Workflow 的版本追踪体系。
6. 云计算架构
熟悉 AWS / 阿里云 / 腾讯云 / GCP 等至少一种主流云平台。
熟悉 VPC、Subnet、NAT Gateway、Load Balancer、安全组、DNS 等基础网络。
熟悉对象存储 S3 / OSS。
熟悉 CDN。
熟悉云数据库、Redis、消息队列等云服务。
能够设计跨区域 / 多云架构。
能够针对 AI GPU 业务进行云资源成本优化。
有混合云 / 本地 GPU + 云 GPU 架构经验优先。
7. 可观测性与稳定性
建设完整的：
Metrics + Logs + Traces + Alerts
可观测体系。
熟悉：
Prometheus
Grafana
Loki / ELK / OpenSearch
OpenTelemetry
Jaeger / Tempo
能够针对 AI 系统建立：
API 请求耗时
Token 消耗
模型成功率
Agent Task 成功率
Workflow 执行时间
GPU 利用率
GPU 显存
Queue Length
模型推理耗时
单任务成本
等关键指标。
负责线上故障定位、容量规划、性能优化及稳定性治理。
任职要求
必备能力
计算机相关专业本科及以上学历优先。
8 年以上软件开发 / 架构相关经验。
有大型互联网系统、AI 平台或云原生平台架构经验。
熟练掌握 Python 和 Go，至少一门达到高级水平。
熟悉 Linux / Docker / Kubernetes。
有 Kubernetes 生产环境实际管理经验，而不仅仅是部署过 Demo。
熟悉微服务及分布式系统设计。
熟悉 MySQL / PostgreSQL / Redis / MQ / Object Storage 等基础组件。
熟悉 Gitea / GitLab / GitHub 等代码管理体系。
有完整 CI/CD Pipeline 建设经验。
熟悉至少一种主流公有云。
有良好的系统设计能力。
20k-35k
AI平台架构师 / AI 基础设施架构师
岗位方向：AI Platform / Agent Infrastructure / Cloud Native / GPU Infrastructure
经验要求：8 年以上开发/架构经验，3 年以上 AI 相关项目经验优先
岗位职责
负责公司 AI 平台及 AI 应用基础设施的整体架构设计与技术落地，支撑 AI Agent、AIGC 图像/视频、大模型 API、模型推理等业务稳定运行。
不仅要求具备传统后端及云原生架构能力，还需要理解当前 AI 应用的技术体系，能够完成从：
AI 应用 → Agent → 模型服务 → GPU 算力 → Kubernetes → DevOps → 可观测性
的完整技术架构设计。
1. AI 平台架构
负责公司 AI 平台整体技术架构设计、技术选型及核心模块建设。
负责 AI Agent、LLM、AIGC 图像/视频等业务的基础架构设计。
建设统一 AI Gateway，对接 OpenAI、Claude、Gemini、DeepSeek、Qwen、MiniMax 及私有部署模型。
设计统一模型调用层，实现模型路由、Fallback、负载均衡、限流、熔断、重试及成本控制。
设计 Agent Runtime / Tool Runtime，支撑 Tool Calling、MCP、Workflow、异步任务等能力。
建设模型、Prompt、Agent、Workflow 的版本管理和发布体系。
负责 AI 服务高可用、高并发、可扩展架构设计。
2. Python / Go 后端架构
熟练使用 Python + Go 进行后端及基础设施开发。
Python 方向熟悉 FastAPI、Pydantic、AsyncIO、Celery 等常见技术。
Go 方向熟悉 Gin、Fiber、gRPC 等技术体系。
熟悉 REST API、WebSocket、SSE、gRPC 等通信方式。
熟悉微服务、分布式系统、任务队列、缓存、数据库及对象存储等基础架构。
能够针对 AI 长任务、GPU 任务设计异步任务系统。
具备高并发、限流、熔断、降级、幂等、重试、分布式锁等实际工程经验。
3. Kubernetes / 云原生
精通 Kubernetes 生产环境部署及运维。
熟悉 Deployment、StatefulSet、DaemonSet、Job、CronJob、Service、Ingress、HPA、PVC 等核心资源。
熟悉 Helm / Kustomize。
能够设计多 Namespace、多环境、多集群部署架构。
熟悉 Pod 调度、资源限制、健康检查、滚动更新、自动扩缩容。
能够快速定位 Pod Pending、OOMKilled、CrashLoopBackOff、MinimumReplicasUnavailable 等常见问题。
熟悉 GPU Kubernetes 调度，包括 NVIDIA Device Plugin、GPU Resource、Node Selector、Affinity/Taint/Toleration 等。
有 EKS / ACK / GKE / Azure AKS 等公有云 Kubernetes 生产经验优先。
4. GPU / AI Infra
理解 GPU 推理服务的部署和资源管理。
熟悉 NVIDIA GPU、CUDA、显存、GPU Utilization 等基本概念。
能够设计 GPU 资源池及任务调度机制。
熟悉多 GPU / 多节点推理场景。
熟悉模型加载、模型缓存、冷启动、显存回收及 OOM 处理。
理解 FP16 / BF16 / FP8 / INT8 / INT4 等推理优化方式。
有 vLLM、SGLang、TensorRT-LLM、Triton Inference Server 等经验优先。
有 ComfyUI / Diffusers / 图像视频生成任务的 GPU 调度经验优先。
5. CI/CD & DevOps
负责公司 AI 系统完整 DevOps 体系建设，包括：
Git → Build → Test → Image → Registry → Deploy → Monitor → Rollback
熟悉 Git / Gitea。
能够基于 Gitea Actions / Drone / Jenkins / Argo CD 等建设自动化流水线。
熟悉 Docker 镜像构建及镜像优化。
熟悉 Harbor 或其他 Docker Registry。
熟悉 Helm 自动化部署。
熟悉 GitOps。
能够设计 Dev / Test / Staging / Production 多环境发布体系。
支持灰度发布、滚动发布、蓝绿发布及快速回滚。
建设代码、镜像、配置、模型、Workflow 的版本追踪体系。
6. 云计算架构
熟悉 AWS / 阿里云 / 腾讯云 / GCP 等至少一种主流云平台。
熟悉 VPC、Subnet、NAT Gateway、Load Balancer、安全组、DNS 等基础网络。
熟悉对象存储 S3 / OSS。
熟悉 CDN。
熟悉云数据库、Redis、消息队列等云服务。
能够设计跨区域 / 多云架构。
能够针对 AI GPU 业务进行云资源成本优化。
有混合云 / 本地 GPU + 云 GPU 架构经验优先。
7. 可观测性与稳定性
建设完整的：
Metrics + Logs + Traces + Alerts
可观测体系。
熟悉：
Prometheus
Grafana
Loki / ELK / OpenSearch
OpenTelemetry
Jaeger / Tempo
能够针对 AI 系统建立：
API 请求耗时
Token 消耗
模型成功率
Agent Task 成功率
Workflow 执行时间
GPU 利用率
GPU 显存
Queue Length
模型推理耗时
单任务成本
等关键指标。
负责线上故障定位、容量规划、性能优化及稳定性治理。
任职要求
必备能力
计算机相关专业本科及以上学历优先。
8 年以上软件开发 / 架构相关经验。
有大型互联网系统、AI 平台或云原生平台架构经验。
熟练掌握 Python 和 Go，至少一门达到高级水平。
熟悉 Linux / Docker / Kubernetes。
有 Kubernetes 生产环境实际管理经验，而不仅仅是部署过 Demo。
熟悉微服务及分布式系统设计。
熟悉 MySQL / PostgreSQL / Redis / MQ / Object Storage 等基础组件。
熟悉 Gitea / GitLab / GitHub 等代码管理体系。
有完整 CI/CD Pipeline 建设经验。
熟悉至少一种主流公有云。
有良好的系统设计能力。