一个 Deployment 就能跑 vLLM,为什么还需要 KServe? - 探索云原生
【摘要】在 Kubernetes 上启动一个推理服务并不难。如果只有一个模型,vLLM + Deployment 确实够了。但服务多起来以后,模型从哪里加载、使用哪个 Runtime、GPU 怎么分配、服务怎么暴露,每个服务都要重复处理一遍,配置很快就会散落在一堆 YAML 里。KServe 解决的不是怎么 阅读全文
AI 资讯
已同步 1874 条公开资讯,来源和发布时间保留在每条记录中。
AIGOOD 已同步公开来源;每条资讯详情保留来源和原文链接。
【摘要】在 Kubernetes 上启动一个推理服务并不难。如果只有一个模型,vLLM + Deployment 确实够了。但服务多起来以后,模型从哪里加载、使用哪个 Runtime、GPU 怎么分配、服务怎么暴露,每个服务都要重复处理一遍,配置很快就会散落在一堆 YAML 里。KServe 解决的不是怎么 阅读全文
点击查看原文
基于AI全新打造的一款开源企业级多租户团队协作工具,集成多种功能于一体:企业即时通讯IM、在线客服、知识库、客户之声、工单系统、AI对话、工作流、呼叫中心、视频客服、开放平台。提供智能文字客服(在线客服)、智能语音客服(热线客服)、智能外呼、智能营销、智能质检等完整解决方案。 语言 / Language: 中文 | En...
在上篇 Blender 自动化建模基础上,本篇攻坚 3D 仓储落地实战:重构 5S 地面标线与激光轨迹、实现 AGV 装卸物流闭环与色彩镜像、全域双视觉风格引擎与全息双翼 HUD 架构!
AI 正在接管写代码这一环,却没有接管产品取舍、架构判断和交付责任。本文聊聊程序员如何从 coding 迁移到建造软件,以及 AI 时代真正稀缺的品味、判断与责任。
做多语言 AI 平台的朋友,是不是也遇到过这些问题? 翻译篡改原文怎么办?小语种安全审核怎么做?数据出境合规怎么解决?语音自动转写的隐私风险怎么控制? 今天给大家拆解 55873 生态系统「多语言智能生态」的完整架构 —— 从原文保真、前端 UI 多语言切换、聊天智能翻译、语音隐私保护、多语言安全适配到文脉守护七语...
【摘要】写在最前面:这篇不是教程,是一份实践流水账。里面的判断带很强的个人偏好,未必适合你的项目,欢迎评论区拍砖。 起因 用 Claude Code 有一段时间了,功能都能跑,但一直有个说不清的别扭:我不敢把稍微大一点的任务交给它。 写单个函数、改一处小逻辑这类事我很放心;但要动七八个文件的任务,我全程得盯 阅读全文
TypeSafe 的判断模型 Jev 火到什么程度?Vercel 的说法是——"Jev 是 AI Gateway 历史上被采用速度最快的模型"。但 Arcturus Labs 创始人 John Berryman 在最新一篇博客里泼了盆冷水:《Will OpenAI Eat Jev's Lunch?》。他的判断很直接:Jev 的架构几乎没有护城河,真正值钱的是它的训练数据和强化学习流程——而这两样...
勒索组织 ShinyHunters 声称入侵了 FBI 窃取了逾 2TB 雇员数据。该组织的一名发言人称,这次行动不是出于经济动机,而是要求 FBI 更正或撤回此前发表的声明,其中包含大量不实的指控。ShinyHunters 称它利用了 FBI 招聘网页的一个 Oracle PeopleSoft 的 0day 漏洞,该漏洞允许在服务器上远程执行代码。该组织随后篡改了页面,替换为已被其控制的横幅和图片(This site has been seized by ShinyHunters)。ShinyHunters 从…
一份实践流水账。记录给 Claude Code 装护栏的六个阶段:重写可判定的 CLAUDE.md、用磁盘文件防止约定被压缩吃掉、用 Stop Hook 拦住提前收工、用隔离子 Agent 打破
Claude Opus 5.5 发布后,第三方独立评测机构 Artificial Analysis 也更新了它的 Intelligence Index(v4.3.2)数据。它把 Claude Opus 5.5 (max with fallback) 评到了 57.62 分——这是官方口径之外的另一个参照物,用来回答"Anthropic 说强,到底有多强"这个问题。 AI 横评看三个维度最有用。定量来看,AAII 57.62 分...
【摘要】前段时间,我开始强烈质疑我的职业规划,兴趣爱好,甚至开始认真考虑转行。 最近读了DeepSeek工程师刘胜的《我不得不把才华埋葬在昨天》,更是感触良多。 从大学时代开始,我唯一的乐趣就是写代码,我希望我能一直写代码写到退休。 也正因如此,我找了开发的工作。 一直到AI出现之前,我都很开心,我的兴趣爱 阅读全文
这次要学习的,不是 Agent 怎样发出一次模型请求,而是请求返回以后发生什么:为什么有时还要继续一个 step,为什么有时结束 turn,模型重复调用工具时谁来干预,以及像 Docker build
最近把 Agent 接到云沙箱上以后,我反复碰到同一个别扭的地方。 命令已经能跑了。stdout 也能流回来了。沙箱也能按会话存活一段时间了。 但真正让工作流卡住的,往往不是下一条 ls,而是: 这个
ai-agent-cpp 是一个用 C++20 写成的 AI Agent,把「DeepSeek 模型调用」「工具调用循环」「A2A 协议对外服务」「MCP 工具扩展」四件事组装成一个可运行的服务。
Interconnects 的 Nathan Lambert 最近被请去给美国国会议员做了个简报,主题是开源权重模型的现状——放在中美竞争的语境下。他把讲稿整理成文发表了,这大概是目前对"开源模型权力版图"最系统的一份第三方评估。一句话结论:中国实验室已经稳坐开源权重生态的头部,美国开源权重模型全线落后,而这还叠加了经济价值拐点...
【摘要】做为微软的亲儿子, C 已经太久没得到父爱了. 2025年11月, 微软声明将会使用Go重写TypeScript的编译器时, C 的开发者心里就很委屈. 要知道C 和TypeScript都出自于安神Anders Hejlsberg, 他俩属于亲兄弟. TypeScript做为小老弟, 遇到问题不让老 阅读全文
Anthropic 掐在风口发布了新模型 Claude Opus 5.5——5.5 家族打头阵的第一个,也是 Dario Amodei 喊出"为前沿设下节奏"(pacing the frontier)之后的首款。多数工作跟 Fable 5.1 持平,运营成本却比 Opus 5 低 40%。发布前走完了外部评测(Frontier Design、METR)加内部自动化行为审计。 性能数字很亮,尤其编程。Ter...
前几天我才写了过一篇关于GPT-6 Sol 传闻的文章,当时 Sol 还没有正式发布但网上已经有不少消息了,之前那篇文章里我一直强调,看到的很多消息都只能算是猜测,最终还是要以 OpenAI 官方发布为准,有兴趣的可以找找之前的发布历史。 可是没想到这么快就来了,就在昨晚 OpenAI 正式上线 GPT-6 Sol 和 GPT-6 Luna 早晨我看...
【摘要】README 写给人,Install.md 写给 Agent;安装文档要像执行契约,明确目标、边界和停点。 从 Goal、Success Criteria 到 Operating Rules,写出能被 Agent 安全执行的安装说明 用户安装一个项目的入口正在变化。 过去是人打开 README,复制 阅读全文