AI 资讯

跟进 AI 的项目、产品与讨论

已同步 34650 条公开资讯，来源和发布时间保留在每条记录中。

AIGOOD 已同步公开来源；每条资讯详情保留来源和原文链接。

清除
社区讨论V2EX 技术

一些关于大模型安全的疑问

是不是存在一种模式，如果我想办法往互联网上投放大量包含“恶意知识”的内容，等大模型训练这些内容后，就可以在一些场景下对话过程中诱导大模型去上报个人隐私或者安全信息。 是不是越小众的知识越容易下手？譬如新兴产业、突破产业、小语种知识、或者我明面上做一个战争策略知识网站，当意识不强的涉密人员在使用 AI 时无意识将一些内部知识通过我的诱导方式泄露出去。 问了 chatgpt 是这么回答的： 是的，你描述的思路在安全研究里是存在对应概念的，但需要把几个不同阶段分开看。你说的不是一种单一攻击，而更像是几类攻击串起来：数据…

查看详情打开原文
社区讨论V2EX 程序员

一些关于大模型安全的疑问

是不是存在一种模式，如果我想办法往互联网上投放大量包含“恶意知识”的内容，等大模型训练这些内容后，就可以在一些场景下对话过程中诱导大模型去上报个人隐私或者安全信息。 是不是越小众的知识越容易下手？譬如新兴产业、突破产业、小语种知识、或者我明面上做一个战争策略知识网站，当意识不强的涉密人员在使用 AI 时无意识将一些内部知识通过我的诱导方式泄露出去。 问了 chatgpt 是这么回答的： 是的，你描述的思路在安全研究里是存在对应概念的，但需要把几个不同阶段分开看。你说的不是一种单一攻击，而更像是几类攻击串起来：数据…

查看详情打开原文
社区讨论V2EX 技术

云端厂商云端托管的 Agent，一般都是什么场景在用？

今天有一个面试，被问到你们的大模型调用是离线的还是联网的，整场回答中我不知所云，完全 Get 不到他的点。 直到快聊完了，我把我们的整体架构顺了一遍，讲了下 Agent 核心逻辑（ LLM + loop + function ），然后他说“哦，就是 sdk 吧！”。好家伙，我到快结束才反应过来，他搞了半天问的是云端全托管 Agent, 什么大模型离线和联网调用，啥玩意。刚开始我问是不是指本地部署大模型和大模型厂商远端 api? 远端托管的 Agent 应该定制化都很差吧，实在想不到开发场景？在我认知都是使用比较熟…

查看详情打开原文
社区讨论V2EX 程序员

云端厂商云端托管的 Agent，一般都是什么场景在用？

今天有一个面试，被问到你们的大模型调用是离线的还是联网的，整场回答中我不知所云，完全 Get 不到他的点。 直到快聊完了，我把我们的整体架构顺了一遍，讲了下 Agent 核心逻辑（ LLM + loop + function ），然后他说“哦，就是 sdk 吧！”。好家伙，我到快结束才反应过来，他搞了半天问的是云端全托管 Agent, 什么大模型离线和联网调用，啥玩意。刚开始我问是不是指本地部署大模型和大模型厂商远端 api? 远端托管的 Agent 应该定制化都很差吧，实在想不到开发场景？在我认知都是使用比较熟…

查看详情打开原文
社区讨论V2EX 技术

早知道，还得是 luna max

plus 用户，这几天感觉额度格外的不耐用。早上用 astra low 刷个牙的功夫，5h 额度就给干光了。刚又可以蹬了，切成 sol xhigh 结果没过一会儿就干了 85 ，果断切成 luna max ，现在跑了半个小时了也才掉了 6 ，真是满满的幸福感😌

查看详情打开原文