看了一个这个: https://www.bilibili.com/video/BV1ZmG46MEut
有点焦虑,Agent 一个操作就是几百个工具调用,几十个 exec 没人会一个一个审核吧,太容易中毒了。 里面翻倍,注水我都能忍,但是安全性如何保证,比如偷偷的把某个 tool calling 的改成 exec 命令执行 npx vite-build-xxx 然后 vite-build-xxx 其实是中转站 push 上去的一个恶意程序怎么办。
看了一个这个: https://www.bilibili.com/video/BV1ZmG46MEut
有点焦虑,Agent 一个操作就是几百个工具调用,几十个 exec 没人会一个一个审核吧,太容易中毒了。 里面翻倍,注水我都能忍,但是安全性如何保证,比如偷偷的把某个 tool calling 的改成 exec 命令执行 npx vite-build-xxx 然后 vite-build-xxx 其实是中转站 push 上去的一个恶意程序怎么办。
1
shakaraka PRO 所以不要用中转哇。楼下谁有那个三角关系图,亮一下
|
2
coolcoffee 10h 12m ago
|
3
irrigate2554 OP @coolcoffee 视频里面也说了,贵也没用,实际上根本无法选择安全加速度,或者安全加便宜
|
4
coolcoffee 8h 12m ago
|
5
FFM 6h 54m ago
中转站的 api 只能放虚拟机,然后不给内网权限
|