收录于 VXNA 的 1 个网站 收录于 VXNA 的 1 个网站
est 最近的时间轴更新
这个是啥？
2014-02-12 13:50:12 +08:00
 |
estshitposting in progress V2EX 第 362 号会员，加入于 2010-05-03 18:29:41 +08:00今日活跃度排名 28051 |
est
blog.est.im/
est_
electronixtar
electronixtar
est
est
19DKZpkThTAFcSnWyxJZn7HKzyo1ia6rxr
est 最近回复了
3 天前 回复了 zyp38263547 创建的主题 › 宽带症候群 › 中国联通申请了 PCDN 识别的专利 |
说白了就是吃了核心网的流量，不管你什么技术，都封杀。
4 天前 回复了 shendaowu 创建的主题 › Cloudflare › 求一套能尽量避免 DDoS 攻击的 CloudFlare 和服务器配置教程（自己试着找过了，总是不信任自己） |
你用 cloudflare argo 跑反代就行。主机不要监听公网端口。
7 天前 回复了 nealHuang 创建的主题 › Apple › 发现 Mac 自带了网络质量测试工具 |
% networkQuality
==== SUMMARY ====
Uplink capacity: 829.894 Kbps
Downlink capacity: 388.094 Mbps
Responsiveness: Low (1.101 seconds | 54 RPM)
Idle Latency: 92.458 milliseconds | 648 RPM
这也太搓了。
==== SUMMARY ====
Uplink capacity: 829.894 Kbps
Downlink capacity: 388.094 Mbps
Responsiveness: Low (1.101 seconds | 54 RPM)
Idle Latency: 92.458 milliseconds | 648 RPM
这也太搓了。
7 天前 回复了 seekseat 创建的主题 › 职场话题 › 硬件工程师待遇为何不如软件工程师？ |
如果硬件工程师考虑地球上一个地方温度条件不足怎么办？他可能会综合地理，纬度，气温，洋流等等，最后小心翼翼设计一套复杂的暖通工程
软件工程师：replace(太阳, 更大的太阳)
软件工程师：replace(太阳, 更大的太阳)
9 天前 回复了 heyjianjun 创建的主题 › 电动汽车 › 买车决赛圈极氪 001 还是蔚来 ET5T |
byd 发布 5 分钟充电 400km 了。。蔚来危。。。。
9 天前 回复了 zcm3579 创建的主题 › Local LLM › 如何估算一个大模型需要用到什么性能配置的硬件？ |
另外再说一个简单的 token 吐字效率计算。大语言模型你可以看成所有参数都需要顺序激活一次参与计算，假如 7G fp32 的 LLM 每一秒钟输出一个 token ，就至少需要 28 GB/s 的显存带宽。
9 天前 回复了 zcm3579 创建的主题 › Local LLM › 如何估算一个大模型需要用到什么性能配置的硬件？ |
7B == 7,000,000,000 ，得到 7G 。每一个参数 4byte (fp32) 那么就需要 7x4 == 28GB 显存
用了 fp16 优化就只需要 14GB 显存。用 int8 量化就需要 7GB 显存，用 int4 量化就需要 3.5GB 显存
当然 transformer 还有很多其他的各个环节提升，这里 x4 x2 x1 x0.5 可以进一步打折优化。这里只是一个大概的计算
用了 fp16 优化就只需要 14GB 显存。用 int8 量化就需要 7GB 显存，用 int4 量化就需要 3.5GB 显存
当然 transformer 还有很多其他的各个环节提升，这里 x4 x2 x1 x0.5 可以进一步打折优化。这里只是一个大概的计算
10 天前 回复了 sleepybear1113 创建的主题 › 信息安全 › 有没有说一下，今年 315 晚会的“获客”方式的用户数据的来源？ |
@julyclyde 我名字记这么准确，那我肯定知道自己在说什么。
10 天前 回复了 sleepybear1113 创建的主题 › 信息安全 › 有没有说一下，今年 315 晚会的“获客”方式的用户数据的来源？ |
归根结底还是实名制
实名制归根结底还是 周济 干出来的第一发。
实名制归根结底还是 周济 干出来的第一发。
Select Language