Shane F

302 posts

Shane F banner
Shane F

Shane F

@shane_Fuh

Los Angeles, CA Katılım Mayıs 2022
62 Takip Edilen25 Takipçiler
区块链行情研究
区块链行情研究@qkl2058·
有位中国开发者,坐跨大西洋航班,靠窗,掏出一台 MacBook Pro M4,64 GB 内存。机上全程 WiFi 要 25 美元,他没买。 没网怎么办?人家根本不慌。直接在本地跑了个 Llama 3.3 70B,bf16 精度,用 llama.cpp 推理。生成速度 71 token/秒,上下文大概 60,000 token,内存吃了 48.6 GiB,几乎打满。起飞时电池显示续航 3 小时 21 分钟,他就靠着这点电开局。 起飞前,他给本机写了一套编排脚本,还设了个系统提示,大概意思是: “你现在是一台 MacBook 上的离线编排器,没网。唯一能用的是本地文件和 localhost:8080 的 Llama 推理服务。电池就三个多小时。从 /Users/dev/work/queue.jsonl 里逐行取客户任务,每个任务先起草,再本地评估,产物丢到 /Users/dev/work/done/。每处理 12 个任务,存一次上下文检查点,方便换电源之后恢复。队列跑空或者电量掉到 5% 以下才停。” 说白了,这脚本很清楚自己的家底:没网、内存有限、电也有限,而且人在天上,落地前没人会插手。它老老实实一个循环跑到黑:取任务、推理、保存产物、写检查点。 飞行中,电量真不够了。编排器自动检测到低于 5%,暂停,等他插上移动电源,再从最后一个检查点把上下文恢复,继续干活。整个过程他基本不用管。 日志里记得清清楚楚: “saved context checkpoint 8 of 12 (pos_min = 488, pos_max = 50118, size = 62.813 MiB)” “restored context checkpoint (pos_min = 488, pos_max = 50118)” “prompt processing progress: n_tokens = 50 / 60 818” “task 37016 done | tps = 71 s tokens text → /Users/dev/work/done/proposal_westside.md” 窗外云和蓝天,托盘上就一台 MacBook,开着终端,localhost 推理服务安静地跑。没花一分钱上网,11 个小时飞完,客户队列在落地前全部处理干净。 怎么说呢,这大概是我近一年见过最干净的离线 AI 工作流了。
中文
98
106
1.2K
530.9K
Shane F retweetledi
NASA
NASA@NASA·
1972 ➡️2026 Apollo 17 ➡️ Artemis II
NASA tweet mediaNASA tweet media
Indonesia
7.5K
106.9K
682.1K
38.5M
王局志安
王局志安@wangzhian8848·
我觉得台湾的朋友可以思考这么个问题,为什么台湾满大街机车,却没有出现张雪这样的人物,去挑战世界摩托车豪强?为什么张雪出现在大陆?
中文
911
12
1K
461.1K
Shane F
Shane F@shane_Fuh·
为什么?
中文
0
0
0
2
Shane F
Shane F@shane_Fuh·
@Alex8282019 ig上老外都叫她queen,只有简中评论区这么恶臭
中文
0
0
4
848
二爷Alex
二爷Alex@Alex8282019·
遭不住遭不住啊……
日本語
55
8
204
99.5K
Shane F
Shane F@shane_Fuh·
@Alex8282019 这评论区素质 …X真的已经是下水道了
中文
0
0
5
1.6K
二爷Alex
二爷Alex@Alex8282019·
这是在高铁吧,这位女士有品味……
二爷Alex tweet media二爷Alex tweet media
中文
266
36
2.7K
3.3M
Shane F
Shane F@shane_Fuh·
@python_xxt 好几把荒谬而且觉得自己better than others的一段话
中文
0
0
0
78
Robinson · 鲁棒逊
Robinson · 鲁棒逊@python_xxt·
之前,我高频出差时,假如要坐高铁,我有个习惯: 一定会踩着高铁发车前15-20分钟到 因为我可以承受,可能因拥堵造车的误车,但我不接受每次早早到火车站,傻等。 原因也很简单,借用 诺贝尔奖得主 斯蒂格勒 的话: 如果你从未错过航班,说明你在机场待的时间太长了。 这句话的启示在于: 任何完美都有代价,有时为了追求完美所付出的代价,甚至已经坏过不完美本身。
中文
207
113
1.5K
600.1K
二大爷
二大爷@tankman2002·
@kingluffywang 这个川粉、舔狗、听床师、田园基的合体这么说倒也不奇怪
中文
7
1
78
11.9K
北美王路飞
北美王路飞@kingluffywang·
这个蔡徐坤把自己观众当傻子一样忽悠了半天,流量吃到饱,等会一结束发明新理论:造谣有理! 可以和厕纸牛排,七步民主,发币革命并列中推四大理论!
北美王路飞 tweet media
中文
76
9
144
40.1K
♱
@jotitofoo·
when he hung and a lil ugly
English
163
3.6K
41.1K
2.1M
Shane F retweetledi
the cumpound
the cumpound@TheCumpound·
ZXX
104
4.9K
117.3K
4.2M
Shane F retweetledi
Anonymous
Anonymous@YourAnonNews·
MAGA, have the day you voted for. Perfectly said.
English
63
434
1.9K
88.8K
Shane F retweetledi
hsn.bot
hsn.bot@hsn8086xe·
hsn.bot tweet media
ZXX
24
71
2.5K
278.2K
Shane F retweetledi
Ruters乳透社
Ruters乳透社@Ruters0615·
最欠摘的一集
日本語
84
174
2.9K
535.1K
Shane F retweetledi
二大爷
二大爷@tankman2002·
小学三年级的课本。页页都是习近平。名副其实的习页页。
二大爷 tweet media二大爷 tweet media二大爷 tweet media
中文
462
155
2K
1.1M
Shane F
Shane F@shane_Fuh·
@Alex8282019 其实不然,同学和同学之间的交流反而更多,美国学校课堂里的小组合作交流量绝对不会低。二爷太想当然了。
中文
0
0
0
80
二爷Alex
二爷Alex@Alex8282019·
美国家长会。我要走7个教室,因为闺女选了7门课。每次十分钟,听不同的老师介绍教学内容,每个教室都有手机袋子,上课前要求所有学生放入手机,下课后才能取回。美国教育从初中开始就是选课制,所以没有固定的班级,你选什么课就去相应的教室上,每节课教室不一样,同学不一样。这种制度有利有弊。 好的地方就不多说了,不好的地方就是集体归属感比较弱,因为同学都不会太熟。课间只有五分钟,一到下课就要狂奔,在偌大的校园中跑到下一个课室,根本来不及有什么同学之间的交流。我觉得非常遗憾。
二爷Alex tweet media
中文
88
8
258
89.8K
Shane F retweetledi
Jacobson🌎🌸贴贴BOT
Jacobson🌎🌸贴贴BOT@jakobsonradical·
没权的时候,看上去还是非常憨厚老实的。
Jacobson🌎🌸贴贴BOT tweet media
中文
342
257
4K
2.5M