作者 wiran 发布的文章(共 566 篇)

山巅周刊第340期:AI本地化

✅ 《山巅周刊》定期分享科技、医学及人文资讯,以及商业智慧和最佳实践,每周日发布。

✅ 我走过你现在的路。数十年真实生活打磨出的深度经验、韧性与可信度,是我能帮助你的。当你需要数字化商业顾问,请联系我。

全球化通常指通过商品、服务、资本、技术及人员的跨境流动,导致全球经济、社会和文化日益一体化的过程。全球化的起源最早可追溯至15世纪末的大航海时代。二战后,全球化进入制度化阶段。至今,几乎所有国家都卷入了经济全球化浪潮。

法国的高速公路标志牌
法国有成千上万个棕色高速公路标志牌,指引着高速公路上的司机前往纪念碑、葡萄园、当地名菜和景点,而不是巴黎妖艳的游乐园和购物中心。Credit: Philippe Collier

逆全球化并不是指世界完全退回到封闭孤立的状态,而是指全球化进程中出现停滞、倒退或碎片化的现象。2008年国际金融危机爆发后,逆全球化初现端倪,近年来加速显现。


AI本地化


从全球化到逆全球化,从连锁卡特尔到本地社区经济,人类社会正在反复演练同一模式——当集中带来的效率红利被脆弱性、依赖性和控制权丧失所抵消时,分布式方案就会获得新的生命力。从云端大模型到本地模型,相同的趋势有着深远的影响。全球化、连锁卡特尔与云端大模型代表高度集中、规模经济、标准化与网络效应;逆全球化、本地社区经济与本地模型则强调分散、本地适配、控制权与抗脆弱性。

与你一起追随热点,直接分享人工智能本地化。由于这波人工智能热潮已经持续四年(ChatGPT于2022年11月30日发布),这里就不再面面俱到地科普,并且力求避免过于技术化。

本地LLM

LLM(大语言模型)是指基于深度学习构建的人工智能模型。在现代人工智能应用中,LLM 具有不可替代的核心底座价值。以下几款开源(或开放权重)大语言模型最为流行,大多有适用于本地部署的尺寸:

  • Meta Llama 系列
  • DeepSeek 系列
  • Qwen 系列
  • Mistral 系列,Gemma 系列,GLM 系列

本地LLM部署工具

这类工具加载本地模型,并将其功能以本地HTTP Web API的形式暴露出来,供其他应用程序调用。没有统一名称,多认为包括以下技术分层:

  • 推理引擎:llama.cpp等
  • 运行时:Ollama等
  • 桌面应用:LM Studio等
  • LLM服务器:vLLM等。

普通用户不用纠结名称,各开发商和社区都会混用(我也一样,习惯使用推理引擎、运行时或者LLM服务器)。虽然Ollama几乎是默认首选,但我建议尝鲜用户可以从KoboldCpp开始。

KoboldCpp 是基于 llama.cpp 的单文件桌面应用,带 Web UI,支持文本生成、简单图像等,适合角色扮演 / 创意写作。

  • 只需一个可执行文件,无需安装,极度轻量。
  • 和 Ollama 共享同一个 GGUF 模型文件。
  • 基于llama.cpp,捆绑 KoboldAI Lite WebUI。
  • 擅长编写故事、进行角色扮演。
  • 支持图像、视频、语音和音乐生成功能。

以下是两篇本地部署开源大模型及开展应用的文章:

为本地AI构建的计算机

NVIDIA DGX Spark

用户逐渐认可了本地模型的经济性和安全性,将其作为云的替代方案或补充方案。苹果、微软和英伟达等公司推出的专用计算机旨在凭借能够在设备端运行更大规模、更强大的开源模型的机器,分得一杯羹。

为本地人工智能而构建的计算机满足那些既希望在本地计算机上构建人工智能应用,又希望设备易于使用的用户。总体而言,苹果的CPU性能更佳,但英伟达的GPU性能更优。苹果和英伟达联合推出的统一内存架构,也解决了内存传输瓶颈。

大模型落地消费级硬件

但是为本地人工智能构建的计算机通常价格高。Strata 继续从软件角度专注大模型落地消费级硬件这一痛点。

Strata,又一个本地推理引擎

Strata 是一个专门为消费级硬件运行超大 MoE 模型而设计的轻量级推理引擎,支持在本地游戏电脑上运行 Qwen3.8-Flash-Next(以及另一款更小的Qwen3.6-35B-A3B),适配NVIDIA、AMD、Intel主流显卡和Windows、Linux、Mac系统。

Qwen3.8-Flash-Next 是一个约 125B 参数级别的开放权重多模态 MoE 模型,原本需要服务器级硬件运行。现在,只要内存和显存加起来有 32 GB 就足够启动了。

MoE(混合专家)模型是一种人工智能模型架构技术,每次只激活部分专家权重,计算需求极低。在现代推理引擎的内存管理策略支持下,系统会将庞大的模型权重主要存储在容量大且成本低廉的系统 RAM(甚至 NVMe SSD)中,只将当前需要的少数专家权重从 RAM 动态加载到 VRAM 中,再加上量化技术(压缩)的强力辅助,“大 RAM + 小 VRAM”策略极大地降低了运行超大模型的硬件门槛。所以Qwen3.8-Flash-Next发布后,社区热衷推动 128 GB 内存(+24 GB显存)、统一内存、以及“真正重要的是显存+内存”理念。

在消费级电脑上运行 4-bit 量化的 Qwen3.8-Flash-Next,128GB RAM + 24GB VRAM是获得可用体验的甜点。Strata不仅采用深度优化的内存管理,更激进地推荐使用 IQ3_S(甚至 IQ2_XS)的极低比特量化格式。

Strata

帮您测试一下,64GB RAM + 22GB VRAM,在Ollama中勉强支持到qwen3.8:27b,但在Strata中自动优选到高质量的Qwen3.8-Flash-Next IQ3_S。

如果您的主要用途是长文本分析(如读取整本书或长代码库),仍建议128GB RAM + 24GB VRAM。这样,您可以退回到 Q4_K_M 量化,在获得更高模型精度的同时,拥有充裕的内存来容纳庞大的 KV Cache。

这不是云端的消亡,就像全球化没有消失,但逆全球化让供应链更有韧性、本地经济重新获得空间一样。对创业者而言,本地LLM正在把AI从需要资本和团队才能玩的大型游戏变成个人即可上手的基础设施。真正的赢家将是那些能同时掌握本地主权能力,又能在需要时灵活调用云端规模优势的人。


人物:赫尔曼·梅尔维尔


赫尔曼·梅尔维尔(Herman Melville)是19世纪中叶的一位作家。他最著名的作品是1851年出版的《白鲸》(Moby-Dick),因其复杂的哲学隐喻、非传统的叙事结构,被当时的评论界痛批为“精神错乱的产物”。

Herman_Melville_by_Joseph_O_Eaton.webp
赫尔曼·梅尔维尔1870年肖像

梅尔维尔出身纽约显赫而传奇的商人家族。祖父是少校,外祖父是将军,在美国独立战争中扮演了重要角色,父亲是法国干货进口商,定期前往欧洲。梅尔维尔过着优渥奢华的生活,家中同时有三名或更多仆人服侍,也获得很好的教育。

梅尔维尔出版的作品中普遍存在的古典典故表明,他在求学时期对古代历史、传记和文学的研究,以及他对《旧约》和《新约》近乎百科全书般的了解,都对他的思想和艺术产生了持久的影响。——梅尔维尔研究学者Merton Sealts

但父亲破产早逝,家道中落。梅尔维尔也辍学了。他的舅舅是纽约州立银行的董事,为梅尔维尔安排了一份年薪150美元的文员工作,工作表现出色,尽管他只有14岁。

在梅尔维尔的一生中,大哥甘斯沃特(名字来自母系家族)一直是他的榜样和支持者,尤其是在他努力完成学业的这段时期。甘斯沃特接手父亲死前创办的毛皮生意,还拥有约翰·托德出版的的《事物索引》(Index Rerum),这是一本空白的索引簿,用于记录读者读过的书籍中值得注意的段落,以便于检索。这些分享阅读素材也成为梅尔维尔后来创作的参考书籍。

Index rerum.webp
《事物索引》(Index rerum)的记录版面

很快,大哥也破产了,开始学习法律,而梅尔维尔一边在农场帮工,一边当乡村教师,并在当地报纸发表了第一篇文章。

舅舅再也没有帮梅尔维尔找到工作。20岁的梅尔维尔登上商船、捕鲸船、军舰当水手,开始了他的航海漂泊岁月。几年后,他把冒险故事和浪漫经历写下来,开始创作小说。

他的第一部小说《泰比》及其续集《奥穆》,都是以他在马尔凯萨斯群岛上与当地居民的邂逅为蓝本的旅行冒险故事。这两部通俗作品的成功使他获得了足够的经济保障。但接下来的作品却反响平平,声望急剧下降。

梅尔维尔日益增长的文学抱负在他耗时近一年半完成的《白鲸》中显露无疑,但这部作品也未能获得读者青睐。

Moby-Dick_FE_title_page.webp
《白鲸》第一版美国版的封面,出版于1851年11月

《白鲸》讲述了捕鲸船的船长为复仇,疯狂追捕一头巨大的白鲸的故事,白鲸在之前的航行中咬掉了他的一条腿。书中对航海、捕鲸和鲸油提取的细致写实描写,以及船上多元文化船员的生活,都与对阶级和社会地位、善恶以及上帝存在的探讨交织在一起。本来读者期待一个独腿船长怒砍大鲸鱼的故事,但小说的大部分篇幅是哲学思考、社会评论、宗教辩论,甚至还有一整章教你怎么从鲸鱼脑袋里提取鲸油。当时美国捕鲸业达到鼎盛后迅速衰退,社会主流文学偏好感伤主义和道德说教,小说显然未能满足读者对清晰情节与道德训诫的期待。

Moby Dick attacking a whaling boat
《白鲸》中的主要反派角色Moby Dick袭击捕鲸船,左边是版画风格插画,右边是FLUX.1重现

《皮埃尔》(Pierre,1852)虽然借鉴了浪漫小说的惯例,但其心理描写却十分浓厚,文风也晦涩难懂。这本书并未获得好评。

1857年,梅尔维尔出版了他的最后一部长篇小说《骗子》(The Confidence-Man,1857)。这部小说在现代广受赞誉,因为它对欺诈与诚实、身份与伪装等问题进行了复杂而神秘的探讨。然而,该书出版之初,评论褒贬不一。

最终,中年梅尔维尔转向创作诗歌并移居纽约,余生在纽约海关成为一名稽查员。这期间,他耗费数年时间创作了一部长达18000行的史诗,印了350册,但销量惨淡。

Herman_Melville_1885.webp
1885年,梅尔维尔最后一张已知的照片

梅尔维尔去世时并不为公众所熟知。但1919年,即他诞辰一百周年,梅尔维尔的孙女将一些手稿交给了传记作者,人们对他的作品重新燃起兴趣,从而开启了梅尔维尔作品的复兴。《白鲸》最终被誉为美国最伟大的小说之一,梅尔维尔被奉为美国文学的巅峰:“美国的莎士比亚”。

梅尔维尔本人未能亲眼见证其杰作最终的成功。现代的文学营销机制和评论生态大力鼓吹梅尔维尔的文学价值,在一战后塑造了新一轮时代审美和文学思潮,并加速大众与学术界的接受。这不是一个“即时反馈”的成功学案例,某些超越时代的伟大作品,注定只能作为“时间胶囊”,等待后世认知范式的成熟才能被解码。


科技:深色模式


用户一直希望Medium添加深色模式,Medium在邮件中特别提到,2015年9月,用户Naveen贡献了自己的设计原型。

Dark mode
Image created by the Medium Brand team

2026年10月,Medium推出了深色模式。一个Medium工程师花了8个月时间,用Claude Code实现了这一遥遥无期的项目。


机构知识是无价之宝

Micro1
A San Francisco Muni bus emblazoned with Micro1 advertising drives on Mission Street. Stephen Council/BI

互联网教会了人工智能如何说话,但还需要更多揭示人类实际工作方式的数据:消息、电子邮件、演示文稿和内部文件等机构知识。初创公司 Micro1 将向企业支付 10 万至 200 万美元购买其数据,并计划花费 10 亿美元购买更多数据。


影像:贝尔维德酒店


Belvedere_Furka.webp
从观景台俯瞰Hotel Belvédère,David.xiao.liu

Hotel Belvédère 是一家位于瑞士罗纳冰川附近富尔卡山口的酒店。富尔卡山口公路开通后,由经营者在1882年建成小型旅馆,1890年首次扩建为酒店,1903年二次改造后步入鼎盛时期,来自四面八方的游客蜂拥而至,饱览山谷和罗纳冰川全景。

CH-NB_Photoglob-Wehrli_EAD-WEHR-28721-B.tif.webp
左边是冰川,冰川后面是山。右边是酒店,酒店后面是山。Boesch摄于1919年

Goldfinger-along-the-Furkha-Pass-in-Switzerland.webp
邦德系列电影第三部(1964 年的《金手指》)中可以看到这家酒店。

以下图片展示了酒店及其周边环境。

istock-599705478-640x428.webp

furka-pass-switzerland.jpg.webp
Florian Dahm拍摄从冰川回望

hotel-belvedere-furka-virage-route-suisse-1536x871.webp
Crédit photo Witold Waschut (CC BY-SA 2.0)

Hotel-Belvedere-Furka-Pass-Switzerland-DJI-Mavic-pro-platinum-drone.webp

随着汽车技术的飞速发展,富尔卡山口隧道的修建,以及最关键的是冰川从观景台后退不见,酒店于1980年首次关闭,2015年再次关闭。

2026-10-25 0 条评论 11 次浏览

山巅周刊第339期:有图无真相

✅ 《山巅周刊》定期分享科技、医学及人文资讯,以及商业智慧和最佳实践,每周日发布。

✅ 我走过你现在的路。数十年真实生活打磨出的深度经验、韧性与可信度,是我能帮助你的。当你需要数字化商业顾问,请联系我。

a scrabbled scrabble of the word i am the truthPhoto by Brett Jordan on Unsplash

视觉媒介(照片、视频)从诞生起就从未等同于客观真相。“有图有真相”是大众的认知幻觉;在计算摄影与生成式AI时代,这一幻觉被彻底击碎,形成“有图无真相”的新常态。视觉内容更易被主观解读、艺术化接受,并在娱乐、艺术甚至“事实”传播中形成正向反馈循环。

2026-10-18 0 条评论 22 次浏览

山巅周刊第338期:你的代价

✅ 《山巅周刊》定期分享科技、医学及人文资讯,以及商业智慧和最佳实践,每周日发布。

✅ 我走过你现在的路。数十年真实生活打磨出的深度经验、韧性与可信度,是我能帮助你的。当你需要数字化商业顾问,请联系我。

随着越来越多的人选择网上购物,商家越来越倾向于根据个人数据(包括购买记录、地理位置、人口统计特征、设备类型、甚至行为和生物识别数据)来精准测算每个消费者“愿意且能够支付的最高价格”(个性化定价)。人工智能会加速这种监控式定价,进一步扩大人们对隐私的期望与现实之间的差距。

Lambs led to the slaughter.webp

在消费主义时代谈消费艺术通常风险很大,比如山巅周刊第211期:聪明的消费者就省略掉许多内容。借着《Gouged: The End of a Fair Price》(被宰,作者是美国经济社会学家,帮助人们更好地理解企业牟利行为)一书的导读,让我们来看看同等商品不同价格的宰割现象。

2026-10-11 0 条评论 33 次浏览

山巅周刊第337期:新通才

✅ 《山巅周刊》定期分享科技、医学及人文资讯,以及商业智慧和最佳实践,每周日发布。

✅ 我走过你现在的路。数十年真实生活打磨出的深度经验、韧性与可信度,是我能帮助你的。当你需要数字化商业顾问,请联系我。

生成式人工智能的快速迭代,正在深刻震撼现代知识劳动的生产关系。曾经被奉为金科玉律的“选择一条赛道,深耕细作”的职业建议,在自动化代码生成、法律摘要和智能分析工具面前显得岌岌可危。

The rise of ultra-generalists
demaerre/Getty Images

在这一背景下,一种新的主张逐渐占据主流:人工智能时代真正稀缺的,不再是单一领域的孤立知识,而是判断力、批判性思维以及将不同领域知识连接起来的能力。

2026-10-04 0 条评论 41 次浏览

山巅周刊第336期:提示以后,坐等其成

✅ 《山巅周刊》定期分享科技、医学及人文资讯,以及商业智慧和最佳实践,每周日发布。

✅ 我走过你现在的路。数十年真实生活打磨出的深度经验、韧性与可信度,是我能帮助你的。当你需要数字化商业顾问,请联系我。

封面主题:提示以后,坐等其成

a female mannequin is looking at a computer screenPhoto by Andres Siimon on Unsplash

我们总是想将人工智能定位为助手,占据主导地位引导、协作和监督人工智能,并且潜意识中期望它出点错,让自己有纠错的机会,自己仍旧是专家。但现实是,我们已经变成了观众,越来越多地只是提示、等待和验证。

2026-09-27 0 条评论 59 次浏览

山巅周刊第335期:透视大模型

✅ 《山巅周刊》定期分享科技、医学及人文资讯,以及商业智慧和最佳实践,每周日发布。

✅ 我走过你现在的路。数十年真实生活打磨出的深度经验、韧性与可信度,是我能帮助你的。当你需要数字化商业顾问,请联系我。

Laptop displaying ai integration logo on deskPhoto by Jo Lin on Unsplash

封面:透视大模型,从人类知识到 AI 智能的底层逻辑

AI 为什么能够回答我们的提问?

大模型的核心原理是知识的压缩与解压。《透视大模型:从人类知识到 AI 智能的底层逻辑》是一份为您量身定制的大语言模型核心原理全景解析,采用了通俗理解 + 严谨表述的双层结构,确保既能让非技术背景的人一目了然,又能经得起 AI 算法工程师的严苛推敲。

2026-09-20 0 条评论 57 次浏览

山巅周刊第334期:成为中国人

✅ 《山巅周刊》定期分享科技、医学及人文资讯,以及商业智慧和最佳实践,每周日发布。

✅ 我走过你现在的路。数十年真实生活打磨出的深度经验、韧性与可信度,是我能帮助你的。当你需要数字化商业顾问,请联系我。

封面:成为中国人


a person wearing a plaid shirtPhoto by Simone Daino on Unsplash

Chinamaxxing是一种网络迷因和社交媒体趋势,指西方世界(尤其是美国)Z世代选择效仿中国的生活方式、技术和中国制造的消费品,或公开表达对中国交通、能源和公共服务基础设施的赞赏。例如煮汤、吃粥、喝热水、吃中药、打太极、喝青岛啤酒、泡脚养生、送昂贵的水果、双手背在身后走路、追中国影视剧,到订机票前往中国旅行、深度体验人间烟火等,反映了西方Z世代在经济压力、数字文化流动与社会信任下降交织下,对中国生活方式、基础设施与日常习惯的半认真半讽刺式拥抱。

2026-09-13 0 条评论 71 次浏览

山巅周刊第333期:赛博盘核桃

✅ 《山巅周刊》定期分享科技、医学及人文资讯,以及商业智慧和最佳实践,每周日发布。

✅ 我走过你现在的路。数十年真实生活打磨出的深度经验、韧性与可信度,是我能帮助你的。当你需要数字化商业顾问,请联系我。

封面主题:赛博盘核桃

本文分析“格式转换”这种数字时代内容生产与传播中的荒诞而又普遍的现象。赛博盘核桃,乐此不疲的囤盘转,不过是媒介炼金术士的廉价数字手工艺。

Cyber-style Walnut Fidget Toy

老李把绝版书塞进扫描仪,等它嗡嗡吐完最后一页,满屏"人工智障"。他逐字校对,把"智障"改回"智能",存成PDF,长舒一口气,开启数字手工艺。

隔壁小王没这么费事。他把百科词条整段喂给大模型,三分钟后收获一条"三分钟懂量子"的AI配音,画面是库存的冰岛瀑布和撒哈拉日落。

楼上博主对着提词器,把教授上周的公开演讲用AI转成文字,换上自己的脸和嗓音,重新念了一遍。恭喜,你拥有了"原创视频"。

楼下剪刀手更绝:把这条视频加速到一点五倍,鬼畜变声,裁成十五秒,再顺手丢进工具,反向生成一篇署名自己的"深度好文"。

整栋楼其乐融融,宛如一场盛大的媒介炼金术。一杯水倒来倒去,水还是那杯水,但每个人都觉得自己亲手烧了一壶茶。

2026-09-06 0 条评论 82 次浏览