造出全球最快的四台计算机之后,它一年内破产了

1993 年 Thinking Machines 制造的 Connection Machine 包揽了全球 TOP500 超算前四名。十四个月后,这家曾让理查德·费曼为之手算微分方程、被斯皮尔伯格搬进《侏罗纪公园》的超级计算机宠儿申请破产。它死于一个残酷的商业事实:全世界最快的机器,只有一个买家。

分享
造出全球最快的四台计算机之后,它一年内破产了

1993 年 6 月,首届全球超级计算机 TOP500 榜单出炉。得分最高的四台机器,都贴着同一个商标:CM-5。

洛斯阿拉莫斯国家实验室的那台旗舰机以 1024 个节点跑出了 131 GFLOPS,稳坐世界第一。2、3、4名同样来自这家公司。

这家公司叫 Thinking Machines。1993 年夏天,它站在整个计算科学界的金字塔尖。

十四个月后,它向特拉华州破产法院申请了破产保护。

一篇关于走线的博士论文

故事始于麻省理工学院人工智能实验室(MIT AI Lab)。

创始人丹尼·希利斯(Danny Hillis)是人工智能先驱马文·明斯基(Marvin Minsky)的博士生。当时计算机界信奉的是西摩·克雷(Seymour Cray)的哲学:把单颗中央处理器做大、做精、做快,用昂贵的液冷甚至氟化液浸泡来榨取极限时钟频率。

但希利斯被另一个物理现实困扰:冯·诺依曼架构里,处理器和内存之间只有一条狭窄的总线。无论芯片算得多快,海量数据排着队等总线搬运。

他的想法在当时听起来像疯话:不要把一颗处理器做大,要把它做碎。

用六万多颗极简、便宜的处理器同时干活,让每一颗处理器都直接贴着自己的本地内存。这篇关于超大规模并行计算架构的论文,在 1985 年获得了 ACM 杰出博士论文奖。

1983 年,希利斯和谢丽尔·汉德勒(Sheryl Handler)在马萨诸塞州沃尔瑟姆创办了 Thinking Machines,第二年就搬到了剑桥市的肯德尔广场,与 MIT 隔街相望。

算缓冲区的物理学家

第一代机器 Connection Machine CM-1 的规格极端到近乎偏执:整台机器塞进了 65,536 颗处理器。

为了把几万颗芯片塞进机器,希利斯把单颗处理器砍到了只有 1 比特宽。它是一台单指令多数据(SIMD)机器:几万颗芯片在同一时刻执行同一个时钟发出的同一条指令,只是各自摆弄手头那 1 个比特的数据。

这种设计的单核计算并不难,致命的瓶颈在芯片之间的通信网络。

让六万多颗芯片两两拉线直连是不可能的,铜线会把机器撑爆。希利斯的解法是 12 维布尔超立方体网络(Hypercube):每颗芯片只和 12 个固定邻居通信,任意两颗芯片之间的数据跳数最多不超过 12 跳。

但网络一拥堵,数据就会在节点堆积死锁。

芯片工程师们反复计算,要保证在超立方体里路由不丢包,每颗芯片必须配备 7 个内部消息缓冲区。

按 7 个缓冲区来布线,硅片面积大到当时的半导体光刻工艺根本流不出片。

当时理查德·费曼(Richard Feynman)正在加州理工学院,夏天跑到肯德尔广场当咨询顾问。费曼没有用计算机仿真,而是找出一套偏微分方程,推导在随机流量下高维超立方体中地址比特包含“1”的统计概率分布。

几天后,费曼推开设计室的门告诉年轻工程师们:5 个缓冲区就够了。

Richard Feynman,1984 年

Richard Feynman,摄于 1984 年。他参与了 Connection Machine 的设计咨询,并解决了处理器间数据缓冲深度的问题。Photo: Tamiko Thiel, CC BY-SA 3.0, via Wikimedia Commons

团队按 5 个重做了掩膜版,芯片流片成功,CM-1 的网络一次点亮。

费曼后来把他在曼哈顿计划中用过的对数算法也改写到了机器上,用位移和加法替代乘除法。他甚至用 CM-1 演算量子色动力学的费曼图,实测速度比加州理工一台价值数百万美元的专用阵列计算机还要快。

必须被看见的机器

CM-1 的工业设计来自雕塑艺术家塔米科·蒂尔(Tamiko Thiel)。

它不是当时计算机机房里那种平庸的米黄色铁皮铁柜,而是由八个哑光黑色立方体拼接而成的组合体,边长正好 1.5 米,外面罩着深色半透明有机玻璃门。

透过玻璃门,可以看到 4096 颗红色发光二极管(LED)。

Connection Machine CM-1,1985 年

Connection Machine CM-1,1985 年,现藏于美国计算机历史博物馆。立方体外壳上的 LED 实时显示处理器状态。Photo: Carlo Nardone, CC BY-SA 2.0, via Wikimedia Commons

每颗 LED 实时绑定一小撮处理器的运行状态。当机器处于满负荷状态时,整个黑色立方体在黑暗中泛着有节奏的血红色微光,仿佛一台正在呼吸的人造大脑。

这种视觉震撼迅速穿透了极客圈。斯皮尔伯格在拍《侏罗纪公园》时,直接把两排带闪烁红色 LED 的 CM-5 搬进了恐龙岛基因工程实验室的中央控制室。在好莱坞眼里,这就是超级计算机应有的模样。

但这种设计也带来了一个带着冷幽默的技术副产品。

在理论上,最优秀的 SIMD 并行算法是让所有节点同时工作,此时所有红色 LED 应该是全亮不动;一旦指示灯闪烁,说明有些节点在闲置等待数据传输。

但很多花巨资买下机器的高校和实验室主任,最喜欢看的就是一堵墙的红光疯狂闪动。许多工程师在写完代码后,不得不特意在主循环里塞进几个空转指令,专门为了让机柜上的红灯闪起来。

只有一个买家的繁荣

靠着超现实的外观和极限的计算吞吐量,Thinking Machines 迎来了短暂的黄金时代。

在气象预测、流体力学以及核武器的流体动力学三维模拟中,超立方体的并行矩阵计算无出其右。1989 年,公司正式实现盈利;1990 年,公司年营收冲到了 6,500 万美元,压倒了老牌超算巨头 Cray Research。

但盛世底下藏着一个致命事实:这个世界上根本没有民用并行计算市场。

在 1980 年代末,普通的软件开发者连单线程的指针和内存对齐都搞不定,根本没有人懂得怎么为六万多颗核写并行代码。要驯服这头怪兽,必须使用专门定制的 *Lisp 或者 CM-Fortran。

一台 Connection Machine 售价高达 300 万到 500 万美元。华尔街的投行和底特律的汽车厂看一眼价签和那套生僻的并行编译器,就关上了大门。

Thinking Machines 真正的提款机只有一个:美国国防高级研究计划局(DARPA)和能源部旗下的国家实验室。

冷战末期,星战计划和战略计算计划(Strategic Computing Initiative)需要用最凶猛的算力去推演弹道和核反应,五角大楼有花不完的国防预算。

Thinking Machines 把整座商业大厦,建在了这一张订单支票上。

柏林墙倒塌与通用芯片的绞杀

1991 年,两场外部风暴同时砸了过来。

第一场风暴来自华盛顿。随着苏联解体和冷战终结,美国联邦国防预算开始大幅缩水。与此同时,Cray、nCUBE 和 MasPar 等竞争对手联名向国会山抗议,指责 DARPA 把联邦科研基金不公正地偏袒给麻省的一家宠儿。

面对国会审查,DARPA 迅速缩减了对 Thinking Machines 的排他性采购,同时收紧了高性能计算机的出口管制。一个拥有几百名顶级科学家和工程师的公司,瞬间被切断了资金动脉。

第二场风暴来自更深层的计算架构演进。

1991 年,Thinking Machines 推出了 CM-5。这一代机器做出了一个妥协:抛弃了纯粹的 1 比特 SIMD 架构,转而使用 Sun 制造的商用 SPARC RISC 芯片,网络拓扑也从复杂的超立方体改成了更容易布线的胖树(Fat Tree)。

Connection Machine CM-5

Connection Machine CM-5,1991 年推出。节点改用商用 SPARC 处理器,网络结构换成胖树。Photo: brewbooks, CC BY-SA 2.0, via Wikimedia Commons

这实际上承认了一件事:通用 RISC 芯片的摩尔定律推进速度,已经远远把纯自研的专用芯片甩在身后。

当单颗通用微处理器的速度每十八个月翻一番时,商业公司更愿意去买几十台便宜的 Sun 工作站拼成集群,或者直接买 Cray 的向量机,而不再愿意花数百万美元供养一台需要重写所有软件的黑色立方体。

1992 年,Thinking Machines 陷入巨额亏损,联合创始人谢丽尔·汉德勒被董事会免职。

1994 年 8 月,距离在 TOP500 榜单上包揽世界前四仅仅过去一年,Thinking Machines 正式申请破产。

留在八十年代的纪念碑

破产后的资产被迅速瓜分。

它的硬件技术与专利被 Sun Microsystems 买下,成了后来 Sun Enterprise 服务器家族的底层基因;它的数据挖掘团队与软件业务最终辗转被甲骨文(Oracle)收入囊中。

那些曾经挤在肯德尔广场喝咖啡的顶尖头脑,散落进了现代互联网的各个角落:

格雷格·帕帕佐普洛斯(Greg Papadopoulos)去了 Sun,一路做到执行副总裁兼首席技术官;

布鲁斯特·卡利(Brewster Kahle)把他在机器上开发的广域信息服务器(WAIS)理念进一步放大,在几年后创办了名垂青史的互联网档案馆(Internet Archive);

还有一批校友创办了数据处理软件公司 Ab Initio,在华尔街的高频交易系统里扎下了根。

Thinking Machines 并没有在技术直觉上犯错。三十年后,整个 AI 工业界用来训练大模型的 GPU 集群,从节点间互联通信到大规模数据并行,骨子里流淌的全是当年肯德尔广场上的直觉。

但它死在了一场残酷的商业错配里:它把最超前的极客艺术品卖给了政府唯一的预算窗口,当那个窗口随着地缘政治关上时,它才发现脚下的商业世界根本没有地基。

费曼算得出五颗缓冲区能托住数据流,但没有任何物理学公式能托住一个只有单一买家的市场。

阅读更多

那些意外变成特性的 Bug:当代码漏洞改写计算史

那些意外变成特性的 Bug:当代码漏洞改写计算史

那些意外变成特性的 Bug:当代码漏洞改写计算史. 比起草台班子将错就错的神话,面对异常数据时的观测定力才是真的 社交网络上常年流传着一类爽文:某家公司的程序员把代码写崩了,结果不仅没被开除,这个 Bug 反而成了拳头产品,妥妥的爽文主角剧本。 最常被搬出来的有三个:Audio Hijack 写错试用期拯救公。

By huizhou92