在家里打造512台MacMini超算集群他打算自己来研究AGI

这回是要在家里玩个大的!

——有人在 家里组装了512台Mac Mini超算集群 !

这位大佬是谁呢?他就是高阶计算(Higher Order Computing)公司的创始人 Taelin 。

在家里打造512台MacMini超算集群他打算自己来研究AGI-2

你可能会觉得这只是普通的ARC(抽象推理挑战)任务。但在Taelin眼里,这可是通往AGI的关键一步!

在家里打造512台MacMini超算集群他打算自己来研究AGI-3

他打算用这个 自制超算集群 来运行一个 大规模证明搜索算法 。没错,就是在自家公寓里搞事情!

Taelin表示:

我决定在公寓里安装一个定制机架,上面放512台Mac Mini,用来运行HVM上的大规模证明搜索算法。

这操作属实把我给震住了!不过这位老兄好像一直都挺能整活的。

话说Taelin 为啥要搞这么大阵仗呢?

原来,他有一个野心勃勃的想法:

通过优化评估和海量计算来扩展证明合成算法,将产生强大的逻辑推理模型。

简单来说,就是想用 并行计算 和 优化算法 来加速AI的推理能力。

听起来是不是很酷炫?

不过Taelin也坦言,这个想法还没有经过验证。但他觉得这么做"太有道理了",而且不管最后能不能达到AGI水平,这个工具本身就很有用。

有意思的是,Taelin还透露了一个小细节——他之前可能在一些"更糟糕的东西"上花过钱。啧啧,不知道是啥让他后悔啊?

不过话说回来,这种大手笔投资确实不是人人都能玩得起的。有网友就羡慕道:

我连一台Mac Mini都买不起,这哥们直接来512台?

确实,光是想想电费可能我就要破产了!

有人倒是力挺Taelin的做法: 至少他在用自己的钱做真正的研究,而不是炒作一些虚无缥缈的概念。

不过,Taelin也提到了一个有趣的观点:在2024年,编码终于变快了,但思考和推理的速度还是和以前一样慢。

最后,Taelin还发出了一个"求助":

有人想和我一起做ARC-AGI实验吗?就当是娱乐。如果你能熟练使用λ编码(比如用scott/church手动实现排序,包括类型),我愿意分享我所有的资源。

看来这是对AGI 真•痴 迷 啊!不过话说回来,能和大佬一起做实验,这机会可不多见, 我已经帮到这里了, 接下来就看你的了。

你觉得Taelin的这个疯狂计划能成功吗?

附Taelin 原文:

将HOC与AI分离的原因

原因一:耗费大量个人时间

首先也是最重要的原因是,我意识到构建我所设想的符号AI架构远比预期耗费了更多的时间。这种巨大的时间投入最终拖慢了HVM和Bend项目的进展。在2024年,尽管编程速度大幅提升,但思考和推理的速度依然没有加快。

在过去的两周内,我投入了近200小时的研究时间,虽然取得了一些有前途的结果,比如我最近发布的巨大加速成果,但我仍然离最终目标有很大的距离。与此同时,HVM2项目陷入了停滞。最终,我必须做出选择,鉴于大家对HVM和Bend的支持和期望,我认为专注于它们是最为公平的。

原因二:我们有了新的业务方向

我将AI从HOC中剥离的第二个原因是,我们从多个潜在合作伙伴那里收到的强烈反馈表明,HOC专注于使Bend成为GPGPU的首选高级语言,并在未来打造以Bend为核心的业务是完全可行的。缺乏明确的方向感是我们之前寻找即时应用的原因之一,而这些反馈缓解了我们的这一担忧。

简而言之……

从下周开始,HOC将全力专注于改进HVM以支持Bend。我们将很快推出目前缺失的所有功能:64位指针、更大的内存、更多的目标平台、浮点运算、稳定的IO支持,最重要的是:一个能够优化单核性能的编译器和优化器。由于我们是一家小公司,所以我个人的直接参与对加快进度仍然至关重要。

老实说,这有些令人失望,因为我对自己的理论深信不疑:通过最佳评估和大规模计算来扩展证明合成算法,将会产生强大的逻辑推理模型。我坚信这一点无论是对AGI(通用人工智能)还是其他领域,都是非常有用的工具。然而,这一切仍未得到验证,而我还有公司和项目需要照顾。

话虽如此…… 🫢

在我的空闲时间,我会将其作为一个副项目继续下去。我还决定购买512台Mac Mini,在我的公寓里设置一个定制机架,用于在HVM上运行大规模的证明搜索算法。正如以往一样,我会随时向大家汇报这个疯狂实验的进展。不管你们是爱我还是恨我,但不可否认,我是一个非常有趣的人。是的,这并不便宜,但相信我,我曾在更糟糕的事情上花过钱,所以毫无遗憾。让我们出发吧!

顺便提一句,由于这是我现在的命运……

有没有人想在我的空闲时间和我一起进行ARC-AGI实验?这只是为了好玩。如果你能证明自己对λ-编码非常熟悉(比如手动实现Scott和Church风格的排序,包括类型),我愿意分享我的所有资源。

在HVM上已经展示了通用程序搜索的巨大加速之后,接下来的挑战是:我们究竟如何构建搜索空间?我们应该搜索什么?我计划的方法的关键部分是:在搜索程序之前,先搜索类型。

例如,考虑下面的ARC-AGI实例。如果我们盲目搜索所有可能的程序(比如λ-项),显然搜索空间将是指数级且难以处理的。如果我们预设一些确定的函数——这通常是ARC-AGI解决方案的方法——我们肯定能找到答案,但这样我们的解决方案就不够通用了。

然而,如果我们首先枚举类型,然后在这些类型上寻找程序呢?对于下面的实例,建模它的类型非常简单:

State ::= Vec 4 (Col,Col)

一旦你有了一个固定的类型,领域就变得相对较小:F(左侧)和G(右侧)都是这个“小”领域的投影,它们背后的逻辑也相对简单:只需在固定点上绘制每个Col,当 a == b 时画一条线。我相信,首先建模状态空间然后搜索函数的能力对于实现通用方法至关重要。

版权声明:
作者:shadowrocket
链接:https://www.shadowrocket8.top/221.html
来源:Shadowrocket官网
文章版权归作者所有,未经允许请勿转载。

THE END
分享
二维码
< <上一篇
下一篇>>