新的AlphaGo时刻要来?谷歌推出“进化式”编程智能体,AI已学会设计高级算法!

文丨谭梓鑫

谷歌AI模型进化如此之快的秘密终于揭开了。

日前,谷歌DeepMind公布了内部运行的AlphaEvolve,这是一个基于Gemini的独特编码代理,可用于设计高级算法,改进AI芯片设计以及用来解决数学和计算机科学领域中的其他重大问题。

DeepMind首席执行官Demis Hassabis的话说:“AlphaEvolve可以让知识产生更多知识,让算法优化其他算法。”

如果说当年的AlphaGo围棋之战掀起了全球人工智能高速发展浪潮,那AlphaEvolve很可能是下一代AI实现自主进化的加速飞轮。

谷歌AI模型进化的新方式

谷歌方面表示,目前已将AlphaEvolve发现的算法部署到了整个计算生态系统中,包括数据中心、硬件和软件,不仅改进了其下一代张量处理单元(TPU)的设计,还找到了一些更有效地利用谷歌全球计算能力和模型改进的新方法。

回顾AlphaEvolve的诞生,其实经历过好几个技术发展阶段和研究积累。

2022 年,谷歌开发了AlphaTensor模型,该模型找到了更快的矩阵乘法求解方法,改进了一项50多年没有进化的经典算法。2023年,谷歌发布了AlphaDev模型,它找到了更快的方法来执行计算机每天执行数万亿次的基本计算。AlphaTensor和AlphaDev都会将数学问题转化为一种游戏,然后寻找一系列制胜的策略。

2023年末谷歌推出FunSearch,用能够生成代码的LLM取代了游戏程序AI,由于LLM可以执行一系列任务,该工具曾被用于破解纯数学中的未解难题。

AlphaEvolve则是FunSearch的下一代版本,它可以演进整个代码库并开发更加复杂的算法,以产生切实可行的解决方案,且通用性强。

在改善数据中心调度方面,AlphaEvolve发现的一种新算法为谷歌大规模集群管理系统Borg提供支持,据悉,优化出来的启发式调度算法平均可持续恢复谷歌全球计算资源的0.7%——以谷歌的算力规模而言,这是一个惊人的效率进步。

AlphaEvolve还提出了一个Verilog重写方案,删除了矩阵乘法关键算术电路中高度优化的、不必要的位,该方案被集成到即将推出的谷歌张量处理单元(TPU) 中。

令人印象深刻的是,AlphaEvolve还用于改进了自身驱动的系统,它优化了用于训练Gemini模型的矩阵乘法核,使运算速度提升了23%,并将整体训练时间缩短了1%,对于在海量计算网格上训练的AI系统来说,这种效率提升意味着显著的能源和资源节省。

此外,AlphaEvolve对低级GPU指令进行了优化,这个极其复杂的领域通常已经由编译器进行处理,因此人类工程师通常不会直接修改它,AlphaEvolve在基于Transformer的AI模型中,为FlashAttention内核的实现进行了高达32.5%的加速。

值得关注的是,发现新算法或者改进方案之后,AlphaEvolve会使用自动化评估指标来验证、运行和评判所提出的新程序,对每个解决方案的准确性和质量进行客观、可量化评估,这使得AlphaEvolve在数学和计算机科学等能够清晰、系统地衡量优化进展,并论证是否真的有用。

助推算法迭代和数学研究

除了内部应用,DeepMind的目标是利用AlphaEvolve推进更多数学和算法发现的前沿研究。

AlphaEvolve能为复杂的数学问题提出新的解决方案,基于计算机程序的极简代码框架,AlphaEvolve设计了一种基于梯度的新型优化程序的诸多组件,进而一步步挖掘发现多种用于矩阵乘法(计算机科学的一个基本问题)的新算法,这包括进行优化器和权重初始化、损失函数以及超参数扫描,在进化中自主进行多次突变。

对于4×4矩阵,AlphaEvolve通过发现一种使用48次乘法完成4×4复值矩阵相乘的算法,改进了Strassen(1969)算法。

为了探究AlphaEvolve的应用广度,谷歌研究人员将该系统应用于数学分析、几何学、组合学和数论领域的50多个未解决的问题,包括傅里叶分析问题(数据压缩背后的数学原理,对视频流等应用至关重要)、最小重叠问题(数学家保罗·埃尔德什于1955年提出的数论开放问题)以及接吻数(牛顿提出的一个问题,在材料科学、化学和密码学领域都有应用)。

AlphaEvolve系统能够在数小时内完成大多数实验的设置。实验结果显示,在大约75%的案例中,它能够重新发现最先进的解决方案,在20%的案例中,它改进了之前已知的最佳解决方案,并在相应的未解决难题上取得了新进展或见解。
业内人士认为,AlphaEvolve可能标志着一种行业范式转变:人工智能不仅应用算法解决问题,更能创造新算法,通过将LLM驱动的提案生成与自动化、严格的评估循环相融合,这种“演进-测试”工作流程的迭代方式或将加速AI技术实现持续的自主进化。
目前,这些改进的效果仍属中等程度,且改进下一代AlphaEvolve的反馈循环需数月时间。谷歌团队表示,虽然AlphaEvolve目前重点应用于数学和计算领域,但其通用性意味着它可以用于能用算法描述并自动验证的其他问题,有望给材料科学、药物研发、等更广泛的技术和商业领域带来变革。
下一个AlphaGo时刻
AlphaEvolve得到了不少科学家的关注。
德国埃尔朗根马克斯·普朗克光科学研究所人工智能科学家实验室负责人Mario Krenn认为:“谷歌这篇论文非常精彩,AlphaEvolve是基于通用LLM进行新发现的首次成功演示。”
Krenn表示,迄今为止,人工智能在科学领域的大多数成功应用——包括蛋白质设计工具AlphaFold——都涉及一种专门为其任务而手工编写的学习算法。但AlphaEvolve是通用的,有望解决更广泛领域的问题。
俄亥俄州立大学哥伦布分校的人工智能研究员Huan Sun则表示:“在这些系统经过更广泛的社区测试之前,我会保持怀疑态度,并对其报告的结果持保留态度。”
AI模型在今天已经取得了巨大成就,但它的成果仍然主要是由人类开发者的思考和创造力驱动,所以,人工智能如何具备自主发现和进化能力是业内关注的下一个热门科研方向。
Meta首席人工智能科学家、图灵奖获得者Yann LeCun在近期的一次采访中曾谈到:“我们需要用其他架构和系统来增强LLM做出新的发现,因为LLM没有独自做出发现的能力,为了实现类似人类的推理和创新,未来人工智能系统必须超越LLM
据统计,DeepMind实验室迄今已经迭代发布了18个不同的Alpha系统,在不同领域都产生了深刻影响。
网友直呼,怪不得DeepMind创建者Demis Hassabis能获得诺贝尔化学奖,他真的很擅长研究,下一步很有可能见到基于递归自我改进的机器学习技术进一步升级,业内或将迎来新的AlphaGo时刻。

-END-

(文:头部科技)

发表评论

×

下载每时AI手机APP

 

和大家一起交流AI最新资讯!

立即前往