重磅!Google 推出AlphaEvolve 实现算法自我进化,将颠覆数学与计算机科学!

算法自我进化革命已经悄然开始!

Google DeepMind刚刚发布了AlphaEvolve系统,这是一个革命性的Gemini驱动编码代理,不仅能设计算法,而且能通过进化框架持续优化这些算法!

它已经发现了更快的矩阵乘法算法解决了开放性数学问题,并优化了Google的数据中心、芯片设计和AI训练

这不是简单普通的AI工具发布,而是算法发现范式的根本转变!

AlphaEvolve的技术架构:三大核心能力

从技术角度解析,AlphaEvolve的突破性在于它独特的系统架构,结合了三大关键组件的协同工作:

  1. 大语言模型集成:AlphaEvolve利用最先进的Gemini模型组合,包括高效的Gemini Flash用于最大化探索的广度,以及强大的Gemini Pro提供深度洞察。这些模型负责综合分析问题信息、历史解决方案,并用计算机代码形式提出算法实现

  2. 自动化评估系统:AlphaEvolve实现了一套客观量化的评估指标,能够自动验证、运行并评分每个提出的程序。这种方法在所有能够明确衡量进步的领域(如数学和计算机科学)中表现出色。评估系统为进化过程提供了精确的适应度函数。

  3. 进化算法框架:系统实现了一个适应性进化框架,它不仅迭代改进现有最佳算法,还通过重组不同解决方案中的思路找到更优解。这种进化策略能够跨越局部最优解,在更大的解空间中搜索。

BensenHsu对论文进行了详细解读,指出了AlphaEvolve的关键创新:

论文介绍了AlphaEvolve,一个使用最先进大语言模型的编码代理,通过进化过程迭代改进算法。AlphaEvolve旨在解决科学和计算领域的挑战性问题。它发现了新颖、可证明正确的算法,在数学和计算机科学中的一系列问题上超越了现有最先进的解决方案,如找到更快的矩阵乘法算法并改进各种数学不等式的界限。

优化Google计算基础架构的具体实践

过去一年,AlphaEvolve发现的算法已经部署在Google的整个计算生态系统中,形成了一个多层次的优化体系:


数据中心调度算法革新

AlphaEvolve在Borg数据中心编排系统中实现了突破性优化。它设计了一种新型启发式算法,在全局资源分配决策中引入了动态权重调整机制。这个生产环境中运行超过一年的解决方案,持续回收了Google全球计算资源的平均0.7%

技术上的关键在于,AlphaEvolve生成的代码不仅性能卓越,还具有可解释性、可调试性和可预测性,这在超大规模分布式系统中至关重要。与黑盒优化方法不同,它生成的解决方案能够被工程师理解并进一步改进。

芯片设计中的电路优化

在硬件层面,AlphaEvolve提出了矩阵乘法关键电路的Verilog代码重写方案。它识别并移除了精心优化的算术电路中的冗余位,同时保证了电路功能的正确性。这种修改已经集成到Google即将推出的 Tensor Processing Unit(TPU) 芯片中。

这一应用的技术创新在于,AlphaEvolve能够使用硬件描述语言(HDL)提出修改,促进了AI系统与硬件工程师之间的协作。每一个建议都必须通过严格的验证方法,以确保修改后的电路维持功能正确性。

AI训练和推理的多层次加速

在软件和算法层面,AlphaEvolve实现了AI性能和研究速度的双重提升:

  1. 矩阵乘法子问题分解优化:通过发现更智能的方法将大型矩阵乘法操作分解为可管理的子问题,AlphaEvolve将Gemini架构中的关键内核加速了23%,导致Gemini训练时间减少了1%。考虑到生成式AI模型的计算资源需求,这种优化转化为显著的资源节约。

  2. GPU指令级优化:AlphaEvolve还优化了底层GPU指令,这是一个通常由编译器处理而不被工程师直接修改的复杂领域。它在基于Transformer的AI模型中为FlashAttention内核实现了高达32.5%的速度提升

  3. 内核优化工程时间降低:从工程效率角度看,AlphaEvolve将内核优化所需的时间从专家数周的努力缩短到了几天的自动化实验,显著加速了研究创新速度。

AI Wave(@aiwaveco)对这一技术突破进行了深刻评价:

我们从「提示词+代码」发展到了「开放问题+算法+优化」。AlphaEvolve玩的是完全不同的游戏。

数学和算法设计的算法定理机

AlphaEvolve在纯数学和算法设计领域的成就同样惊人,它正在成为一个”算法定理机”,能够自动发现和证明算法性质。

矩阵乘法算法的突破性创新

AlphaEvolve在矩阵乘法这一计算机科学基础问题上取得了显著进展。它设计了一种全新的基于梯度的优化过程,能够发现多种新型矩阵乘法算法。具体而言:

  • 技术上,AlphaEvolve提出了一个小型代码框架,然后自主设计了新型梯度优化过程的多个组件
  • 它找到了使用48个标量乘法计算4×4复值矩阵的算法,超越了Strassen在1969年提出的算法(此前被认为是该设置下的最佳算法)
  • 相比之前的AlphaTensor模型,AlphaEvolve采用了更泛化、更高效的方法,在4×4矩阵上实现了超越,而AlphaTensor仅在二进制算术上取得了改进

在算法进化过程中,AlphaEvolve进行了15次变异,跨越了优化器、权重初始化、损失函数和超参数扫描等多个组件,显示出其惊人的算法设计能力。

开放性数学问题的系统化攻克

DeepMind团队将AlphaEvolve应用于超过50个分析、几何、组合学和数论领域的开放性问题,实验设置仅花费数小时就完成,充分展示了系统的灵活性。

研究成果展示了AlphaEvolve的算法能力:

  • 在约75%的情况下,它独立重新发现了当前已知的最先进解决方案
  • 20%的情况下,它改进了此前最佳已知解决方案,在相应的开放问题上取得了进展

尤为突出的是AlphaEvolve在「亲吻数问题」(kissing number problem)上的成就。这个已经困扰数学家300多年的几何挑战,研究的是与公共单位球体相切的非重叠球体的最大数量。AlphaEvolve发现了593个外部球体的构型,并在11维空间中建立了新的下界,这是一个重要的数学突破。

AI Notkilleveryoneism Memes(@AISafetyMemes)分享了一张表达对AlphaEvolve数学能力复杂感受的图片:

算法进化的未来:跨领域应用前景

从技术角度看,AlphaEvolve展示了算法发现领域从特定领域解决方案向通用复杂算法开发的飞跃。其核心技术优势在于其架构的普适性——

只要问题的解决方案能够被描述为算法并通过自动化方式验证,AlphaEvolve就有可能应用。

技术架构的未来发展路径

随着大语言模型能力的不断提升,特别是编码能力的增强,AlphaEvolve的进化框架预计会得到相应的提升。研究团队特别指出,随着Gemini模型在编码方面能力的增强,AlphaEvolve的算法发现能力将同步提升。

从软件工程角度,DeepMind团队与People + AI Research团队已经构建了交互界面,使研究人员能够更直观地与AlphaEvolve交互。他们计划推出早期访问计划,并探索更广泛部署的可能性。

跨领域应用前景

AlphaEvolve的算法进化方法预计将在多个科学与技术领域产生深远影响:

  1. 材料科学:自动设计和优化材料配方算法,加速新型材料的发现过程。

  2. 药物发现:优化分子对接算法,加速候选药物的筛选和评估过程。

  3. 可持续发展:设计更高效的资源分配算法,优化能源使用和减少碳排放。

  4. 技术与商业应用:针对特定业务流程自动设计优化算法,提高运营效率。

Uncertain Systems(@uncertainsys)提出了一个重要的商业应用问题:

它能发现新的SaaS吗?

这一问题暗示了AlphaEvolve可能对软件服务创新产生的影响,算法进化可能催生全新类型的软件服务。

jzv(@jzvtrades)则提出了更深层次的技术问题:

但它能发明模型突破吗?

这反映了研究界对AI系统能否实现元级创新的思考——能否设计出全新的AI架构和模型,而不仅仅是优化现有算法。

算法进化已经从理论走向实践,我们正在见证计算机科学和数学研究模式的变革,这预示着人类与AI系统在科学发现领域的新型协作关系。


(文:AGI Hunt)

发表评论

×

下载每时AI手机APP

 

和大家一起交流AI最新资讯!

立即前往