图神经网络与组合优化读书会 · 周六直播 突破1000万颗!特斯拉重磅官宣四大流量巨头,带不动一个苏宁易购日本互联网“起风了”社交电商“已死”,梦饷科技的“梦想”在哪?iOS 17升级密码功能,苹果给安卓手机们上了一堂课苹果再不来,VR要凉透了历时十年的“田忌赛马”结局渐明:格力与美的的差距已达到了一个“海尔级”杀疯了!折叠屏不到4000 moto razr 40明天预售卢伟冰打造的骁龙8 Gen3旗舰焊门员来了!Redmi K70系列已备案堆料不留遗憾的满血顶级非公旗舰!索泰RTX 4090 PGF OC评测:当之无愧新一代卡皇售价直逼30亿 ASML下代EUV光刻机年底问世:1nm工艺必备中科院:自主研制新一代人工智能大模型问世如何用AI重塑你的工作流(三)只需4年 PCIe 7.0硬盘有望追上DDR5内存:性能狂飙产品经理常犯的十大顶级错误

2023-06-18 0 967

编者按

现实生活世界中大量难题的解决依赖于演算法的结构设计与解。传统演算法由人类专家结构设计,而随着人工智慧技术不断产业发展,演算法自动学习演算法的案例日益增多,如以数学数学模型为代表的的人工智慧演算法,这是演算法脊髓化解的因由。在演算法脊髓化解路径上,图数学数学模型是两个强有力的工具,能够充分利用图结构的特性,实现对高维数演算法的高效近似解。如前所述图数学数学模型的复杂系统强化与控制将会是大数学模型热潮之后捷伊未来路径。

为了探讨图数学数学模型在演算法脊髓化解的产业发展与现实生活应用应用领域,T5250俱乐部联合北京航空航天大学系统工程系副教授味劣俊、复旦大学高瓴人工智慧学院助理教授Capendu,共同发起「图数学数学模型与女团强化」演讲会。演讲会将聚焦于图数学数学模型与演算法神经化解的有关应用领域,包括脊髓演算法推理、女团强化难题解、几何图数学数学模型,以及演算法脊髓化解在 AI for Science 中的应用应用领域等方面,希望为参加者提供两个国际交流平台,激发参加者的学术兴趣,进一步推动有关应用领域的研究和应用应用领域产业发展。演讲会从 2023 年 6 月 14 日开始,每周日晚 19:00-21:00 举行,持续时间预计 8 周。欢迎感兴趣的朋友报名参与!

撷取那哥

本次讨论会如是说机器学习解女团强化难题,特别是图上的女团强化难题,如最小结点覆盖难题、网络瓦解难题、磁矩玻璃激发态解难题的许多重大进展,包括如前所述自重回的方式和如前所述科天料重回的方式。同时也会如是说许多其他有意思的重大进展,如怎样提高数学模型的普遍化能力、怎样与成熟解器结合、怎样处理更自然的输入等。

撷取内容概要

1. 女团强化(Combinatorial Optimization ,CO ) 和 ML4CO

2. 图上的女团强化难题解

3. 许多有趣的研究重大进展

主要涉及到的后置知识

女团强化难题 ( Combinatorial Optimization Problem )

T5250新浪网:https://wiki.swarma.org/index.php/%E7%BB%84%E5%90%88%E4%BC%98%E5%8C%96

图数学数学模型 ( Graph Neural Network )

强化学习 ( Reinforcement Learning )

旅行商难题 ( Travelling Salesman Problem )

维基新浪网:https://en.wikipedia.org/wiki/Travelling_salesman_problem

最小结点覆盖 ( Minimum Vertex Cover )

科普文章:http://www.tastones.com/stackoverflow/dynamic-programming/solving-graph-problems-using-dynamic-programming/minimum_vertex_cover/

网络瓦解 ( Network Disintegration )

主讲人如是说

范长俊:北京航空航天大学系统工程系副教授。研究路径包括图深度学习、女团强化、强化学习及其在智能决策、复杂系统和指挥控制中的应用应用领域。以第一作者或通讯作者在 Nature Machine Intelligence、Nature Communications、AAAI 等世界顶级期刊和会议发表论文多篇。

主要涉及到的参考文献

1.Khalil E, Dai H, Zhang Y, et al. Learning combinatorial optimization algorithms over graphs [ J ] . Advances in neural information processing systems, 2017, 30.

这篇文章探讨了女团强化难题的一般形式,提出了一种使用自重回方式学习图上女团强化难题的求 解演算法。

GitHub 代码:https://github.com/Hanjun-Dai/graphnn

知乎如是说:https://zhuanlan.zhihu.com/p/497144608

2.Fan C, Zeng L, Sun Y, et al. Finding key players in complex networks through deep reinforcement learning [ J ] . Nature machine intelligence, 2020, 2 ( 6 ) : 317-324.

这篇文章是本次主讲人味劣俊老师的研究成果:提出如前所述深度强化学习框架,该框架可以在小型网络上进行训练,以理解复杂网络系统的 组织原则,从而帮助我们结构设计更加抗攻击和抗故障的网络。

T5250俱乐部报道:用强化学习寻找关键结点——复杂网络研究新范式

GitHub 代码:https://github.com/FFrankyy/FINDER

3.Fan C, Shen M, Nussinov Z, et al. Searching for spin glass ground states through deep reinforcement learning [ J ] . Nature Communications, 2023, 14 ( 1 ) : 725.

这篇文章是本次主讲人味劣俊老师的研究成果:如是说了一种深度强化学习框架 DIRAC,可以仅在小规模的磁矩玻璃实例上进行训练,然后应用应用领域于任意规模的实例上。该框架有助于更好地理解低温磁矩玻璃的性质,其采用的规范变换技术在物理学和人工智慧之间建立了深刻的联系,此外,也为强化学习在巨大的构型空间中探索开辟了一条充满希望的道路。

T5250俱乐部报道:Nat. Commun. 前沿:深度强化学习搜索磁矩玻璃激发态

4.Nair, Vinod, et al. “Solving mixed integer programs using neural networks.” arXiv preprint arXiv:2012.13349 ( 2020 ) .

线性规划用于最大化或最小化受两个或多个约束的线性目标函数,而混合整数规划 ( MIP ) 增加了两个附加条件:至少两个变量只能取整数值。这篇研究 DeepMind 和 Google Research 的两个团队利用数学数学模型从 MIP 实例的数据集中自动构建有效的启发式演算法。这种新颖的方式明显优于经典的 MIP 解器技术,展示了对最先进的 SCIP(解约束整数程序)7.0.1 解器的特别令人印象深刻的改进。

报道链接:https://medium.com/syncedreview/deepmind-google-use-neural-networks-to-solve-mixed-integer-programs-bf41e3521950

知乎如是说:https://zhuanlan.zhihu.com/p/403130522

GitHub 代码:https://github.com/ds4dm/learn2branch

一作解读视频:https://www.youtube.com/watch?v=qf8TeiGTZys

5.Donti Priya L., Rolnick David, Kolter J.Zico. DC3: A learning method for optimization with hard constraints. arXiv:2104.12225, 2021

在许多设置中都会出现具有硬约束的大型强化难题,但经典解器通常非常慢,这促使人们将深度网络用作廉价的 ” 近似解器 “。但是简单的深度学习方式通常无法强制执行此类难题的硬约束,从而导致解决方案不可行。这篇文章提出了深度约束补全和校正(Deep Constraint Completion and Correction ,DC3),解决上述挑战。具体来说,该方式通过两个可微过程来加强可行性,隐含地完成部分解决方案以满足等式约束并展开如前所述梯度的校正以满足不等式约束。DC3 在综合强化任务和 AC 最佳功率流的实际设置中都达到了很好的效果,在这两种情况下,DC3 在保持可行性的同时实现了接近最优的目标值。

OpenReview: https://openreview.net/forum?id=V1ZHVxJ6dSS

GitHub 代码:https://github.com/locuslab/DC3

6.Fu Z H, Qiu K B, Zha H. Generalize a small pre-trained model to arbitrarily large tsp instances [ C ] //Proceedings of the AAAI Conference on Artificial Intelligence. 2021, 35 ( 8 ) : 7474- 7482.

这篇文章尝试采用监督学习方式,训练两个小规模的数学模型,利用图采样、图转换以及热图合并等一 系列技术,构建可重复用于任意规模 TSP 实例的热图。此外,通过输入热图到强化学习方式 ( 蒙特卡 洛树搜索 ) ,以指导搜索高质量的解决方案。

OpenReview: https://openreview.net/forum?id=TLnReGgZEdW

GitHub 代码 : https://github.com/Spider-scnu/TSP

7.Pogan i M V, Paulus A, Musil V, et al. Differentiation of blackbox combinatorial solvers [ C ] //International Conference on Learning Representations. 2020.

图数学数学模型在处理自然输入等上游任务中发挥着重要作用,可直接从自然输入如图片、语音和文本等中提取特征,并应用应用领域于女团强化难题的解。这篇论文模型的自然输入为图片,利用数学数学模型解决 TSP、最短路径等女团强化难题。

OpenReview: https://openreview.net/forum?id=BkevoJSYPB

GitHub 代码 : https://github.com/martius-lab/blackbox-differentiation-combinatorial-solvers

现场直播信息

时间:

2023 年 6 月 17 日(本周六)晚上 19:00-21:00

参与方式:

图数学数学模型社区的产业发展。

T5250学园最新 AI 课程,

张江教授亲授:第三代人工智慧技术基础

——从可微分编程到因果推理

自 1956 年 ” 人工智慧 ” 诞生于达特茅斯会议以来,已经经历了从早期的以符号推理为主体的第一代人工智慧,和以深度数学数学模型、机器学习为主体的第二代人工能。ChatGPT 的横空出世、生成式 AI 的普及、AI for Science 等新应用领域的突破,标志着第三代人工智慧的呼之欲出。可微分编程、脊髓微分方程、自监督学习、生成式数学模型、Transformer、如前所述图网络的学习与推理、因果表征与因果推断,如前所述世界数学模型的强化学习……,所有这些脱胎于前两代人工智慧的技术要素很有可能将构成第三代人工智慧的理论与技术的基础。

本课程试图系统梳理从机器学习到大语言数学模型,从图数学数学模型到因果推理等一系列可能成为第三代人工智慧基础的技术要素,为研究者或学生在生成式 AI、大数学模型、AI for Science 等有关应用领域的学习和研究工作奠定基础。

https://campus.swarma.org/course/5084?from=wechat

图数学数学模型与女团强化演讲会启动

现实生活世界中大量难题的解决依赖于演算法的结构设计与解。传统演算法由人类专家结构设计,而随着人工智慧技术不断产业发展,演算法自动学习演算法的案例日益增多,如以数学数学模型为代表的的人工智慧演算法,这是演算法脊髓化解的因由。在演算法脊髓化解路径上,图数学数学模型是两个强有力的工具,能够充分利用图结构的特性,实现对高维数演算法的高效近似解。如前所述图数学数学模型的复杂系统强化与控制将会是大数学模型热潮之后捷伊未来路径。

为了探讨图数学数学模型在演算法脊髓化解的产业发展与现实生活应用应用领域,T5250俱乐部联合北京航空航天大学系统工程系副教授味劣俊、复旦大学高瓴人工智慧学院助理教授Capendu,共同发起「图数学数学模型与女团强化」演讲会。演讲会将聚焦于图数学数学模型与演算法脊髓化解的有关应用领域,包括脊髓演算法推理、女团强化难题解、几何图数学数学模型,以及演算法脊髓化解在 AI for Science 中的应用应用领域等方面,希望为参加者提供两个国际交流平台,激发参加者的学术兴趣,进一步推动有关应用领域的研究和应用应用领域产业发展。演讲会从 2023 年 6 月 14 日开始,每周日晚 19:00-21:00 举行,持续时间预计 8 周。欢迎感兴趣的朋友报名参与!

详情请见:

加速经典演算法效率,突破现实生活技术瓶颈:图数学数学模型与女团强化演讲会启动

相关文章

发表评论
暂无评论
官方客服团队

为您解决烦忧 - 24小时在线 专业服务