2022年川越茂，放飞育苗智慧演算法的未来，除了最主流的广度自学数学模型以外，还有什么样潜在性的突破点？
最近在Reddit 看到列举了10个方向。千脑理论、自由能基本原理、Testlin电脑、层次动态储存演算法等等，本栏依照其列举的参照方向，因此补足了来自维基、T5250新浪网等相关的介绍内容，将这10个方向做了一个摘要性的那哥。
层次动态储存演算法
Hierarchical temporal memory
层次动态存储演算法（HTM）是一类由Numenta开发的微生物束缚电脑智能化控制技术。HTM起初在2004年 Jeff Hawkins 和 Sandra Blakeslee合译的《On Intelligence》一书中有所叙述，目前主要用于流统计数据中的极度检验。该控制技术如前所述认知科学和哺乳类（特别是人类）脊髓系统新皮质中菱形突触的微生物学和交互作用。
HTM 的核心是自学演算法，它能储存、自学、推测和初始化低阶字符串。与绝大多数其他电脑自学方法不同，HTM不断自学（在无监督管理过程中）未记号统计数据中如前所述时间的商业模式。HTM对噪音具备精确性，因此具备大容量（它能同时自学多种商业模式）。当应用于排序机时，HTM适于预估，极度检验，进行分类以及最终的感觉运动应用。
HTM已经通过Numenta的实例插件和Numenta合作方的一些商业插件在应用软件中展开了试验和实施。（以上译者自维基）
超维排序
Hyperdimensional Computing
超维排序（HDC）是一类新经济的排序方法，受到人脑干公益活动商业模式的启迪。这种独有的排序类型能使育苗智慧系统依照以前碰到的统计数据或情景留存缓存并处理新信息。为了对脊髓公益活动商业模式展开可视化，HDC系统使用丰富的代数，该代数定义了一组规则来构建，绑定和捆绑不同的超向量。超向量是具备独立且分布相同的分量的全息10,000维（伪）随机向量。通过使用这些超向量，HDC能创建功能强大的排序系统，该系统可用于完成复杂的认知任务，例如对象检验，语言识别，语音和视频进行分类，时间字符串分析，文本进行分类和分析推理。(摘自：一类超维排序系统，可在缓存中执行所有核心排序)。这里是关于超维排序项目的资源集合https://github.com/HyperdimensionalComputing/collection
脉冲脊髓网络
Spiking Neural Networks
脉冲脊髓网络Spiking neuralnetworks (SNNs)是第三代脊髓网络数学模型，其模拟突触更加接近实际，除此以外，把时间信息的影响也考虑其中。思路是这样的，动态脊髓网络中的突触不是在每一次迭代传播中都被激活（而在典型的多层感知机网络中却是），而是在它的膜电位达到某一个特定值才被激活。当一个突触被激活，它会产生一个信号传递给其他突触，提高或降低其膜电位。
在脉冲脊髓网络中，突触的当前激活水平（被可视化成某种微分方程）通常被认为是当前状态，一个输入脉冲会使当前这个值升高，持续一段时间，然后逐渐衰退。出现了很多编码方式把这些输出脉冲字符串解释为一个实际的数字，这些编码方式会同时考虑到脉冲频率和脉冲间隔时间。
（上文摘自：process-z.com，脉冲脊髓网络Spiking neural network张竞成的博客-CSDN博客spiking脊髓网络）
这篇文章Spiking Neural Networks（Spiking Neural Networks Simons Institute for the Theory of Computing），对脉冲脊髓网络的研究历史、主要贡献者、现状和问题、相关统计数据集等作了比较好的梳理。
联想记忆/ 预估编码
Associative Memories via Predictive Coding
思路来自这篇论文 Associative Memories via Predictive Coding：https://arxiv.org/abs/2109.08063。联想记忆数学模型，是借鉴了人类脊髓系统干元储存、关联和检索信息的商业模式。由于在人类智能化中的重要性，联想记忆的排序数学模型已经发展了几十年，包括自动关联储存器，允许储存统计数据点和检索储存的统计数据点s当提供噪音或部分变体时s和异质关联记忆，能够储存和初始化多模态统计数据。
在上面的论文中，作者们提出了一类用于实现联想记忆的新型脊髓数学模型，该数学模型如前所述通过感觉突触接收外部刺激的分层生成网络。该数学模型使用预估编码展开训练，预估编码是一类如前所述错误(error-based)的自学演算法，其灵感来自皮质中的信息处理。
分形育苗智慧
Ractal AI
分形AI，通过使用类似细胞自动机的结构而不是平滑函数对信息展开可视化，它能衍生出新的数学工具，这些工具构成了一类新的随机演算基础。
这篇论文（参见：https://github.com/Guillemdb/FractalAI），介绍了一类新代理（分形蒙特卡洛），它源自Ractal AI的第一基本原理（参见：https://github.com/Guillemdb/FractalAI/blob/master/introductiontofai.md），能够比其他类似控制技术（如蒙特卡罗树搜索）更有效地支持OpenAI Gym下的Atari-2600游戏；此外该论文还宣称提出了更先进的Swarm Wave实现，也来自分形AI基本原理，允许人们在环境的完美/信息数学模型下求解马尔可夫决策过程。
千脑理论
The Thousand Brains Theory
人类脊髓系统如何工作？千脑智能化理论是近年涌现的一个非常有影响力的理论。2021年11月，比尔盖茨公布了心目中的2021年度5本必读好书，排第一位的便是《A Thousand Brains: A New Theory of Intelligence》，作者是Jeff Hawkins 。支撑这本书的重要论文，是发表于2018年的A Framework for Intelligence and Cortical Function Based on Grid Cells in the Neocortex（如前所述新皮质网格细胞的智能化和脊髓系统皮质功能框架），千脑理论叙述了一个通用的框架，用于理解新皮质的作用及其工作基本原理，该理论认为，新皮质并不是只自学了关于世界的一个数学模型，而是每一部分都自学了一份世界完整的物体与概念数学模型。然后新皮质中的长程连接允许数学模型们协同工作，来构建你对世界的整体感知。该论文还预估了一类称为“移位细胞”（displacement cells）的新型突触的出现，它与皮质网格细胞交互作用以表示物体相对于彼此的位置。
2021年6月，Jeff Hawkins 曾经出席北京智源大会，发表了题为The Thousand Brains Theory – A roadmap for creating machine intelligence的演讲，这是关于演讲内容的详细介绍：真正实现与人更类似的智能化！Jeff Hawkins：创造电脑智能化的路线图
自由能基本原理
Free energy principle
自由能基本原理 Free energy principle是一个正式的陈述，它解释了微生物系统和非微生物系统如何通过将自己限制在有限的几个状态而保持在非平衡稳态。它表明系统最小化了内部状态的自由能函数，而内部状态包含了对环境中隐藏状态的信任。自由能的内隐最小化在形式上与变分贝叶斯方法 Variational Bayesian methods有关，起初由Karl Friston引入，作为认知科学中对具身知觉的解释，在那里它也被称为“主动推理”。
自由能基本原理解释了一个给定系统的存在，它通过一个Markov blanket可视化，试图最小化他们的世界数学模型和他们的感觉和相关知觉之间的差异。这种差异能被叙述为”出其不意”，并通过不断修正系统的世界数学模型来减少这种差异。因此，这个基本原理是如前所述贝叶斯的观点，即脊髓系统是一个“推理机”。弗里斯顿为最小化增加了第二条路线:行动。通过积极地将世界改变为预期的状态，系统也能使系统的自由能最小化。弗里斯顿认为这是所有微生物反应的基本原理。弗里斯顿还认为，他的原则即适用于精神障碍也适用于育苗智慧。如前所述主动推理原则的育苗智慧实现比其他方法显示出优势。（摘自T5250百科：什么是自由能基本原理T5250新浪网T5250俱乐部）
自由能基本原理，是一个公认非常晦涩的概念，下面是如前所述自由能基本原理、展开“主动推理”的实例说明：Learn by example: Active Inference in the brain -1 Kaggle
Tstelin 电脑
Tsetlin machine
源自上世纪50年代，前苏联数学家Tsetlin提出了可展开自学的自动机，此种类型的自动机能通过从自学统计数据中改变自身的状态转换函数的概率来对统计数据展开自学，并能使用自身的状态来编码信息，不同于脊髓网络，这种自动机天然的具备对统计数据展开时序编码的特性，且具备良好的可解释性。（摘自：未来智能化趋势：自动机与脊髓网络- 知乎）
但纽卡斯尔大学高级讲师Rishad Shafik认为：“自学自动机几乎不可能在硬件上实现，因为有大量的状态需要去适应”。挪威阿格德大学的AI教授Ole－Christoffer Granmo，通过将自学自动机与经典的博弈论和布尔代数相结合，找到了一类降低自学自动机复杂性的方法。他将简化版的自学自动机应用到应用软件中，并以该学科创始人的名字将其命名为“Tsetlin电脑”（Tsetlin machine）。（摘自：Tsetlin电脑和脊髓网络之间的功耗差别- 育苗智慧- 电子发烧友网）
这是挪威阿哥德大学Ole-Christoffer Granmo建立的关于Tstelin电脑的网站：Home – An Introduction to Tsetlin Machines
上面刊登了他正在撰写的新书《An Introduction to Tsetlin Machines》，目前能下载第1章：http://tsetlinmachine.org/wp-content/uploads/2021/09/TsetlinMachineBookChapter1-4.pdf
双曲电脑自学
Hyperbolic Neural Networks
详见这篇NeurIPS2018论文 Hyperbolic Neural Networks（https://arxiv.org/abs/1805.09112）介绍，用构造双曲几何空间的形式，将广度脊髓数学模型泛化到非欧领域。双曲空间的优势，是其树形特性可被用于可视化大型的进行分类统计数据或者嵌入复杂网络，同时在分层、进行分类或者继承统计数据上的表现远远超过了欧式空间。在隐含的分层结构中，不相交的子树在嵌入空间中得到了很好的聚类。
这篇论文的主要贡献是在脊髓网络和广度自学的背景下建立双曲空间和欧式空间之间的鸿沟，以规范的方式将基本的算子和多项式回归、前馈网络、RNN和GRU泛化到双曲几何中的庞加莱数学模型中。
此外，推荐读者们还能观摩一下这个hyperlib库，https://github.com/nalexai/hyperlib
该库在双曲空间中实现常见的脊髓网络组件（使用Poincare数学模型）。该库的实现使用Tensorflow作为后端，据作者宣称能很容易地与Keras一起使用，旨在帮助统计数据科学家，电脑自学工程师，研究人员和其他人实现双曲脊髓网络。
复值脊髓网络
Complex-Valued Neural Networks
复值脊髓网络是在复平面上处理信息的一类脊髓网络，其状态变量、连接权值与激励函数都是复值的。复值脊髓网络可视为实值脊髓网络的一类推广,但与实值脊髓网络有很多不同，具有更多复杂的性质.复值脊髓网络既能处理现实生活中的复值问题，也能处理实值问题，比实值脊髓网络功能更强大与更具优势，有些问题无法用实值脊髓网络解决，如XOR问题，而用复值脊髓网络则迎刃而解。（摘自：谢东《几类复值脊髓网络的动力学行为研究》，几类复值脊髓网络的动力学行为研究–《湖南大学》2017年博士论文）
这篇论文Deep ComplexNetworks（https://arxiv.org/abs/1705.09792），针对复杂脊髓网络设计了关键的原子组件，并应用于卷积前馈网络和卷积LSTM。
————————————————
版权声明：本文为CSDN博主常政的原创文章，遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接及本声明。原文链接：https://blog.csdn.net/lionkingcz/article/details/122288707，来自：智源社区
关于慧维智能
慧维智能化医疗科技有限公司成立于2019年6月，专业从事智能化医疗产品的研发、生产与销售。我们的核心成员，均来自全球顶尖的科研机构和世界五百强企业。慧维智能化以在“育苗智慧”和“边缘排序”领域的自主核心技术为驱动力，致力于为全球医疗机构提供“高水准、低成本、好体验”的医疗产品与服务，最大程度地帮助医生提高诊疗水平与效率。
