KAN2.0来了:符号+连接双驱动下的AI4S

2024-08-22 14:20
文章标签 连接 驱动 符号 ai4s kan2.0

本文主要是介绍KAN2.0来了:符号+连接双驱动下的AI4S,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

看吧~在经历了今年4月末KAN发布之初带给业界的惊艳,再到学术与产业间的各种争鸣甚至最后演变成了某种学术诚信上的“诋毁”,“KAN”团队仍保持初心,终迎来了KAN 2.0。

b5f42cb898894cf78911362496b74749.jpg

记得当初自己在某号/某乎/某薯上也发表或记录或解答了关于KAN的一些观点、想法和问题,并与一作小帅哥也产生了些许互动和碰撞,但着实也遇到一些不是很纯粹的“comment”..呃.我呢也都该怼怼过..但有的怼有收获,有的怼就是一种无意义的消耗和浪费了~喜欢看热闹的伙伴也可以访问之前历史笔记或文章,也许会有意外发现哈哈~

2e4dd56671ef41e684736e004c8b2854.jpg

在粗读了这篇KAN 2.0之后,整体感觉相比1.0在所谓的符号化层面的“精雕”上更近了一步,在将符号化与神经网络的链接上也更多元和巧妙~

6548e059470c47dfbcd29d73aab5780b.jpg

包括在“AI4S”上以「好奇心驱动的科学」的洞察视角上尝试将符号化本身进一步的拆解、表征甚至是“符号化”(读起来有点绕..),然后再与KAN网络优雅的集成起来。如文中作者探讨了三种将领域知识整合到KAN中的归纳偏置,从最粗略(最简单/相关性)到最精细(最困难/因果关系):重要特征、模块化结构和符号公式。

同时,本篇论文KAN 2.0在原始KAN 1.0网络的基础上,引入了一种称为MultKAN的新模型,其核心改进是引入额外的乘法层进行增强,侧面的将Kolmogorov-Arnold表示定理提出的“任何连续高维函数都可以分解为单变量连续函数和加法的有限组合“扩展到了在科学和日常生活中的普遍存在的“乘法”上,更清楚地揭示了数据中的乘法结构,以期增强可解释性和表达能力。(当然这背后一定包含了更进一步的理论证明)

除此之外,文中除了进行原理层面的说明,论文还讲解了多个AI4S具体案例,如何将KAN融入到现实的科学研究中,比如发现新的物理概念和定律。包括:守恒量、拉格朗日量、隐藏对称性和本构方程等…

ac8062a2088d4383b6753ad3bdfdde28.jpg

鉴于这篇文章包含的信息量和数学理论背景较复杂,且仅通过一篇笔记和记录就草草了事也是不能够的,后续将分几篇来分别给大家带来分析和观点分享,望大家持续关注~

最后再说一下回归第一性原理的自总结:KAN采用了一种巧妙而优雅的方法将抽象的符号化表征思想带入到神经网络中,从而实现了符号主义与连接主义的某种平衡~ 

不同于以往MLP的简单粗暴,甚至与火极一时并在AIGC大行其道的《The bitter lesson》或「scaling law」在思想上大相径庭。

 

这篇关于KAN2.0来了:符号+连接双驱动下的AI4S的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1096517

相关文章

MySQL中的交叉连接、自然连接和内连接查询详解

《MySQL中的交叉连接、自然连接和内连接查询详解》:本文主要介绍MySQL中的交叉连接、自然连接和内连接查询,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录一、引入二、交php叉连接(cross join)三、自然连接(naturalandroid join)四

python连接本地SQL server详细图文教程

《python连接本地SQLserver详细图文教程》在数据分析领域,经常需要从数据库中获取数据进行分析和处理,下面:本文主要介绍python连接本地SQLserver的相关资料,文中通过代码... 目录一.设置本地账号1.新建用户2.开启双重验证3,开启TCP/IP本地服务二js.python连接实例1.

Ubuntu中远程连接Mysql数据库的详细图文教程

《Ubuntu中远程连接Mysql数据库的详细图文教程》Ubuntu是一个以桌面应用为主的Linux发行版操作系统,这篇文章主要为大家详细介绍了Ubuntu中远程连接Mysql数据库的详细图文教程,有... 目录1、版本2、检查有没有mysql2.1 查询是否安装了Mysql包2.2 查看Mysql版本2.

Python3.6连接MySQL的详细步骤

《Python3.6连接MySQL的详细步骤》在现代Web开发和数据处理中,Python与数据库的交互是必不可少的一部分,MySQL作为最流行的开源关系型数据库管理系统之一,与Python的结合可以实... 目录环境准备安装python 3.6安装mysql安装pymysql库连接到MySQL建立连接执行S

Spring Boot 整合 MyBatis 连接数据库及常见问题

《SpringBoot整合MyBatis连接数据库及常见问题》MyBatis是一个优秀的持久层框架,支持定制化SQL、存储过程以及高级映射,下面详细介绍如何在SpringBoot项目中整合My... 目录一、基本配置1. 添加依赖2. 配置数据库连接二、项目结构三、核心组件实现(示例)1. 实体类2. Ma

电脑win32spl.dll文件丢失咋办? win32spl.dll丢失无法连接打印机修复技巧

《电脑win32spl.dll文件丢失咋办?win32spl.dll丢失无法连接打印机修复技巧》电脑突然提示win32spl.dll文件丢失,打印机死活连不上,今天就来给大家详细讲解一下这个问题的解... 不知道大家在使用电脑的时候是否遇到过关于win32spl.dll文件丢失的问题,win32spl.dl

Windows Server服务器上配置FileZilla后,FTP连接不上?

《WindowsServer服务器上配置FileZilla后,FTP连接不上?》WindowsServer服务器上配置FileZilla后,FTP连接错误和操作超时的问题,应该如何解决?首先,通过... 目录在Windohttp://www.chinasem.cnws防火墙开启的情况下,遇到的错误如下:无法与

IDEA连接达梦数据库的详细配置指南

《IDEA连接达梦数据库的详细配置指南》达梦数据库(DMDatabase)作为国产关系型数据库的代表,广泛应用于企业级系统开发,本文将详细介绍如何在IntelliJIDEA中配置并连接达梦数据库,助力... 目录准备工作1. 下载达梦JDBC驱动配置步骤1. 将驱动添加到IDEA2. 创建数据库连接连接参数

pycharm远程连接服务器运行pytorch的过程详解

《pycharm远程连接服务器运行pytorch的过程详解》:本文主要介绍在Linux环境下使用Anaconda管理不同版本的Python环境,并通过PyCharm远程连接服务器来运行PyTorc... 目录linux部署pytorch背景介绍Anaconda安装Linux安装pytorch虚拟环境安装cu

Nginx设置连接超时并进行测试的方法步骤

《Nginx设置连接超时并进行测试的方法步骤》在高并发场景下,如果客户端与服务器的连接长时间未响应,会占用大量的系统资源,影响其他正常请求的处理效率,为了解决这个问题,可以通过设置Nginx的连接... 目录设置连接超时目的操作步骤测试连接超时测试方法:总结:设置连接超时目的设置客户端与服务器之间的连接