本文主要是介绍图神经网络和大模型相结合应用的最新综述,2024年最强开始,GNN和LLMs强强联合,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!
题目:《Large Language Models on Graphs: A Comprehensive Survey》
According to the relationship between graph and text, we categorize three LLM on graph scenarios. Depending on the role of LLM, we summarize three LLM-on-graph techniques.“LLM as Predictor” is where LLMs are responsible for predicting the final answer. “LLM as Aligner” will align the inputs-output pairs with those of GNNs. “LLMasEncoder”refers to using LLMs to encode and obtain feature vectors.
在文章中,对于图大致分为三类:
纯图(pure graphs),即图中主要以图结构为主,像交通图等;
文本配对图(text-paired graphs),即文本描述和图成对存在的图,像蛋白质序列、基因序列等;
富文本图(text-rich graphs),即富有文本特征的图,这些文本以节点和边属性的形式存在。
针对以上图分类:
大模型和图结合的方式主要有三种:
1.大模型作为预测器:将图的embedding和text的embedding都输入llm进行预测,图embedding的方式可以经过gnn的产出,也可以用其他方式。
2.大模型作为校准器:图经过gnn,text经过llm,然后对两部分的输出进行对齐或者校准。
3.大模型作为编码器:将text经过llm的输出和图一起输入gnn,llm相当于text的编码器。
(持续更新)
这篇关于图神经网络和大模型相结合应用的最新综述,2024年最强开始,GNN和LLMs强强联合的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!