第一届生物神经智能—神经网络与图神经网络研讨会（1）

神经符号系统-基本原理与案例分析

一、神经符号系统概述

符号主义和连接主义的基本维度：

注：分布表示即embedding

神经符号系统的研究现状：

研究路线图：

典型问题：

二、神经符号系统的新框架

一种新的神经符号系统框架(SRL-NS)

1. 正则化方法：
   
   
   
   核心问题:如何量化模型预测对知识的拟合程度?
2. 关系模型:一阶逻辑语言(FOL)
   
3. 统计关系模型:一阶逻辑＋图模型
   

三、神经符号系统的案例分析

案例分析：

案例1:视觉关系推理

问题定义：

模型定义(符号推理模块)：



模型定义(BPGR)：


神经变分优化：

推理解释：

案例2:电信网络智能运维

知识表示：

模型定义：

应用效果：

案例3:复杂系统智能建模
动力学模型的自适应学习：

基于神经符号系统的方程学习

ood问题：
genelization
adaption

面向大图学习的高效神经网络模型

一、研究背景：

二、相关解决方法：

1.基于采样的：

2.基于解耦的：

论文：


论文：

三、难点与挑战：

四、提出的解决方法：

整体框架：

论文

参考论文：

五、总结与展望：

时间序列数据的预测及应用

一、时间序列预测概述

时序预测：

一般情形：

应用场景：

主要挑战：

模型分类：



经典ARIMA模型：

模型分类整理：

RNN：

CNN：

MLP：

混合：

评价指标：

uploading-image-593014.png

二、时序预测前沿技术

近年来的时间序列预测相关技术
uploading-image-693778.png

RNN：

seq2seq:

RNN+时序预测：

Attention+时序预测：

GeoMAN模型:

Transformer模型:

Adversarial Sparse Transformer模型:

Transformer+时序预测:

Informer模型:长序列时间预测

扩张卷积神经网络(Dilated CNN)

时序卷积神经网络(Temporal Convoluticnal Network,TCN)

N-BEATS: FC Is All You Need

图神经网络(Graph Neural Network, GNN)

Transformer & Graph Neural Networks:

Boosting-- DSANet模型

BHT-ARIMA模型:短小时序预测

强化学习+时序预测

时间序列数据增强方法

数据库领域的时序预测

广告推荐领域的时序预测

交通出行领域的时序预测

气象领域的时序预测

电网的短期负荷预测

面向经济金融的时序预测

三、研究团队相关工作

DASFAA2016/CSoNet2018/TKDE2021

DEXA2018/TKDE2022

CIKM2017

CIKM2018

NeurlPS2019

ICSOC2016/TKDD2021

ICDM2017/TKDE2020

ICDM2018

KDD2019

ICDM2019/TKDE2021

ICWS2020

计算机学报2021

TKDD2019

ICSOC2020

ICSOC2021

DASFAA2022

SIGIR2022

总结：

基于图深度学习的行为数据分析

一、行为表示学习及其应用

数据特点：

实验设置：

深度画像(可解释性)

动态

二、群组行为发现及其应用

但监管场景下检测所有群组不必要

有线索的群组发现

基于结构定义的群组发现

半监督群组发现

群组行为发现应用:
市场操纵行为

新金融模式下的欺诈团伙发现

总结：

参考资料：
CAAI2022 | 5月14-15日天津大学第一届生物神经智能—神经网络与图神经网络研讨会