优化网络:Nature人类行为:如何优化网络结构,最大程度发挥神经网络的认知潜力?

Nature人类行为:若何优化收集构造strong优化收集/strong,更大程度阐扬神经收集的认知潜力?

来自人体毗连组方案(Human Connectome Project),由Laboratory of Neural Imaging和Martinos Center for Biomedical Imaging供给手艺撑持优化收集。

导言

人工神经收集的设想模仿了生物神经收集,固然具备进修才能,但内部构造仍不明白优化收集。近期颁发在Nature Human Behaviour上的一项研究中,研究者通过比照尝试,发现大脑神经收集的一些特征(模块性、毗连性)也呈现在了人工的深度神经收集中,而且具有类似的调理体例。

概要

做者模仿人脑构建了一个深度神经收集模子;

在尝试(一)中优化收集,比照人脑毗连组方案搜集的认知和行为数据,该模子准确预测了476位尝试参与者的使命表示和行为特征;

在尝试(二)中研究了毗连枢纽的感化:协调社团间和社团内枢纽的毗连性优化收集,促进信息整合,加强总体模块性,进而进步认知表示;

因而,更优收集构造特征为:毗连枢纽普遍散布,模块化水平高优化收集。

人脑神经元的收集构造

在揭晓尝试内容之前,我们先要领会文中涉及的概念,从模块性和毗连性两方面权衡人脑神经元的收集构造优化收集。

模块构造普遍存在

现代神经科学之父拉蒙·卡哈尔曾指出神经元拓展分收的原则,就是用尽可能少的毗连来抵达收集中的其他细胞优化收集。削减细胞间连边会节约空间,以包容更多神经元,从而进步大脑的信息处置才能。天然选择使得神经元收集的连边成本趋于更低。近年来的多项尝试证明了那一点。

模块性(modularity),意味着相对独立的构造和功用,毗连的均匀长度和数量较小,毗连成本随之缩减优化收集。模块性受节点数,毗连数,节点间毗连的可能性和权重等因素影响。

收集模仿显示,模块构造撑持着收集的稳健演化,从头设置装备摆设节点间的毗连,无需牺牲信息加工的效率优化收集。人工智能范畴的研究也表白,与非模块化收集比拟,模块化收集的毗连成本较低,使命效率更高,进化速度更快。

因而,模块构造在天然界中普遍存在优化收集。脑的次要构造特征就是模块性,从大象到人类,皆是如斯,以降低新陈代谢。基因图谱也是模块化构造,机体因而可以快速演化、适应情况。

人脑毗连性的丈量

人脑由节点慎密毗连的许多社团构成优化收集。做者接纳信息地图社团检测算法(infomap community detection algorithm)和力-图(force-atlas algorithm)算法发现社团和枢纽,统一社团的节点颜色不异(详见表1)。

通过调整社团内和社团间的毗连强度,能够优化人脑的模块化收集构造,加强认知才能优化收集。

表1:局域性和多样性优化收集。

毗连性

局域性

(locality)

多样性

(diversity)

丈量

系数

社团内毗连强度(within community strength)

参与系数

(participation coefficient)

丈量

内容

节点连边在一社团内的相对强度

节点连边在所有社团的平均水平

枢纽

局域枢纽

(local hubs)

毗连枢纽

(connector hubs)

定义

社团内局域性最强的节点

社团间多样性最强的节点

图示

图1f中的紫点

图1e中的红点

连边

散布

次要在一社团内

平均散布在各社团

功用

专门的信息加工

综合的信息加工

影响

范畴

特定的认知功用优化收集,部分收集的模块性

遍及的认知功用优化收集,整体收集的模块性

活动

程度

不受认知使命涉及的社团数影响

随认知使命涉及的社团数进步

Nature人类行为:若何优化收集构造strong优化收集/strong,更大程度阐扬神经收集的认知潜力?

图1:模块收集中的社团和节点

尝试设想

深度神经收集模子

做者设想了一个深度神经收集模子,来表征输入特征(输入)和认知表示(输出)的非线性关系优化收集。与逻辑递归差别的是,深度神经收集模子的输入和输出层中间有多个隐藏层(hidden layers),每层有8个神经元,每个神经元控造一个特征,包罗节点的局域性和多样性、收集毗连性和模块性,通过调整相邻条理的神经元间毗连的权重,优化参与者在使命中的认知表示(图2)。

Nature人类行为:若何优化收集构造strong优化收集/strong,更大程度阐扬神经收集的认知潜力?

图2:深层神经收集的特征和建模优化收集。节点包罗输入节点(浅红),隐藏层节点(黑色),输出节点(白色)。节点间毗连分为负相关(蓝色),正相关(红色)。

数据搜集和阐发办法

同时,为了与人工神经收集比照,做者们还通过收集重构的办法探测了人脑的响应构造优化收集。做者利用功用磁共振成像(Functional magnetic resonance imaging,缩写fMRI)研究总体和部分的人脑毗连性形式。图3a通过血液中的氧气浓度揣测264个节点(即脑区)的神经活动。图3b展示了此中3个节点的时间序列,能够看出,中(蓝)下(紫)两折线的外形类似,因而蓝紫两节点间的功用毗连性较强(连边权重 = 0.90),在图3c顶用加粗实线暗示。

尝试接纳Pearson相关系数r和Bonferroni校正丈量预测表示和现实表示的相关度优化收集。

Nature人类行为:若何优化收集构造strong优化收集/strong,更大程度阐扬神经收集的认知潜力?

图3:通过fMRI丈量脑区的功用毗连性优化收集。

尝试(一):

毗连性与模块性配合影响认知和行为

接下来就进入到正式的尝试环节优化收集。文中共有两个尝试,尝试(一)讨论了认知使命表示的影响因素:枢纽毗连性和收集模块性,尝试(二)进一步研究了模块性和使命表示,毗连枢纽和模块性的关系。

数据来源:

人脑毗连组方案

人脑毗连组方案(Human Connectome Project)通过fMRI丈量了参与者(N = 476)的7种认知形态优化收集。做者拔取此中4种认知使命的数据,包罗工做记忆、关系使命、语言和数学,以及社会(心灵理论),记做使命表示(task performance measures)。

有效预测使命表示

做者发现,通过控造节点的多样性和局域性,连系收集的模块毗连性构造,在4个使命中,深度神经收集模子均能有效预测使命表示(经Bonferroni校正,p<.001,见图4)优化收集。

Nature人类行为:若何优化收集构造strong优化收集/strong,更大程度阐扬神经收集的认知潜力?

图4:4种认知使命的预测表示和现实表示的相关水平优化收集。认知使命包罗:工做记忆(左上蓝色),关系(右上绿色),语言和数学(左下粉色),社会(右下红色)。图中,横轴是模子的预测表示,纵轴是使命的现实表示,因为4个使命接纳了差别的度量办法,坐标轴的刻度范畴各不不异;点代表现实数据,线表示相关系数,暗影部门标明数据的95%置信区间(confidence intervel,缩写为CI)。以工做记忆为例,共有473个有效数据(点),此中95%的点散布在[0.468,0.597],连系拟合斜率表白:模子预测和现实表示强相关(r = 0.536)。

有效预测认知行为

除了通过fMRI丈量的使命表示,人脑毗连组方案还丈量了行为特征(subject measures)优化收集。当一特定收集构造在所有使命中的表示得都很好的时候,行为特征同样也会优良(积极的如满意水平和加工速度,消极的如睡眠欠安、沮丧和暴怒)(图5)。由此可得,收集毗连性模子可以遍及地预测行为和认知,不需要为特定的认知或行为过度拟合。

Nature人类行为:若何优化收集构造strong优化收集/strong,更大程度阐扬神经收集的认知潜力?

图5:使命表示和行为的特征相关度优化收集。使命表示和行为特征的相关水平越高(越接近+/-0.60),行为特征的文本颜色越深。此中,正相关为红色,负相关为蓝色。

尝试(二):

毗连枢纽的协调感化促进模块性和认知

领会节点毗连性和收集模块性对使命表示的影响,尝试(二)进而研究枢纽毗连性(多样性和局域性)和收集模块性之间的关系,出格是毗连枢纽(多样性)的调理感化优化收集。涉及的相关系数见表2。

表2:从多样性和局域性两方面看模块性和使命表示的相关度优化收集。

相关系数

多样性

局域性

模块性

多样性促进模块性系数

diversity facilitated modularity coefficient

局域性促进模块性系数

loaciliy facilitated modularity coefficient

使命表示

多样性促进表示系数

diversity facilitated performance coefficient

局域性促进表示系数

locality facilitated performance coefficient

枢纽毗连性

促进模块性和使命表示

由尝试(一)可知,毗连枢纽的多样性(参与系数)和局域枢纽的局域性(社团内毗连强度)越高,使命表示越好,即收集的认知功用越强优化收集。做者在尝试(二)发现,毗连枢纽和局域枢纽对使命表示的促进感化明显高于其他节点。收集的模块性随各节点的多样性(均匀参与系数)和局域性(社团内毗连强度)加强。因而,毗连枢纽和局域枢纽同时促进模块性和使命表示,多样性和局域性进步收集模块性时,对使命表示的促进感化也随之加强(图6e、图6f)。

Nature人类行为:若何优化收集构造strong优化收集/strong,更大程度阐扬神经收集的认知潜力?

图6:毗连枢纽和区域枢纽同时促进模块性和使命表示优化收集。认知使命包罗:工做记忆(蓝色),关系(绿色),语言和数学(粉色),社会(红色)。图中,横轴是毗连性(左:多样性;右:局域性)促进表示系数,纵轴是毗连性(左:多样性;右:局域性)促进模块性系数。识图办法见图6图注。

毗连枢纽的

协调感化进步收集模块性

确立了毗连性和模块性的关系,做者进一步发现,毗连枢纽通过协调社团间和社团内部的毗连性,进步了收集模块性优化收集。

起首,做者接纳节点到社团的分配,验证了毗连枢纽调整社团间的毗连性,使感知、运动和留意系统愈加别离,进步收集模块性(图7)优化收集。

Nature人类行为:若何优化收集构造strong优化收集/strong,更大程度阐扬神经收集的认知潜力?

图7:节点到社团的尺度分配在大脑皮层的剖解学定位优化收集。

其次,毗连枢纽间接协调临近节点(两节点间毗连密度为.15)的毗连性,使得临近节点与其他社群节点的连边嫁接到毗连枢纽上面,进步枢纽的多样性,进而协调其他社群节点,增加各社团内毗连,进步枢纽的局域性,使收集构造愈加模块化(图8)优化收集。

Nature人类行为:若何优化收集构造strong优化收集/strong,更大程度阐扬神经收集的认知潜力?

图8:毗连枢纽(红色)协调临近节点(浅红)使得收集构造发作变革优化收集。毗连枢纽上的数字代表了多样性,即外部毗连的平均水平。

结 论

从尝试(一)可知:毗连性连系模块性成立的深度神经收集模子可以准确预测认知和行为优化收集。从尝试(二)发现:模块性和认知强相关,因而加强模块性就能进步认知功用;进一步看毗连性,毗连枢纽的协调感化可以加强收集模块性。

整个过程如下:毗连枢纽协调临近节点,节点的局域性和多样性得到进步,促进部分的信息加工和信息整合,加强收集的模块性,进而促进人脑的认知功用,表示为神经活动活泼,使命表示进步,行为特征安康优化收集。

综上,毗连枢纽供给的模块化收集构造是多种认知和行为的更优解,因而,即便代谢成本较高,关于复杂的模块化神经收集,强健而散布普遍的毗连枢纽仍然是不成或缺的优化收集。

参考文献

Bertolero, M. A., Yeo, B. T. T., Bassett, D. S., & D’Esposito, M. (2018). A mechanistic model of connector hubs, modularity and cognition. Nature Human Behaviour. doi:10.1038/s41562-018-0420-6

做者:杨清怡

编纂:王怡蔺

打造最大的挖矿交流社区
SEO交流,纯交流无广告,SEO网站优化机器,小白变大神,期待你的加入!

标签: 优化网络

作者头像
admin创始人

打造最大的seo交流社区

上一篇:高级Web必备:网络优化,拿去镇住面试官:优化网络
下一篇:如何进行亚马逊关键词优化?市面上免费/收费优化关键词工具盘点:百度关键词优化工具

发表评论