网络系统论文提纲

2022-11-15

论文题目：面向复杂网络系统的去中心化协作学习算法研究

摘要：去中心化协作学习,通过多个参与者独立的训练学习模型,以点对点的方式在网络中进行通信以达到训练网络共享模型的目的,正在成为解决数据稀缺性问题的新趋势。同时,随着人工智能以及通信技术的发展,去中心化协作学习已经广泛的应用于多个领域,如物联网（IoT）、边缘计算、社会网络等。然而,网络系统较为复杂,去中心化协作学习算法设计面临着极大的挑战。例如,网络中的节点处于不停的变动之中,无法期待网络停止的一刻;网络规模不断增大,节点之间的通信更加频繁;网络中的节点可能发生拜占庭错误或者有恶意节点的存在;网络中带宽受限,节点之间的通信十分有限;同时,尽管在通信过程中不需要原始数据共享以及没有中央节点协调全局训练,但是节点之间的频繁通信仍然不可避免地造成隐私的泄露。因此针对复杂的网络系统,设计高效的、高鲁棒性的去中心化协作学习算法成为了亟待解决的问题。基于以上复杂网络系统模型,本文的主要贡献可以归纳为以下三方面:（1）针对存在拜占庭节点的多跳动态网络,本文设计了一种高效的分布式均匀采样算法。该算法基于Metropolis-Hastings随机游走（MHRW）,通过平衡不同节点之间连通情况不一致带来的偏差,实现均匀采样。该算法仅需要轻量级的时间和通信开销,是大规模动态网络算法设计的重要工具。（2）针对强化学习任务,本文在网络中存在不完全信息甚至是伪造信息的前提下进行学习,网络中的个体需要从给定的具有未知随机质量的选项中选择一个回报最大的选项,通过个体之间的通信协作,最终选择最优选项。通过设计三阶段学习（抽样、选取、采纳）算法,有效的减少个体之间的通信,在保证与基于全信息的算法收敛性一致的前提下,保持轻量级的通信和时间复杂度。（3）针对机器学习任务,本文设计一种基于差分隐私的动态去中心化并行随机梯度下降算法（D-（DP）2SGD）,该算法保护了学习过程中的数据传输。经过严谨的分析,证明了算法D-（DP）2SGD满足ε-差分隐私,同时相对于集中式学习,该算法将收敛率从O（1/（?））降低到O（1/（?））。本文提出的去中心化协作学习算法,适用于存在恶意节点、网络通信受限的大规模动态网络,并实现最优收敛速率,而且可以广泛应用于物联网、边缘计算、社会网络等领域。

关键词：复杂网络系统;去中心化协作机器学习;去中心化协作强化学习;

学科专业：计算机科学与技术

中文摘要

abstract

第1章绪论

§1.1 研究背景、目的和意义

§1.2 国内外研究现状

§1.3 本文的主要贡献及章节安排

第2章基于随机游走的去中心化均匀抽样算法

§2.1 引言

§2.2 模型及问题

§3.3 预备知识