雨白的随笔
2024/3/10
希望十年之后,二十年之后,你或许不再记得我的名字,但是当听人提起或偶然翻到有我的照片时,还是会对他人说起:“啊,我对他有点印象,我记得他以前是个很能说笑的人呢。”
2024/4/1
在还没有忘记彼此的未来与过去的岁月,我们喝醉了,彼此搀扶着,摇摇晃晃地在家乡的小路上对着马路尽头的湛蓝夜空说着胡话。很多话语都随着晚风遗忘在夜里,但只有一句话彼此都不会忘却:我们的黎明就在前方。
life is beautiful。
2024/4/10
在上海暗橘色的光污染气氛下根本看不到这样的天空。只有回到家才能见到这般浪漫的黎明和星光,或从矿山上俯瞰霞光中呼吸着的城市。
上海的天亮的太早,暗的也太早;不知道何时已经天亮,六点多就已看不清路。在尚未遥远的过去,我可以看着硕大的太阳从马路尽头完整地升起,又在滞后的夜晚沉下祁连山。
2024/4/15
我们总是这样:为了分离而相遇,为了重逢而道别。
本想出来转转,没有好朋友在身边实在是倍感无趣,转了五分钟就坐地铁回去了。都市的高楼像一座座通天的墓碑,光线的外表下满是泥泞。
甚至不如故乡冬天,从来没有门票的稀疏破败的 ...
统一回复贴!
由于目前懒得作邮箱提醒,所以如果您要在某些帖子发评论的话我可能受不到,所以单独拎出来这个文章作为评论回复用!!
Ameshiro的像素RPG小仓库!
借着搭好博客的契机,悄咪咪宣传一波自己古早时期做的简陋粗糙的像素rpg(
生命线
这是我2020年高三网课那段日子里闲得无聊做的,那时是第一次接触rpgmaker,因为那两年接触像素rpg之后就喜欢上了这种类型风格的游戏,也想自己制作一个出来。这个游戏是我第一部作品,做的很粗糙但也很有成就感,共三个ending,顺便一提游戏文件夹藏着攻略哦~
链接:https://pan.baidu.com/s/1cfOuezb0D3Vwoco4yEP59Q 提取码:t9gp
当初做这游戏的时候大晚上想剧情,测试,自己把自己吓得不轻233,不过游戏并没有jump
scare,基本是微恐怖~
橙旅
为了给我最喜欢的p主——orangestar庆祝生日,特意做了这部作品,当初本来是做给orangestar粉丝群的大家玩的,角色也是取自各位群友,但这么久过去了也该分享出来啦~
链接:https://pan.baidu.com/s/1GcmoEA6ostK_3qGxPBo5sA 提取码:1gfc
这是我第二部作品,结局是五个,同样的文件夹里藏着攻 ...
最新论文阅读:基于梯度优化的面向高效客户端选择的生成式框架
IJCAI-24,[2405.06312]
FedGCS: A Generative Framework for Efficient Client Selection in
Federated Learning via Gradient-based Optimization。
摘要
考虑问题:异构性、高能耗。因此,需要高效的客户端选择策略。传统方法的启发式方法和基于学习的方法,无法全面解决这些复杂问题。因此本文提出FedGCS,一种创新的生成式客户端选择框架,首次将客户端选择过程重新定义为一个生成任务(其实在最早说的那篇ASP选择任务里也是生成任务,只不过嵌入到了强化学习框架里;本文认为强化学习有效但没有考虑模型性能、延迟等方面)。FedGCS
受大语言模型方法的启发,通过构建连续表示空间,有效地编码了丰富的决策知识,并利用基于梯度的优化方法搜索最优的客户端选择方案,最终通过生成输出最佳结果。
该框架包括以下四个步骤:1.自动化数据收集:利用经典的客户端选择方法自动收集多样化的“选择-评分”数据对;2.训练编码器-评估器-解码器框架:基于上述数据构建连续表示空间;3. ...
论文阅读-针对异构、长尾数据的CLIP引导的FL
[2312.08648] CLIP-guided
Federated Learning on Heterogeneous and Long-Tailed
Data,AAAI-24。
摘要
本文考虑的是图像分类任务。本文考虑的问题是:FL的挑战除了用户异质性,还有类别数目不均衡(也就是长尾问题,研究异质性多但是长尾的比较少)。由于CLIP在这种few/zero
shot的任务上有成功的经验,于是作者就用CLIP来优化联邦学习。
具体来说,对于客户端的学习,是通过知识蒸馏使客户端模型与CLIP对齐,以提升客户端特征表示的能力。对于服务端,则根据客户端的梯度生成联邦特征来重训服务器模型。
简介
论文是在一个叫CReFF的工作基础上做的,引入了CLIP做语义监督。主要是考虑了两个问题和解法。1.如何利用CLIP提升客户端模型的特征表示能力?方法:CLIP当做教师,客户端当做教师,用知识蒸馏的思想传递知识来提高表示能力。2.如何利用CLIP缓解服务器模型的异质性和长尾问题?方法:在CLIP的语义监督下,通过客户端梯度生成联邦特征,使这些特征尽可能避免异质性和类别 ...
论文阅读-面向分布式卫星边缘网络、基于DRL的leader联邦学习优化
2024,Leader
Federated Learning Optimization Using Deep Reinforcement Learning for
Distributed Satellite Edge Intelligence | IEEE Journals & Magazine |
IEEE Xplore
摘要
将AI融入低轨道卫星(LEO)的卫星移动边缘计算系统,就构成了卫星边缘智能(SEI)。这种智能系统是实现由海量数据驱动的空间任务自主处理的有力途径;但是单个卫星的话资源受限和样本不足,学习效率低;大规模LEO网络的时空约束又使得协作训练变得困难。
为此,本文提出了一种用于分布式SEI的领导者联邦学习(Leader
FL)架构,称为SELFL。通过评估动态的constellation的连接性和负载情况,共享AI模型的全局和局部参数可以基于已建立的星间链路,在选定的领导卫星与其他跟随卫星之间持续传输和更新,从而实现SELFL独立于地面的高效自我演化。(就是卫星自己玩自己的,跟地面基站无关了)
此外,本文为SELFL引入了 ...
论文阅读-多接入AIoT中面向GAI服务的基于动态量化的安全联邦扩散模型
Securing
Federated Diffusion Model With Dynamic Quantization for Generative AI
Services in Multiple-Access Artificial Intelligence of Things | IEEE
Journals & Magazine | IEEE Xplore。2024.7.
这篇论文主要考虑了联邦扩散模型下的隐私保护和通信开销,并于另一篇FedDiff做实验对比:FedDiff:
Diffusion Model Driven Federated Learning for Multi-Modal and
Multi-Clients | IEEE Journals & Magazine | IEEE Xplore;2024.5.
这些联邦扩散模型论文基本都是2024左右开始的。不过这些论文做实验直接拿多块GPU当下面的client的,看看思路就行了^
摘要
AIGC的应用标志着从IoT向人工智能物联网(AIoT)演进的重要进步。考虑到AIoT ...
论文阅读-6G卫星高效联邦学习-基于DRL的多目标优化
Efficient
Federated Learning in 6G-Satellite Systems: Deep Reinforcement Learning
Based Multi-Objective Optimization | IEEE Conference Publication | IEEE
Xplore
摘要
基于无线的FL作为新兴的分布式学习方法,在6G系统中被广泛研究。当这一范式从地面网络转移到非地面网络,就会有更多挑战:例如LEO卫星服务时间有限、需要高效的上传和聚合时间。本文中,作者利用了LEO广泛的接入能力和FL的隐私保护和协作学习能力。与大多数FL工作不同,本文从多目标优化(MOO)的角度同时提高了通信训练效率和局部训练精度。为此,作者提出了一种基于分解、DRL和迁移学习的FL
MOO算法DRT-FL,旨在动态适应星地环境,实现高效上传聚合,并逼近pareto最优集合(多目标优化问题上的帕累托最优)。
简介
以往基于无线通信的FL研究主要集中在覆盖范围有限的地面系统中,这些研究未能充分展示FL整合边缘设备碎片化计算资源的潜力。当6 ...
论文阅读-IoT中基于多源异构设备的联邦生成式模型
Federated
Generative Model on Multi-Source Heterogeneous Data in IoT | Proceedings
of the AAAI Conference on Artificial Intelligence,2023年
摘要
现有的大多数工作都是集中实现生成式模型,引起安全性、隐私的问题并带来超额通信开销。少数工作考虑了当训练数据来自各异构设备时的分布式生成模型。本文中,为了解决这一问题,设计了一种联邦生成模型框架,可以在层级的IoT系统中学习到一个强大的生成器,可以在两种场多源异构数据场景中使用:特征相关的场景(特征形状类似)和标签相关的场景。此外,本文设计了一种同步和异步更新的方法来满足不同的应用需求。实验在一个模拟数据集和多个现实数据集上执行。
简介
生成模型带来的突破已迅速对多个领域产生了革命性影响,并在物联网(IoT)中的各类实际应用中广泛应用。在物联网环境中,各种设备相互连接,用于生成、收集、共享和处理异构数据,以推动数据驱动型应用的发展。
然而,目前大部分研究工作实现的是集中式生成模 ...
论文阅读-配备MEC的卫星6G网络中-混合集中-分布式学习
Hybrid
Centralized and Distributed Learning for MEC-Equipped Satellite 6G
Networks | IEEE Journals & Magazine | IEEE Xplore
摘要
对于未来的6G网络,需要维护全球连接、向许多地方提供应用、分析大量的数据等等。为此,人们应用卫星网络来到达距离网络核心很远的地方,也有研究调研为这些卫星配备边缘云服务器来为偏远设备提供计算卸载。然而,分析这些设备创造的大量数据是一个问题。可以把这些数据丢到中央服务器,但是传输代价非常高。也可以通过分布式ML方法处理数据,但这种方法又没有集中式方法有效。因此,本文分析了两种方法的代价,然后提出了一个混合式的方案(在一个配备了云服务器的卫星网络中)。本文方法可以为每个设备提供最好的学习策略,且对不同配置可以做出良好的动态反映。
简介
在未来的时代,最重要的是提供无处不在的连接,确保网络达到各种各样的地方。到达这些地方最好的解决方案之一是使用卫星网络。通过使用近地轨道卫星(LEO),该区域设备可以直接或通过使用 ...