本文主要是介绍Talk|北京理工大学陈焕然:损失函数景观与泛化性的关系,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!
本期为TechBeat人工智能社区第573期线上Talk。
北京时间2月22日(周四)20:00,北京理工大学本科生—陈焕然的Talk已准时在TechBeat人工智能社区开播!
他与大家分享的主题是: “损失函数景观与泛化性的关系”,系统地介绍了他们在发现loss landscape closeness也和泛化性强相关等相关工作所做的研究。
Talk·信息
▼
主题:损失函数景观与泛化性的关系
嘉宾:北京理工大学本科生 陈焕然
时间:北京时间 2月22日(周四)20:00
地点:TechBeat人工智能社区
点击下方链接,即可观看视频!
TechBeatTechBeat是荟聚全球华人AI精英的成长社区,每周上新来自顶尖大厂、明星创业公司、国际顶级高校相关专业在读博士的最新研究工作。我们希望为AI人才打造更专业的服务和体验,加速并陪伴其成长。https://www.techbeat.net/talk-info?id=850
Talk·介绍
▼
之前我们已经了解到loss landscape的平坦性与泛化性强相关。那么,除了平坦性外,还有什么性质和泛化性有关呢?在这篇工作中,我们发现loss landscape closeness也和泛化性强相关。我们证明了对于任何一个有方差的分布,通过优化closeness,都可以bound住泛化误差。
Talk大纲
1、flatness and generalization
2、discovery of closeness
3、theoretical understanding of closeness and generalization
4、methodology
5、application
Talk·预习资料
▼
论文链接:
https://openreview.net/pdf?id=AcJrSoArlh
论文链接:
https://arxiv.org/abs/2309.11751
论文链接:
https://arxiv.org/abs/2209.08473
论文链接:
https://openaccess.thecvf.com/content/CVPR2023/html/Huang_T-SEA_Transfer-Based_Self-Ensemble_Attack_on_Object_Detection_CVPR_2023_paper.html
论文链接:
https://arxiv.org/abs/2308.10743
Talk·提问交流
▼
在Talk界面下的【交流区】参与互动!留下你的打call🤟和问题🙋,和更多小伙伴们共同讨论,被讲者直接翻牌解答!
你的每一次贡献,我们都会给予你相应的i豆积分,还会有惊喜奖励哦!
Talk·嘉宾介绍
▼
陈焕然
北京理工大学·本科生
陈焕然是北京理工大学三年级本科生在读,主要研究方向为diffusion model, adversarial robustness。在CVPR, ICLR,IJCAI等国际会议上发表论文5篇。提出的CWA攻击可攻破GPT-4,Bard等商用大模型。同时提出了diffusion classifier,即使用一个现成的diffusion model进行鲁棒分类。
个人主页: https://www.techbeat.net/grzytrkj?id=24692
关于TechBeat人工智能社区
▼
TechBeat(www.techbeat.net)隶属于将门创投,是一个荟聚全球华人AI精英的成长社区。
我们希望为AI人才打造更专业的服务和体验,加速并陪伴其学习成长。
期待这里可以成为你学习AI前沿知识的高地,分享自己最新工作的沃土,在AI进阶之路上的升级打怪的根据地!
更多详细介绍>>TechBeat,一个荟聚全球华人AI精英的学习成长社区
这篇关于Talk|北京理工大学陈焕然:损失函数景观与泛化性的关系的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!