[ABI Team Seminar] Emanuele Rodolà: Model Merging - What, Why, and How
イベント説明
This talk will be held in a hybrid format, both in person at AIP Open Space of RIKEN AIP (Nihonbashi office) and online by Zoom. AIP Open Space: *only available to AIP researchers.
DATE, TIME & LOCATION
Friday May 9th, 11:30 - 13:30, RIKEN AIP Nihombashi Office, Open Space
TITLE
Model Merging - What, Why, and How
BIO
Emanuele Rodolà is a Full Professor of Computer Science at Sapienza University of Rome, where he leads the GLADIA AI group. His work in this field is supported by an ERC grant, a FIS grant, and a Google Research Award. In the past, he was a postdoctoral researcher at USI Lugano (2016–2017), an Alexander von Humboldt Fellow at TU Munich (2013–2016), and a JSPS Research Fellow at the University of Tokyo (2013), in addition to visiting periods at Tel Aviv University, Technion, École Polytechnique, and Stanford. He is a fellow of ELLIS and the only Italian AI researcher to be a fellow of the Young Academy of Europe. Professor Rodolà has received numerous awards for his research and plays an active role in the academic community, serving on program committees and as Area Chair for major conferences in AI and ML. His current research focuses primarily on neural model fusion, representation learning, ML for audio and music, and multimodal learning, with around 170 publications in these areas. His work has been featured in media outlets including Fortune, Wired, Italian national broadcast and newspapers.
ABSTRACT
In this talk, I will introduce the emerging field of model merging — the process of combining multiple neural networks into a single model without retraining. We'll begin with foundational concepts such as linear mode connectivity and task vectors, and explore two main settings: (1) merging models trained from scratch on the same task but with different initializations, and (2) merging models finetuned on different tasks from a shared pretrained base. I will then present a series of recent works of mine that expand the model merging toolkit. These include the use of cycle consistency in permutation-based merging, insights into how task vectors relate to gradients, SVD-based approaches for low-rank model combination, and the application of evolutionary algorithms to discover optimal merging coefficients. Throughout, we'll see how these techniques can be applied in real-world scenarios, from model compression in Computer Vision to state-of-the-art synthesis of LLMs for low-resource languages.
Join Zoom Meeting
https://riken-jp.zoom.us/j/93926004117?pwd=6mRDojOulf4N3RT040YswohR3x4INT.1
Meeting ID: 939 2600 4117
Passcode: duTtPsJ4Q3
開催日
2025年5月9日11:30 ~ 2025年5月9日13:30
主催者・問い合わせ先
RIKEN AIP Public
開催場所
項目 | 内容 |
---|---|
場所 | 名称未設定 |
住所 | Nihombashi RIKEN AIP Openspace |
開催場所の地図
SNS・Bookmark
近隣のイベント
- 2025年6月27日 - 【現地参加】教育WG、Generative AI Study Group (GASG) 2025年度WG活動説明会(AITeC Salon)
- 2025年6月27日 - 経営層・管理職必見!今さら聞けないサイバーリスクの実態と脅威、その対策とは?
- 2025年6月26日 - Fun with English - もっと英語で話そう!(オンライン参加のみ)
- 2025年6月26日 - 【東京|初心者歓迎】AIと一緒にWebアプリを作ってみよう!〜ゼロから始める!AI × プログラミング体験〜【第二回】
- 2025年6月24日 - 不動産テック協会総会開催記念セミナー
- 2025年6月23日 - 永田町Pythonミニキャンプ【5日連続リスキリング研修】
- 2025年6月22日 - [秋葉原] テーマ自由もくもく会 (初参加・初心者大歓迎!)
- 2025年6月22日 - 昼:中国語会話テーブル(オンライン&会場参加)
- 2025年6月22日 - 【猛暑対策】ピーエスエス皇居健康ランニング令和7年6月22日大会
近隣の場所 (直線距離)
- 新宿近郊のレンタルスペース(調整中) (6.6km)
- 東京会場 IREM JAPAN セミナールーム (5.9km)
- IZAKAYA BAR おためし屋 (6.6km)
- レッドハット株式会社 (7km)
- Tokyo Innovation Base (1km)
- 東京ミッドタウン六本木 ミッドタウンホールB (4.3km)
- ウェンディーズ・ファーストキッチン 池袋北口店 (8km)
- LINEヤフー株式会社セミナールーム (3.4km)
- LINEヤフー株式会社 DINING (3.4km)
- Natuluck茅場町 新館 4階 会議室 (348m)
- 文化総合センター大和田(学習室・アリーナ) 学習室6(工作室) (7.3km)
- プライム・ストラテジー株式会社 (3.1km)
- リアクタージャパン (6.7km)
- 東京都立産業貿易センター 浜松町館 第2会議室B (3.1km)
- お申し込みされた方にお知らせします (1.4km)
- ワテラス コモン ホール (1.8km)
- IZAKAYA BAR おためし屋 (6.6km)
- 焼肉 鳴尾.b(なるおべー) 牛赤身肉研究所 (9.5km)
- 表参道キックボクシングパーソナルスタジオ (6.1km)