Mufan Li (Princeton) 氏による講演 [Deep Learning Theory Team Seminar]
イベント説明
Speaker: Mufan Li (Princeton)
Title: The Proportional Scaling Limit of Neural Networks
Abstract: Recent advances in deep learning performance have all relied on scaling up the number of parameters within neural networks, consequently making asymptotic scaling limits a compelling approach to theoretical analysis. In this talk, we explore the proportional infinite-depth-and-width limit, where the role of depth can be adequately studied, and the limit remains a great model of finite size networks. At initialization, we characterize the limiting distribution of the network via a stochastic differential equation (SDE) for the feature covariance matrix. Furthermore, in the linear network setting, we can also characterize the spectrum of the covariance matrix in the large data limit via a geometric variant of Dyson Brownian motions. Finally, we will briefly discuss ongoing work towards analyzing training dynamics.
(ハイブリッド開催用のzoom URLは講演開始直前に連絡します)
開催日
2025年5月20日14:00 ~ 2025年5月20日15:00
主催者・問い合わせ先
RIKEN AIP Public
開催場所
項目 | 内容 |
---|---|
場所 | 522号室 |
住所 | 〒113-8654 東京都文京区本郷7丁目3-1東京大学工学部14号館522号室 |
開催場所の地図
SNS・Bookmark
近隣のイベント
- 2025年10月31日 - KaliLinuxによるサイバーセキュリティ応用
- 2025年10月30日 - Webガバナンス研修(オフライン)
- 2025年10月30日 - KaliLinuxによるサイバーセキュリティ入門
- 2025年10月29日 - ⚠️10月は第5水曜⚠️第4金曜日開催 オンライン/リアル【IT・ブログ・WordPress・Chat-GPT】グループレッスン
- 2025年10月29日 - Wiresharkによる無線LAN解析セミナ
- 2025年10月28日 - 【GVAビジネス交流会】 金融・士業・不動産業界 名刺交換会
- 2025年10月28日 - 【リアル開催】モダナイゼーション フォーラム 2025 ~次世代ITにおけるレガシー資産の価値と進化~
- 2025年10月28日 - Wiresharkによるパケットキャプチャとトレンド分析応用
- 2025年10月27日 - 【会場開催】JJUGナイトセミナー「Jakarta EEの始め方と新機能」10/27(月) 開催
近隣の場所 (直線距離)
- 新宿近郊のレンタルスペース(調整中) (5.6km)
- IZAKAYA BAR おためし屋 (3.1km)
- レッドハット株式会社 (8.6km)
- Tokyo Innovation Base (4km)
- 東京ミッドタウン六本木 ミッドタウンホールB (5.9km)
- ウェンディーズ・ファーストキッチン 池袋北口店 (5.1km)
- LINEヤフー株式会社セミナールーム (4.2km)
- LINEヤフー株式会社 DINING (4.2km)
- Natuluck茅場町 新館 4階 会議室 (3.7km)
- 文化総合センター大和田(学習室・アリーナ) 学習室6(工作室) (8.4km)
- プライム・ストラテジー株式会社 (3.3km)
- 東京都立産業貿易センター 浜松町館 第2会議室B (6.2km)
- お申し込みされた方にお知らせします (4.4km)
- ワテラス コモン ホール (1.7km)
- IZAKAYA BAR おためし屋 (3.1km)
- 表参道キックボクシングパーソナルスタジオ (7.1km)
- DeloitteTohmatsu InnovationPark (3.8km)
- Nihonbashi AIP Center Open Space (3.4km)
- オーナーズエージェント株式会社 (6.7km)