[92nd TrustML Young Scientist Seminar] Talk by Huaxiu Yao (University of North Carolina at Chapel Hill) \\"Advancing Alignment in Multimodal Foundation Models\\"
イベント説明
Date and Time: April 21, 2025: 10:00 - 11:00 (JST)
Venue: Online and Open Space at the RIKEN AIP Nihonbashi office
Zoom Link: https://riken-jp.zoom.us/j/99837884718?pwd=e36oYPHkyIHuLw4IvXxhKqKcElGa6F.1
Meeting ID: 998 3788 4718
Passcode: Dw0w0UuD7C
*Open Space is available to AIP researchers only
Title: Advancing Alignment in Multimodal Foundation Models
Speaker: Huaxiu Yao (University of North Carolina at Chapel Hill)
Abstract: Multimodal foundation models have transformed artificial intelligence by enabling strong generalization across a wide range of tasks and domains. However, aligning these models with specific user preferences and goals remains a major challenge. While recent advances in preference optimization have improved alignment, they often depend on large amounts of high-quality labeled data—resources that are difficult to acquire in real-world settings. In this talk, I will discuss how we can address these limitations by developing reliable reward models and generating high-quality preference data to facilitate alignment in multimodal foundation models. I will begin by highlighting why alignment is essential for improving both model performance and trustworthiness. Then, I will delve into methods for curating and synthesizing high-quality preference data, and show how post-training and self-improvement strategies can further enhance alignment. Next, I will introduce approaches for achieving stronger alignment in complex multimodal retrieval and agentic scenarios. Finally, I will show concrete examples and outline key open research directions and the challenges that remain in scaling alignment techniques across diverse multimodal applications.
Bio: Huaxiu Yao is a tenure-track Assistant Professor in the Department of Computer Science, with a joint appointment in the School of Data Science and Society at the University of North Carolina at Chapel Hill. He was previously a Postdoctoral Scholar in Computer Science at Stanford University, where he worked with Chelsea Finn. His current research focuses on developing agentic, multimodal foundation models that are widely generalizable and well-aligned with human preferences. He is also committed to applying these methods to real-world data science challenges in domains such as robotics and biomedicine. Dr. Yao has authored over 70 publications in top machine learning venues, including ICML, ICLR, and NeurIPS, and has served as a (Senior) Area Chair and workshop organizer at conferences such as ICML, NeurIPS, ICLR, ACL, and EMNLP. His research has been recognized with several honors, including the TMLR Outstanding Paper Award, the KDD 2024 Best Paper Award, the Cisco Faculty Award, AAAI 2024 New Faculty Highlights, the PharmAlliance Early Career Researcher Award, and the UNC Junior Faculty Development Award.
開催日
2025年4月21日10:00 ~ 2025年4月21日11:00
主催者・問い合わせ先
RIKEN AIP Public
開催場所
| 項目 | 内容 |
|---|---|
| 場所 | 名称未設定 |
| 住所 | Online and Open Space at the RIKEN AIP Nihonbashi office |
開催場所の地図
SNS・Bookmark
近隣のイベント
- 2025年7月26日 - 【WACA近畿支部主催】フォローアップ試験対策講座(上級ウェブ解析士)〜2026年も資格維持するために〜
- 2025年7月26日 - 【あみだす発酵アカデミー】本場香港の味 XO醤作りクラス
- 2025年7月26日 - オーバーナイト 初心者向け 北海道前 山手線1周ラン 約21 30 40 42キロ キロ約7~8分
- 2025年7月25日 - 【金曜日・予約制】Nerima Base 模型工作室(高校生以下無料!)- Crafting Room Event
- 2025年7月24日 - Fun with English - もっと英語で話そう!(オンライン参加のみ)
- 2025年7月24日 - 【7月は第4木曜日】第4金曜日開催 オンライン/リアル【IT・ブログ・WordPress・Chat-GPT】グループレッスン
- 2025年7月24日 - 【特別企画】先着30名様(7/24 東京・仲間づくり)国際NGOテラ・ルネッサンス創設者 鬼丸昌也による活動報告会&懇親会
- 2025年7月22日 - 【AIエージェント×観光DX】AIエージェント×AI/DXフォーラム 観光テック【ハイブリッド/オンライン参加あり】
- 2025年7月21日 - 【東京・目白】プチマイクラデイ【7/21】
近隣の場所 (直線距離)
- アンドパッド東京オフィス (5km)
- 慶應義塾大学 三田キャンパス 南校舎7F473教室 (4.7km)
- KINTOテクノロジーズ 室町オフィス (478m)
- PRONTO 大手町店 (821m)
- 永和システムマネジメント東京支社 (895m)
- 鉄板焼 香味由 (1.8km)
- 新宿近郊のレンタルスペース(調整中) (6.6km)
- 東京会場 IREM JAPAN セミナールーム (6.1km)
- IZAKAYA BAR おためし屋 (6.4km)
- レッドハット株式会社 (7.1km)
- Tokyo Innovation Base (1.1km)
- 東京ミッドタウン六本木 ミッドタウンホールB (4.4km)
- ウェンディーズ・ファーストキッチン 池袋北口店 (8km)
- LINEヤフー株式会社セミナールーム (3.4km)
- LINEヤフー株式会社 DINING (3.4km)
- Natuluck茅場町 新館 4階 会議室 (362m)
- 文化総合センター大和田(学習室・アリーナ) 学習室6(工作室) (7.4km)
- プライム・ストラテジー株式会社 (3.1km)
- リアクタージャパン (6.9km)