bwin必赢唯一官方网站bwin必赢唯一官方网站

科研动态
当前位置: 网站首页 >>  学科科研 >>  科研动态 >>  正文
南京大学叶翰嘉副教授--基于元表示的预训练模型高效选择
发布人: | 发布日期:2024年06月26日 16:16 | 点击数:

讲座时间:2024年6月28日下午15:50-16:30

讲座地点:bwin必赢唯一官方网站教育园区校区逸夫楼第二会议室

讲座对象:bwin必赢唯一官方网站师生

主讲人简介:

叶翰嘉,南京大学副教授、CCF优博,在南京大学机器学习与数据挖掘研究所(LAMDA)从事学术研究工作,研究方向包括表示学习、预训练模型复用等领域。叶翰嘉在人工智能领域发表《IEEE Trans. PAMI》等学术论文50余篇,受邀担任国际重要会议ICML/NeurIPS/CVPR领域主席;作为核心成员参与新一代人工智能国家科技重大专项,主持国家自然科学基金面上项目,获中国计算机学会优秀博士学位论文奖。

讲座摘要:

机器学习技术在各领域的广泛使用产生了大量的预训练模型。为目标任务选择合适的预训练模型能够充分利用预训练模型资源,并为目标任务模型的构建提供了新思路,可在增强目标模型泛化能力的同时,降低其计算或存储开销。本报告提出一种预训练模型选择框架,基于目标任务的文本描述或少量标注样本刻画任务特性,从多个预训练模型中高效选择最适合当前任务的模型。具体而言,基于预训练模型在已知任务中的表现,学习预训练模型和任务的元表示,通过表示匹配,使目标任务快速定位出具有较好零样本分类能力或微调后具有较好泛化性能的预训练模型,实现模型选择效率和准确率之间的平衡。该框架有效用于图像分类模型、大语言模型、以及多模态视觉-语言模型的选择。