南加大与某机构合作选定六项安全可信机器学习新研究

USC与某中心选定六项新的研究项目

南加大与某机构的“安全可信机器学习联合中心”（USC + Amazon Center on Secure and Trusted Machine Learning）于今日宣布，已选定2023-2024年度的六项研究项目，其中包括四项由教师领导的项目和两项由新任命的“某中心机器学习学者”领导的学术项目。

该中心成立于2021年1月，旨在支持机器学习在隐私、安全及可信度方面的新方法的基础研究与开发。

“南加大与某中心的合作伙伴关系持续蓬勃发展，”南加大维特比工程学院院长Yannis C. Yortsos表示，“新项目和学者的选定再次证明了我们合作伙伴关系的质量与实力。我们期待这些项目成功实施，并为整个社会带来深远影响。”

以下是六项研究项目受助者的信息及其研究领域：

教师项目受助者

• Salman Avestimehr，电气与计算机工程及计算机科学院长教授：

  • 研究方向：“利用自监督与混合监督推进持续学习与联邦学习”。其研究目标是在分布式学习环境中数据异构性和隐私约束的条件下，更好地利用未标记数据，并采用两种不同的方法。

• Muhao Chen，计算机科学研究助理教授：

  • 研究方向：“利用结构感知等变性学习实现稳健的（可控）自然语言生成”。该研究旨在解决使用预训练的序列到序列模型进行可控自然语言生成时固有的挑战，其方法是采用一种基于结构等变性学习的新型自然语言生成框架。

• Lars Lindemann，计算机科学助理教授，与Soutirini Chattpadhyay，计算机科学助理教授：

  • 研究方向：“仍不信任我？构建可信的AI代码生成”。他们的研究提出了一个新框架，该框架将用户预期行为分解为一系列代码建议，并动态调整以维持信任。

• Konstantinos Psounis，电气与计算机工程及计算机科学教授：

  • 研究方向：“为带摄像头的语音助手实现隐私标记与学习”。该研究将采用多种方法应对实现和维护用户视频隐私的挑战。

学术学者项目受助者

• Brihi Joshi，计算机科学三年级博士生，导师为Xiang Ren。

  • 研究方向：其研究目标是将以人为中心的“可解释性”融入自然语言处理系统，灵感来源于人类之间以及人类与这些系统之间的互动方式，同时借鉴其他学科的见解。

• Fei Wang，计算机科学系博士候选人，导师为Muhao Chen。

  • 研究方向：其研究兴趣在于自然语言处理和机器学习，长期目标是构建稳健、可控且可追责的大语言模型系统。

“生成式人工智能最近引发了一系列深刻的问题，促使人们去理解人工智能对社会的影响，”该联合中心的首任主任、同时也是某机构学者的Salman Avestimehr表示。“对隐私、安全、可信度和所有权等问题的研究获得了前所未有的关注，这印证了我们三年前创立该中心时的愿景。”

---

研究领域

• 安全、隐私与滥用防护
• 机器学习

标签

• 学术合作
• 南加州大学
• 生成式人工智能
• 负责任的人工智能
  更多精彩内容 请关注我的个人公众号 公众号（办公AI智能小助手）或者 我的个人博客 https://blog.qife122.com/
  对网络安全、黑客技术感兴趣的朋友可以关注我的安全公众号（网络安全技术点滴分享）