作为ML研究科学家如何在面向任务的对话中取得成功

蒋豪坚
导读 面向任务的对话是更广泛的对话 AI 领域内的一个研究领域,是一个以构建对话系统来解决任务为中心的令人兴奋的领域。这是一个影响很大的研

面向任务的对话是更广泛的对话 AI 领域内的一个研究领域,是一个以构建对话系统来解决任务为中心的令人兴奋的领域。这是一个影响很大的研究领域,因为自然语言系统在消费者应用程序和企业中变得越来越普遍。此外,该领域的研究人员开始研究具有高度科学影响的开放性研究问题。

作为该领域应用研究科学家的成功主要由三个主要目标驱动:识别产品目标背后的计算问题,定义正确的成功指标,以及以发表的研究论文和产品的形式对最先进的技术进行创新影响。我们已经确定了新研究人员可以确保他们准备好在工业人工智能研究中取得成功的四种关键方式,特别是在面向任务的对话中。

1)不断学习的培养

人工智能作为一个领域发展非常迅速。机器学习的最新进展可以显着提高性能,似乎每月都会出现。论文每天都出来,主要领域和方向每隔几年就会改变。作为研究科学家,随着最先进的技术进步,及时了解性能最佳和最有效的模型非常重要。恰当的例子:GPT-3可能是一个有用的预训练模型,但较新的 GPT-Neo 在基准指标上优于 GPT-3,并且计算效率更高。跟上这些进步可以带来巨大的优势。

也就是说,几乎不可能掌握所有研究。我们发现最好专注于几个领域以深入关注,同时保持对更广泛领域的一般认识。因此,虽然您在阅读面向任务的对话中的最新论文时可能不需要了解 GPT-3 或 Megatron-Turing 如何工作的细节,但您至少应该知道这些预训练的语言模型是存在的,它们是如何使用的,以及它们的局限性(因为更新并不总是更好)。

2)挖掘导师和同行

随着最新的最先进的方法和论文迅速发表,拥有一个思考类似研究问题的同行网络可以帮助研究科学家随时了解最新研究。与您的同行一起使用 Slack 频道来策划相关论文是一种有用的做法,可以保持对最新方法的了解,并讨论进一步的探索领域。关注一个年度会议并与同行分享相关论文比每年跟踪所有会议的所有论文更可行。

在可能的情况下,确定您可以聘请谁作为导师。这可以是您的经理或在行业其他地方担任类似角色的人。导师可以为您指出该领域的相关论文,并指导您跨团队开展跨职能工作。特别是当来自机器学习的不同领域时,内部导师和同行可以帮助新的研究科学家熟悉知名模型和技术术语。

3) 跨团队全面工作

从学术界转向工业/产品可能是一种范式变化。在学术界,你的同龄人和你一样使用相似的语言并持有相似的世界观。在工业界,研究科学家需要能够跨不同学科、部门和团队进行跨职能工作——他们可能每个人都在思考同一个问题,但方式却截然不同。您将与工程师、产品经理、用户/市场研究人员和数据科学家一起工作。有效协作需要学习同行的语言和观点,并了解他们在解决共同问题中的作用。获得这种共同的理解可能需要一些时间,但刻意努力促进这种整体合作有助于实现有影响力的结果。

在这个过程中保持谦逊也有助于促进富有成效的合作。有时,头衔和博士学位可以给人一种解决问题时不同级别权威的印象。重要的是要认识到,在不同的学科和团队中,每个人都是各自领域的专家,致力于将他们的努力带到集体问题上。在这种合作中保持谦逊可以让每个团队成员都能将他们最好的工作向前推进。除了谦虚之外,拥有开放的心态可以帮助学习很多东西并更有效地解决问题。

4)对你正在解决的问题有一个产品级的看法

有时,为了更好地理解你正在解决的跨职能问题,暂时让自己脱离研究人员的思维模式会有所帮助。与不同团队沟通的目的往往是更好地定义你们共同试图解决的问题。一旦你定义了问题,就更容易转向你的研究人员心态,专注于你将如何为解决方案做出贡献。

面向任务的对话特别令人兴奋的是,针对这些产品级解决方案的大量研究工作是前所未有的。该领域仍然存在的开放式研究问题包括生成模型的控制和抽象+提取摘要。

不要害怕潜入并犯错误!

随着您了解更多并熟悉研究科学家的角色,我们的经验是您开始意识到您对重点领域或研究专业的了解有多少。这种感觉可能令人生畏,但您可能会惊讶于您已经知道多少以及这些知识如何补充您的同事提供的更全面的图片。拥有不同的知识和技能组合是一件很棒的事情。事实上,面向任务的对话本身的未来可能集中在如何最好地为互补的 AI + 人类团队创建人在环系统。

如果你是一名完成学位的研究生,以研究科学家的身份进入工业界似乎令人生畏,但随着时间的推移,这个角色确实变得更容易了。在您入职并熟悉专业领域、与跨职能团队合作并了解如何解决问题时,犯一些可衡量的错误是很好的。最重要的是保持开放的心态,并在您融入该领域时从新的方法和背景中学习。

标签:

免责声明:本文由用户上传,如有侵权请联系删除!