Uber的PPLM语言模型可以改变AI生成文本的主题和情感

发布时间:2019-12-18 11:35:25 【来源:

像OpenAI的GPT-2这样的生成型AI语言模型可产生令人印象深刻的连贯性和语法性文本,但是要控制该文本的属性(例如主题或情感),则需要对体系结构进行修改或针对特定数据进行定制。这就是为什么优步,加州理工学院和香港科技大学的科学家团队设计出了他们所谓的即插即用语言模型(PPLM)的原因,该模型将预训练的语言模型与一个或多个引导新颖文本的属性分类器结合在一起代。

预印本的初步结果表明,PPLM能够控制主题和情感风格的“范围”,重要的是不会牺牲流利性,同时还保留了灵活性,以使可区分模型的任何组合都可以引导文本生成。

他们的研究基于Google和密歇根大学去年年底发布的研究结果,他们研究了一种体系结构,该体系结构可以从给定的样本生成句子,并在保留原始文本含义的同时改变其语气,复杂性,时态甚至是语音。它可以为柏拉图(Uber用于开发和测试对话式AI的平台)的工作提供信息,该平台于7月发布,其连接器与现有的机器学习和模型调整框架集成在一起。

根据研究人员的说法,PPLM使用两个或多个小型且易于构造的属性模型:一袋单词,或描述文本片段中单词出现的表示形式;线性鉴别器,或表征两类或更多类对象或事件的方法。在事实和控件进行细化之后执行优化,并使用强度参数确定属性影响的强度。

“ PPLM可以被认为是将文学评论家模型翻转的通用机器……可以判断他们阅读的文本是否适合作者模型……可以写出类似的东西。”从这个意义上讲,PPLM的机制是通用的,允许使用任何可区别的属性模型,这将使​​此处示例以外的各种创造性应用成为可能。” Jason Yosinski在博客文章中,并补充说,可以将任意数量的属性控制器与最新的生成模型结合使用。“通过这项研究,我们引入了……一种用于控制语言生成的动态可配置方法,该方法允许将大型的,经过预先训练的语言模型与一个或多个…模型进行灵活的组合。”

深圳罗湖打造“一个中枢五个中心” 建成中国黄金钻石交易中枢体系
广西黄金珠宝产业园优化全产业链发展 目前为止已入驻企业37家
国内知名珠宝企业齐亮相首届消博会 展现民族品牌新形象
吉尔吉斯斯坦或将取消珠宝产品生产设备进口的增值税 包括精矿砂、合金等
潍坊昌乐“中国宝石城”化身“潍坊市电商小镇 珠宝商变身为“直播网红”
广州发布全国首份围绕新发展格局支持钻石产业专项政策 培育壮大产业集聚带
未来5年 深圳罗湖构建全球竞争力和国际影响力的黄金钻石金融中心
中国珠宝成为首届中国国际消费品博览会唯一指定进口代理商

[ 最新资讯 ]

L Brands在第一季度的强劲销售提振

  这家零售公司宣布计划分拆 本月初的《维多利亚的秘密》,该公司公布 了截至5月1日的季度收入为30亿美元,比 去年疫情期间的16 5亿美 ...

L Brands在第一季度的强劲销售提振

  这家零售公司宣布计划分拆 本月初的《维多利亚的秘密》,该公司公布 了截至5月1日的季度收入为30亿美元,比 去年疫情期间的16 5亿美 ...

Shopee第一季度亏损4.22亿美元

  新加坡的海集团,旗下拥有电子零售商Shopee,今天报告说,其截至3月的三个月净亏损从去年的281亿$扩大至4 22亿$,日经亚洲写道。  这 ...

阿雷佐公司的第一季度利润增长了310%

  巴西鞋类和配饰集团在2021年第一季度的调整后净收入为2960万巴西雷亚尔(560万美元),比去年同期的720万雷亚尔(135万美元)增长了310 7% ...

专业调谐器称Apple TV的自动校准器无法提供

  苹果在四月推出了带有新Apple TV 4K的电视校准功能。颜色平衡选项使用带有Face ID的iPhone上的前置传感器来优化Apple流媒体盒(包括2 ...

华纳传媒与Discovery宣布合并 美国媒体行业其他公司不得不采取应对措施

  据报道,由于 AT&T 已经决定分拆华纳传媒并将其与 Discovery 合并,美国媒体行业的其他公司,尤其是规模较小的公司将面临新的压力 ...