公告/发布日期:2013/08/27

mile米乐官方网站 音乐观看支持系统,可可视化网络上音乐内容之间的关系

-向公众开放的任何人都可以使用的音乐聆听支持服务“Songrium”-

积分

  • 发布音乐观看支持服务,揭示视频共享服务上 600,000 个音乐视频之间的关系
  • 自动提取并可视化原始歌曲与受其启发的衍生作品之间的关系
  • 任何人都可以将原创歌曲之间的关系添加为“箭头标签”,并将其用于音乐发现

摘要

米乐m6官方网站[会长中钵良二](以下简称“AIST”)信息技术研究部[研究主任伊藤聪]后藤正孝,首席研究员,媒体互动研究组 滨崎正宏,首席研究员,中野道康等视频分享服务无数的音乐内容以及它们之间的关系可视化Songrium 是一项多功能音乐聆听支持服务,可让用户在聆听音乐时具有人际关系意识。http://songriumjp)将于2013年8月27日向公众发布,并开始演示实验。

 随着视频共享服务的普及,创作者创作的视频数量巨大音乐内容已经发布,但用户可以利用音乐内容之间的各种关系,例如原创歌曲与衍生作品之间的衍生关系、歌曲之间的相似关系、创作者之间的人际关系等,作为用户在其中找到感兴趣的视频的线索音乐聆听支持系统

 此次由AIST开发的Songrium网络挖掘技术音乐理解技术的系统,可提取视频共享服务(Nico Nico Douga、YouTube)上 600,000 个音乐视频之间的关系并将其可视化。这是一个音乐聆听支持系统,具有可视化派生关系的“行星视图”功能、允许用户自由添加歌曲之间关系的“箭头标签”功能以及根据旋律和歌声的特征可视化歌曲组和衍生作品的功能。它已作为任何人都可以使用的网络服务发布。用户可以根据一系列可视化功能揭示的各种关系来发现歌曲和衍生作品。此外,还有使预览更容易的合唱功能,以及允许您以各种形式使用 Songrium 的界面(自动连续播放、智能手机兼容、浏览器扩展程序)也被实现了。

 这项研究是日本科学技术振兴机构(JST)战略创意研究促进项目(CREST)研究项目(研究代表后藤正孝)的一部分。其成果将于2013年10月31日至11月1日在AIST筑波中心(茨城县筑波市)举办的“AIST开放实验室”上展出。

“Songrium”的图片,这是一种多功能音乐聆听支持服务,可让您在聆听音乐时意识到人际关系
“Songrium”是一项多功能音乐聆听支持服务,可让您以关系意识聆听音乐

发展的社会背景

 随着视频共享服务的普及,许多创作者,无论是专业人士还是业余爱好者,都开始创作和发布音乐内容。此外,除了原创歌曲的创作外,衍生作品的创作也在不断拓展,每天都有不少随歌唱歌、弹奏、跳舞等创作活动的视频作为衍生作品发布并被广泛观看。如果我们能够可视化这些原创歌曲与其衍生作品之间的关系,我们不仅可以将每个音乐内容作为单独的作品来欣赏,而且可以将其作为它们关系的一部分来欣赏。

 音乐中除了衍生之外还有各种关系。例如,如果人们意识到相似的关系(歌词的主题、社会背景、旋律、气氛、演奏的乐器等相同或相似)和创作者的人际关系(音乐有相同的作者、歌手或演奏者,或者他们是朋友、老师、学生或属于同一组织),就会产生更丰富的欣赏。这些关系在传统的音乐收听服务或视频共享服务中很少被明确处理,并且还没有研究来加深对音乐信息搜索中涉及的各种关系的理解,以找到与搜索请求匹配的音乐,或通过音乐推荐来找到人们接下来想听的音乐。这样,音乐内容之间的关系并没有被充分利用作为从海量的音乐内容中寻找有趣的音乐的线索。

研究历史

AIST一直在研究和开发网络挖掘技术,该技术针对视频共享服务中的协作创作活动,创作者受到原创作品的启发,创作出各种衍生作品,并分析作品之间关系的大小和类型。此外,我们正在推出一项主动音乐聆听服务,该服务使用音乐理解技术来可视化网络上歌曲的内容。歌曲」(http://songlejp),发布了它,并进行了演示实验(2012 年 8 月 29 日 AIST/JST 新闻稿)。

 通过这些研究成果的积累,音乐聆听支持系统的想法诞生了,该系统可以可视化网络上音乐内容之间的关系,并实现更丰富的欣赏。基于此想法的系统已发布在视频共享服务上(Nico Nico Douga)歌声合成限制相关视频作为目标内容,测试版自2012年8月以来,我们已经完成了可视化功能、歌曲内容高级分析、自动连续播放、兼容多个视频共享服务上的音乐内容(Niconico Douga上的歌声合成相关视频、YouTube上的音乐相关视频)等各种功能,并决定开始向公众提供演示实验。

 本研究是日本科学技术振兴机构(JST)战略性创意研究推进事业(CREST)研究领域“构建人类和谐的共生社会信息技术”研究项目“实现内容共生社会的相似度可见的信息环境(研究代表后藤正孝)”的一部分。

研究内容

 我们开发了一种系统,可将网络视频共享服务上发布的音乐内容(包含原创歌曲的视频及其衍生作品的视频)之间的关系可视化,并允许您在观看时了解各种“联系”。http://songriumjp)。 Songirum具有以下三个特点。

1。 “关系浏览”,通过了解音乐内容的联系来实现对音乐内容的欣赏

 利用网络挖掘技术,发现并注册视频共享服务上的原创歌曲,并自动提取和注册源自这些歌曲的作品。然后使用“行星视图”将自动提取的歌曲和衍生作品之间的关系可视化。此外,除了此类派生关系之外,原始歌曲之间的任意关系还可以可视化为“箭头标签”(图 1)。任何人都可以添加和共享箭头标签。当用户选择在 Songrium 上注册的歌曲时,他们可以在原始视频共享服务上欣赏该歌曲及其衍生作品的流媒体视频,同时查看可视化关系的屏幕。

 在《Planet View》中,衍生作品的类型和观看次数通过颜色、尺寸等直观地显示,并且外观根据歌曲而有很大变化(图2)。通过像这样可视化衍生作品,可以发现仅靠听原曲很难注意到的衍生作品。您还可以了解原曲产生了哪些衍生作品。

“箭头标签”是一种在文本中自由描述和共享一首歌与另一首歌的关系的机制。虽然一般的社交标签标记单个内容,但箭头标签具有标记两个内容之间的关系的优点。使用网络挖掘技术可以发现的关系,例如同一作者的下一部作品或首部作品,会自动生成为箭头标签。此外,该界面允许用户自由添加箭头标签,从而可以共享使用自动处理难以发现的歌曲之间的各种关系。

原曲的“星球视图”和“箭头标签”显示示例图
图1 原曲“星球视图”和“箭头标签”的显示示例
中心的圆形缩略图代表原始歌曲,周围旋转的彩色圆形代表衍生作品。歌曲周围的每个同心圆代表衍生作品的旋转轨迹。回转半径表示衍生作品提交的时间,较新的衍生作品距离较远。圆形的大小表示衍生作品被播放的次数,颜色表示衍生作品的类型(例如,蓝色表示演唱歌曲的衍生作品,红色表示随着歌曲跳舞的衍生作品)。向中心歌曲延伸的橙色直线表示箭头标签,箭头标签上方的圆形缩略图表示另一首连接的歌曲。通过遵循这些箭头标签,您可以一首一首地听歌曲。例如,通过箭头标签“P的下一个作品”(表示同一作者的当前作品和下一个作品之间的关系),您可以按照发布的顺序收听作品,而用户添加的箭头标签“你可能也喜欢这个”起到了一种人力音乐推荐的作用。
 
根据原始歌曲呈现不同行星视图的示例
图 2 不同星球视图的示例,具体取决于原始歌曲
您一眼就能看出,“行星视图”中显示的衍生作品的数量和类型因颜色、旋转半径和旋转速度而异。整个衍生作品组的颜色代表了与原曲的衍生关系的倾向。例如,如果一首歌有一个显眼的蓝色旋转轨道,表明这是一首带有歌唱的衍生作品,你就可以知道这是一首你想唱的歌曲,如果一首歌有一个显眼的红色旋转轨道,表明这是一首带有舞蹈的衍生作品,你可以知道这是一首让你想跳舞的歌曲。
 

2。利用歌曲内容自动分析结果提供音乐星图、合唱功能等鉴赏支持

以下观看支持功能利用音乐理解技术自动分析歌曲内容的结果,使您可以享受更丰富的观看体验。

(a) 音乐星图:通过分析歌曲的旋律并将具有相似旋律的歌曲排列在二维平面上,我们创建了一个“音乐星图”,该地图概述了 Songrium 上已注册的 600,000 首音乐视频中的 100,000 首原创歌曲(图 3)。如果你想发现一首旋律相似的歌曲,你可以在音乐星图上点击附近的一首歌曲,它就会移动到中心,这样你就可以听了。

(b) 歌声的性别水平:我们创建了一个函数,可以根据不同歌手演唱同一首歌的一组派生作品(以下简称歌唱视频)的歌声声学特征自动估计性别(表示声音听起来像男声还是女声的指标),并将结果可视化(图 4)。通过此功能,您可以一边聆听和比较歌唱视频的衍生作品,一边观察男女之间的差异。但是,它仅支持 Niconico Douga 上的音乐内容。

(c) 合唱功能:我们实现了“合唱提取功能”,可以让您轻松找到并收听“合唱”,这是歌曲中最典型的激动人心的主题部分(图 5)。这与 Songle 的“合唱功能”结合使用。如果用户发现自动分析的合唱位置有错误,他们可以使用 Songle 界面进行纠正,Songrium 上的显示也将是正确的。

自动分析歌曲旋律并将其可视化为“音乐明星图”的示例说明
图3 自动分析歌曲旋律并将其可视化为“音乐星图”的示例
大约10万首原创歌曲根据旋律的接近程度排列在二维平面上。与地图服务一样,您可以通过鼠标滚动和缩放来探索歌曲。已播放多次的歌曲会显示为圆形缩略图。屏幕左下角的过滤功能可以让您突出显示本月排名的歌曲、带有任意标签的歌曲等。在本例中,最近添加的歌曲以绿色突出显示。
 
歌曲所演唱的衍生作品中歌声性别分布图例
图4 歌曲所演唱的衍生作品中歌声性别分布展示示例
唱歌视频的衍生作品在视频分享服务上非常受欢迎,作品数量多,观看次数也多。一首原创歌曲有数百甚至数千个演唱视频的情况并不罕见。由于演唱视频之间的歌曲本身没有区别,因此音质和演唱风格的差异很重要。屏幕中央的红色和蓝色圆形代表歌唱视频,自动估计它们越高,歌声越女性化,越低,歌声越男性化。通过以这种方式可视化歌声的质量,用户可以收听和比较各种歌声视频,同时了解歌声的差异。
 
如何使用合唱功能的图解示例
图5 使用合唱功能的示例
通过可视化歌曲结构,您可以在跳到任何合唱或重复部分的同时高效地预览歌曲。您还可以按左下角的“合唱跳转”按钮来“提示播放下一个合唱部分”。
 

3。利用具有各种接口的音乐聆听支持服务

 我们准备了多种接口,让更多的用户能够利用通过网页挖掘技术、音乐理解技术、用户输入获得的关系。

(a) 自动连续播放界面“泡泡播放器”:可以自动连续播放在用户指定的时间段内发布的一组歌曲。通过按发布日期和时间的顺序显示歌曲出现和数量增加的动画,并通过顺序播放和介绍满足用户指定的条件(例如播放次数)的一组歌曲的部分,可以像观看单个电影一样观看(图6)。这使得您可以轻松地鸟瞰视频共享服务的趋势。但是,它仅支持 Niconico Douga 上的音乐内容。

(b) 智能手机兼容接口:我们准备了一种具有简化可视化功能的专用模式,以便您甚至可以通过智能手机轻松查看 Songrium。

(c) 浏览器扩展“Songrium Extension”:为使用支持“浏览器扩展”功能的网络浏览器的用户提供 Songrium 专用的浏览器扩展。这使得用户只需在视频共享服务上查看原创歌曲和衍生作品即可直接使用Songrium的部分功能,而无需访问Songrium(图7)。

“泡泡播放器”的屏幕示例插图,您可以在其中像电影一样观看指定时期的原创歌曲
图6“泡泡播放器”的屏幕示例,您可以像看电影一样观看指定时期的原创歌曲
当用户指定一个时间段时,该时间段内在视频共享服务上发布的歌曲将按发布日期和时间的顺序显示,以便您概览已发布歌曲的变化。每首歌曲都由一个气泡(彩色圆形)表示,并且会显示一个动画,其中随着歌曲的发布,气泡逐渐增大并聚集。气泡的颜色表示正在使用的歌声合成软件的声乐库类型,大小表示播放次数。此外,符合用户指定条件的歌曲的副歌部分会短时间播放,因此您可以随着气泡数量的增加来收听和查看发布了哪些歌曲。当时的相关事件以文字形式显示在气泡显示的背景中。
 
“Songrium Extension”的屏幕示例插图,您可以在其中直接在视频共享服务上使用主要功能
图7 “Songrium Extension”的屏幕示例,您可以直接在视频共享服务上使用主要功能
合唱功能被插入并显示在视频共享服务的视频播放器下方(参见左图)。您可以从右侧的控制面板看到行星视图和箭头标签。此外,对于衍生作品,您可以查看标签的摘要显示(标签云)和按发布日期和时间组织的图表显示(衍生历史)(请参见右图)。

未来计划

 我们将继续研究、开发和运营任何人都可以通过网络浏览器使用的音乐聆听支持服务“Songrium”。新开发的网络挖掘技术可以发现歌曲之间的关系,而音乐理解技术可以自动分析歌曲的内容,该技术将与业界合作用于各种应用,包括音乐信息搜索、音乐推荐和音乐分发服务。


术语解释

◆视频分享服务
一项允许任何人发布、发布和观看视频的网络服务。典型的视频共享服务(Nico Nico Douga和YouTube)提供外部播放器功能,允许您通过将视频嵌入外部网页来播放视频。 Songrium就是利用这个函数来实现视频流播放的。[返回参考源]
◆可视化
在传统的音乐组合可视化功能中,音乐内容基于某些关系(例如歌曲旋律的相似性或艺术家之间的关系)排列在二维平面上或以网络图表示,但音乐内容本质上具有多种关系。 Songrium的新颖之处在于,用户可以自由地将各种关系描述为“箭头标签”来分享和可视化,并且用户还可以使用“星球视图”和“音乐星图”等不同的可视化功能来理解各种关系。[返回来源]
◆音乐内容
在本研究中,音乐内容是指包含音乐的视频(与音乐相关的视频)。音乐内容是视频共享服务上的热门内容之一,许多原创歌曲的视频都是由专业人士和业余爱好者发布的。不仅如此,其他人随着这些原创歌曲唱歌、演奏和跳舞的视频也作为衍生作品被发布。[返回来源]
◆音乐观看支持系统
一种支持从海量音乐内容中寻找潜在有趣音乐的系统。过去已经研究了使用书目数据的音乐信息检索和使用收听历史的音乐推荐。尽管歌曲之间的各种关系很重要,但过去往往只以有限的方式对待其中的一部分,而不能以统一的方式对待音乐所具有的各种关系。 Songrium允许人们自由命名关系并将其作为箭头标签共享,从而可以处理各种关系。[返回来源]
◆网页挖掘技术
这是一种从网络上的无定形信息中提取必要且有价值的信息的技术。网络上的许多信息是由大量不特定的人创建的,在内容、质量、格式等方面各不相同。Songrium 通过分析目标音乐内容的标签和描述以及相关网站上的文本来提取视频的类型和关系。[返回来源]
◆音乐理解技术
这是一种可以自动分析歌曲内容的技术。视频共享服务上的视频中包含的歌曲表示为音频信号。 Songrium中使用的AIST音乐理解技术可以分析声学信号并自动提取音乐特有的特征,例如合唱部分、重复部分、旋律的相似性以及歌声的性别(男性或女性)。[返回来源]
◆浏览器扩展
为您的网络浏览器添加功能的程序。也称为扩展或附加组件。用户只需使用安装了 Songrium Extension 的网络浏览器访问视频共享服务即可使用 Songrium 的主要功能。浏览器扩展允许更多用户每天使用 Songrium,而无需明确访问它。[返回来源]
◆歌曲
“歌曲”(http://songlejp) 是一项网络服务,可让您通过使用音乐可视化和挂钩功能以更活跃、更丰富的方式聆听音乐。它配备了一个界面,允许用户手动和主动纠正使用音乐理解技术自动分析歌曲内容时出现的错误,并分享结果。此次,为了与Songrium合作,Songle之前仅支持MP3格式音频信号文件,现已扩展为支持新的视频共享服务(Nico Nico Douga和YouTube)。在 Songrium 中注册的歌曲会在 Songrium 中自动注册和分析。如果 Songrium 用户在合唱部分或重复部分的分析中发现错误并在 Songle 上进行更正,该错误将反映在 Songrium 中。此外,为了避免同一首歌在 Songle 上多次注册为衍生作品时出现问题,我们进行了新的增强,以便自动分析结果在 Songle 上自动链接。如果您更正其中一首相同的歌曲,则所有链接的歌曲似乎都会得到改进。[返回来源]
◆歌声合成
这是一种自动合成歌声的技术。具有各种音质的歌声合成软件(歌声库)已经商用,并且使用这些软件的大量音乐内容被发布在视频共享服务上。歌声库通常有角色设置,创作者会进行各种超越音乐的创意活动,例如创作适合角色的歌曲以及添加插图和视觉表达。[返回来源]
◆测试版
这是在开发过程中出于测试目的而提供的试用版。 Songrium 迄今为止已经发布了测试版来改进错误,但将于 2013 年 8 月 27 日与新功能一起向公众发布。[返回来源]

相关文章


联系我们

查询表