Real-time pop music accompaniment generation according to vocal melody by deep learning models

基於人聲旋律的流行音樂即時伴奏生成系統

Paper Github

關於作者

林子軒
(Lin Tzu Hsuan)

研究領域:音訊處理、DeepLearning、ML

清華大學 資訊應用與系統研究所
台灣大學 工商管理系企業管理組

近年來,於現在的的音訊處理技術中,我們已經看見在許多技術,如伴奏生成、人聲採譜上都已經取得了一定的成果。然而至今卻還未有將兩者結合的成果出現過,因此,我們融合了目前這些出色的成果,並改進其效率,進而提出了新的「即時伴奏系統」。

在這個系統中,我們優化了過去人聲採譜模型的運算效率,以及提出精簡過的HMM-base伴奏生成模型,以在有限的時間內實時生成伴奏。我們認為這個成果將會幫助許多單人歌手獨力創造更完整的表演。

Shape of you

Human-made accompaniment

AI accompaniment

Original accompaniment

Pure vocal

Goodbye

Human-made accompaniment

AI accompaniment

Original accompaniment

Pure vocal

Sunnyday

Human-made accompaniment

AI accompaniment

Original accompaniment

Pure vocal