在過(guò)去的幾十年中,研究人員開(kāi)發(fā)了越來(lái)越先進(jìn)的人工智能(AI)工具和計(jì)算技術(shù),可以將其應(yīng)用于各種環(huán)境中。其中,可以產(chǎn)生書(shū)面或口頭語(yǔ)言的技術(shù)引起了相當(dāng)大的關(guān)注,特別是隨著新語(yǔ)音助手,機(jī)器人和新交互設(shè)備的引入。
科羅拉多大學(xué)(UC)-科羅拉多斯普林斯分校和德魯里大學(xué)的研究人員最近開(kāi)發(fā)了一種獨(dú)特的語(yǔ)言生成系統(tǒng),該系統(tǒng)可以產(chǎn)生創(chuàng)造性的詩(shī)歌經(jīng)文。他們的系統(tǒng)在arXiv上預(yù)先發(fā)表的一篇論文中介紹,是對(duì)GPT-2(由OpenAI開(kāi)發(fā)的一種預(yù)先訓(xùn)練的語(yǔ)言模型)的微調(diào)改編。
加州大學(xué)科羅拉多斯普林斯分校的教授Jugal Kalita負(fù)責(zé)最近的這項(xiàng)研究,從他在賓夕法尼亞大學(xué)畢業(yè)的那一天開(kāi)始,過(guò)去30年來(lái)一直在進(jìn)行自然語(yǔ)言生成的研究。他于1988年發(fā)表的有關(guān)自然語(yǔ)言生成的第一篇論文旨在遵循一組基本規(guī)則,制作可能出現(xiàn)在典型期刊中的文字段落。最近,在自然語(yǔ)言處理(NLP)的人工神經(jīng)網(wǎng)絡(luò)技術(shù)進(jìn)步的啟發(fā)下,卡利塔(Kalita)教授和他的學(xué)生開(kāi)始開(kāi)發(fā)深度學(xué)習(xí)技術(shù),以生成簡(jiǎn)短的文章,對(duì)話(huà)和富有創(chuàng)意的寫(xiě)作。
“研究自動(dòng)詩(shī)歌生成這一主題的想法是在2019年夏季初提出的,當(dāng)時(shí)密蘇里州德魯里大學(xué)的科羅拉多大學(xué)科羅拉多斯普林斯分校的暑期實(shí)習(xí)生Brendan Bena對(duì)自動(dòng)生成歌曲感興趣。歌詞。” Kalita教授告訴TechXplore。“他最初想研究一種系統(tǒng),該系統(tǒng)試圖模仿通過(guò)歌詞產(chǎn)生的情感。”
由于大多數(shù)歌曲歌詞均受版權(quán)保護(hù),因此尋找大型數(shù)據(jù)集來(lái)訓(xùn)練歌詞生成深度學(xué)習(xí)模型可能非常具有挑戰(zhàn)性。Bena和Kalita教授因此決定改為開(kāi)發(fā)一種用于詩(shī)歌生成的深度學(xué)習(xí)工具。然而,與其像大多數(shù)以前的詩(shī)歌研究一樣,他們沒(méi)有像詩(shī)歌的結(jié)構(gòu)或節(jié)奏那樣關(guān)注諸如詩(shī)歌的結(jié)構(gòu)或節(jié)奏之類(lèi)的特征,而是探索了其更具情感和創(chuàng)造力的方面。