情話APP說胡話,，誰來管住它的嘴
發(fā)布日期： 2019-11-20 供稿：科技日報(bào)
編輯：吳楠 審核：王征 閱讀次數(shù)：原文標(biāo)題：情話APP說胡話,，誰來管住它的嘴
原文鏈接：http://digitalpaper.stdaily.com/http_www.kjrb.com/kjrb/html/2019-11/20/content_435163.htm?div=-1
“你今天怪怪的,?！?/p>
“哪里怪,？”
“怪可愛的,?！?/p>
當(dāng)你捧著手機(jī)與追求者或網(wǎng)友聊天時(shí),，會不會被這樣的話“撩”到？但在屏幕那一頭的,，或許不是滿懷真情的他或她,，而是一個(gè)戀愛話術(shù)APP。
近日,，聲稱“幫你談戀愛”的戀愛話術(shù)APP引發(fā)公眾熱議,。不論是在開場、初聊階段,，還是在感情升溫,、邀約見面階段,，只要輸入一方說的話，這類軟件都可以把相應(yīng)的回答選項(xiàng)奉上,。然而,，科技日報(bào)記者在試用了其中一款下載量較高的軟件后發(fā)現(xiàn)，有些答語驢唇不對馬嘴,，甚至帶有歧視,、侮辱的意味。
那么,，這類軟件究竟是怎樣被“煉”成的？為何會出現(xiàn)這些“跑偏”的答語,？科技日報(bào)記者帶著這些問題,，采訪了北京理工大學(xué)網(wǎng)絡(luò)攻防對抗技術(shù)研究所所長閆懷志。
聊天機(jī)器人在戀愛場景的應(yīng)用
“其實(shí),，戀愛話術(shù)APP就是聊天機(jī)器人技術(shù)在這種APP所營造的‘戀愛場景’的應(yīng)用,。”閆懷志表示,，聊天機(jī)器人是目前常見的用來模擬人類對話或聊天的程序,。本質(zhì)上來說，這種戀愛話術(shù)APP,，是大數(shù)據(jù)及人工智能技術(shù)的一種應(yīng)用,，類似的應(yīng)用還有各種商務(wù)平臺的客服機(jī)器人。
閆懷志介紹道,，當(dāng)前,，此類程序多是通過線下搜集大量特定主題的聊天數(shù)據(jù)，后借助大數(shù)據(jù)分析處理算法,，從海量數(shù)據(jù)中抽取對話要素,，再設(shè)置對話場景，同時(shí)通過自然語言語義分析來判斷用戶意圖,，最后從數(shù)據(jù)庫中找到最適合的語句去匹配回復(fù),。
也就是說，研發(fā)聊天機(jī)器人,，首先要搜集大量的人類對話內(nèi)容,，將其整理成數(shù)據(jù)庫，當(dāng)用戶使用時(shí),，軟件再通過分析算法,，把“候選答案”從庫中“拎”出來。
“聊天機(jī)器人還擁有豐富的對話上下文場景庫和強(qiáng)大的自我學(xué)習(xí)能力,，基于與使用者的實(shí)時(shí)互動,，習(xí)得新的對話和語境,。”閆懷志說,。
戀愛話術(shù)APP的研制也采用了上述方法,，只不過因其應(yīng)用為戀愛交友，所以可能還會加上戀愛場景特定的話語體系以及大量的網(wǎng)絡(luò)流行語等,。
記者了解到,，戀愛話術(shù)軟件可提供兩大類服務(wù)：既可充當(dāng)“替身”，直接替代使用者與對方聊天,；也可做“助理”,，向使用者推薦若干答語選項(xiàng)，供其選擇回復(fù),。
APP上架審核尚處監(jiān)管灰色地帶
既然有強(qiáng)大的技術(shù)作支撐,，為何此類軟件還會說胡話呢？
“判斷一個(gè)聊天機(jī)器人是否合格的標(biāo)準(zhǔn)之一,，就是看其能否通過圖靈測試,。”閆懷志解釋道,，簡單來說,，圖靈測試就是讓機(jī)器人和人類分別回答測試者提出的問題，若機(jī)器人給出的30%以上的答案,，讓測試者無法判斷這是機(jī)器還是人類給出的回答,，那么就判定該機(jī)器人通過了圖靈測試、其具有了人類智能,。
顯然,，在當(dāng)前豐富的語料庫、強(qiáng)大的算法的支持下,，戀愛話術(shù)APP通過圖靈測試的難度并不大,。“但戀愛話術(shù)APP等聊天機(jī)器人的智能程度,，不僅取決于語料庫豐富與否,、算法強(qiáng)大與否，它還與聊天場景,、大數(shù)據(jù)分析處理準(zhǔn)確度及效率,、人工智能推薦算法等多種因素有關(guān)?！遍Z懷志說,。
在他看來，人類交流對話是一個(gè)相當(dāng)復(fù)雜的信息感知與智能處理過程，而聊天機(jī)器人大多是簡單地采用語言類型配對的技巧,，缺乏人類邏輯推理與適時(shí)反應(yīng)等能力,。所以，該類APP給出的有些回答會驢唇不對馬嘴,。
此外,，部分該類APP為營造戀愛聊天的特殊氛圍，會預(yù)設(shè)一些比較曖昧甚至是輕浮的聊天語境或答復(fù)語句,，這樣不僅可能會造成答非所問,，甚至可能會出現(xiàn)侮辱性的話語，給聊天對象造成心理傷害,。
那么,，針對該類APP出現(xiàn)的問題，目前我國是否出臺了相關(guān)審核標(biāo)準(zhǔn)以規(guī)范手機(jī)APP上架,？
“目前,，我國只出臺了一些原則性的規(guī)定，總體來看,，手機(jī)APP上架審核還處于法律監(jiān)管的灰色地帶?！遍Z懷志說,。
現(xiàn)階段，大部分APP應(yīng)用商店設(shè)置了開發(fā)資質(zhì)認(rèn)證審核,、APP上架審核等基本審核規(guī)則,，而且大都強(qiáng)制APP提供者承諾不違反現(xiàn)行政策、法律法規(guī),，并且要求APP提供者承擔(dān)相應(yīng)的法律責(zé)任,，APP應(yīng)用商店對此免責(zé)?！耙?yàn)橄嚓P(guān)部門沒有推出明確的規(guī)定,，大多只能靠APP提供者自覺，這就造成了上架的APP質(zhì)量良莠不齊,?！遍Z懷志說。
當(dāng)然,，如果某款A(yù)PP確實(shí)存在明顯違反法律,、道德的問題，即便是通過了上架審核,，推廣應(yīng)用后也會遭到投訴,，因此下架退市的案例也并不鮮見。“目前來看,，營造良好的APP開發(fā)運(yùn)行環(huán)境,，需要APP開發(fā)者、APP商店平臺,、APP使用者和監(jiān)管部門等各方面共同努力,，減少不良APP對用戶和社會造成的危害?！遍Z懷志說,。
分享到：