王順聽從對接人員的安排,在家中用攝像頭對準(zhǔn)電子鐘。右圖為數(shù)字人主播在直播間里的畫面。 受訪者供圖2023年4月,胡永林參加招商會,宣講人不斷講述數(shù)字人直播的市場前景。 受訪者供圖短視頻平臺上關(guān)于“數(shù)字人主播”的宣傳,其中多數(shù)為數(shù)字人軟件商家在引流。短視頻平臺截圖數(shù)字人軟件公司的對接人員告訴王順,他們的數(shù)字人軟件可以在所有主流平臺上直播。 受訪者供圖
“歡迎用戶2176來到咱們的直播間?!?/p>
王順的數(shù)字人“主播”正在“直播”。識別到有用戶進入,身穿白色裙子、黑色口罩特效遮住了半張臉的“主播”,生硬、機械地念出這句歡迎詞。
這是12月初,王順花費1980元購買的數(shù)字人主播,這曾是他眼中的新風(fēng)口。在他的設(shè)想中,這位省心省力的“主播”可以24小時不停播,隨時回答直播間觀眾的提問,銷售商品為自己帶來利潤。
“實際上聽起來像商場里的樓層指引機器人。”幾乎是在開播后,王順就意識到自己可能被騙了,直播間的畫質(zhì)模糊,看不清“主播”的表情?!爸鞑ァ钡膭幼骱彤a(chǎn)品介紹話術(shù)不斷重復(fù),不僅語調(diào)單一、缺乏節(jié)奏感,也無法直接與觀眾互動。
伴隨著人工智能的興起,數(shù)字人直播帶貨也一時成為風(fēng)口。但新京報記者調(diào)查發(fā)現(xiàn),該新興行業(yè)目前魚龍混雜。
有軟件商對數(shù)字人直播效果及能產(chǎn)生的盈利夸大其詞,用戶花高價買入后發(fā)現(xiàn)效果不盡如人意,還會被平臺監(jiān)測到“非實時直播內(nèi)容”或低質(zhì)量內(nèi)容封禁,售后無門;有不法分子盜用他人的身份信息進行數(shù)字人制作;也有人以數(shù)字人直播為噱頭,招募聯(lián)合運營商聲稱可以分傭,實則冒充平臺認(rèn)可的有分傭資質(zhì)的第三方服務(wù)商;更有數(shù)字人推廣者采用傳銷的模式,發(fā)展下級代理獲取利潤,可能存在非法集資、詐騙、非法傳銷等刑事風(fēng)險。
張家港公安局曾針對“AI數(shù)字人直播教學(xué)”發(fā)布風(fēng)險提示,不法分子以“AI數(shù)字人直播教學(xué)”為由實施詐騙,不少群眾因此上當(dāng)受騙。警方提示,廣大群眾要謹(jǐn)慎辨別真?zhèn)危苑郎袭?dāng)受騙。
新京報記者李聰
“24小時自動直播”
王順是個業(yè)余主播。他的主業(yè)是婚紗攝影相關(guān)工作,副業(yè)運營著一家電商店鋪,銷售戒指、手鏈等飾品。每天晚上下班后他會直播兩個小時,觀看人數(shù)從幾十人到百人不等,平均每天能有三百元左右的銷售額。
有限的成交量令王順時常思考如何能給直播間引流。今年以來,他看到社交平臺上關(guān)于數(shù)字人直播的宣傳鋪天蓋地,“24小時自動直播”“一位全天候工作的數(shù)字助手”“你在睡覺,數(shù)字人給你掙錢”。起初他半信半疑,但宣傳中的效果又讓他隱隱心動。
12月初,他在刷短視頻時偶然點贊了一個介紹數(shù)字人的視頻,馬上有人私信他,希望向他詳細(xì)介紹產(chǎn)品。在對方發(fā)送的多個案例里,王順看到數(shù)字人主播的表現(xiàn)堪稱完美,不僅有流暢的表達、精準(zhǔn)的介紹、自然的停頓,還有微笑等面部神情和眼神交流,以及低頭看資料等豐富的動作。
最吸引王順的是“1980元就能獲得軟件永久使用權(quán)”。銷售人員表示,“價格真不高,別說永遠使用,就算你用一年,一天才幾塊錢?!彼麄儚娬{(diào)自己是正規(guī)軟件公司,后期不會有任何隱形消費,有一對一搭建指導(dǎo),開播后還會陪跑一年,隨時有老師能聯(lián)系。另外,對方還提到,等王順學(xué)會這套系統(tǒng)后,可以賣數(shù)字人直播軟件賺錢。
當(dāng)王順問到能在哪些平臺使用以及是否有封號的風(fēng)險時,對方回復(fù)“目前所有的主流直播平臺都可以播,賬號封禁、不能使用的,我們公司目前一例都沒有?!痹跊]有先試用、也沒有查詢這家公司資質(zhì)的情況下,王順?biāo)斓馗读隋X。
付費后,對接人員通過遠程控制王順的電腦開始搭建直播間。先是在數(shù)字人軟件內(nèi)置的通用數(shù)字人模型中選擇形象和聲音,將王順提供的產(chǎn)品介紹文案導(dǎo)入,并設(shè)置直播間的虛擬背景圖片。王順則聽從對接人員的安排,在家中掛起一塊綠布,桌上擺好電子鐘,再打開對著電子鐘和綠布的高清攝像頭。
王順的數(shù)字人主播“上崗”了。直播間里能看到,“主播”站在直播間,使用黑色口罩特效遮住半張臉,身后有一株插花作為裝飾,背景為王順賬號的名稱,左下角播放著工匠制作飾品的視頻。而電子鐘則被放置在畫面的右下角落里。
對接人員告訴他,使用口罩特效是為了避免系統(tǒng)監(jiān)測到口型不自然,直播半小時后監(jiān)測不到就可以摘了;利用綠幕技術(shù)將電子鐘與數(shù)字人直播場景融合,也是為增加直播間的真實感。目的都是為了開播初期讓平臺監(jiān)測不到是數(shù)字人在直播。
然而,王順看到,自己的這位“主播”跟對方之前發(fā)送的案例差距很大。還來不及考慮數(shù)字人軟件“貨不對板”的問題,王順要出門上班,留“主播”在家自己播。
到達辦公室后,王順用手機查看直播發(fā)現(xiàn),開播將近一小時,除了自己和對接人員,直播間里幾乎沒有一個觀眾,后半段直播間人數(shù)為0,連對接人員都不在了。同事們觀看后也說那是一眼就能看出僵硬、沒有表情的假人,還沒有王順自己播得好。
最終,王順主動結(jié)束了這場直播。在開播的一個半小時里,主播的口罩特效一直沒能去掉,這場直播不僅沒有帶來收益,而且?guī)缀鯚o人停留在他的直播間。
感覺上當(dāng)?shù)耐蹴樔フ覍尤藛T退款,對方則稱還可以慢慢優(yōu)化。反復(fù)交涉無果后,對方不再回復(fù)王順的信息。
多個平臺認(rèn)定數(shù)字人質(zhì)量低、內(nèi)容單一
于捷是一家頭部數(shù)字人服務(wù)商的產(chǎn)品運營,這家公司目前只從事TOB(面向企業(yè))的產(chǎn)品定制服務(wù)。她介紹,在公司訂購數(shù)字人的客戶分為兩類,一類是用于本地生活服務(wù),銷售餐飲券、門票等,希望達成24小時直播;另一類是用于企業(yè)宣傳。
“內(nèi)容豐富度單一”,于捷認(rèn)為,這是數(shù)字人直播目前無法解決的缺陷。
比如前期坐著錄制的數(shù)字人,在直播時不可能突然站起來跟消費者聊幾句。無論給的文案多豐富,只要長時間循環(huán)播放就會造成重復(fù),進而被平臺判定為低質(zhì)量內(nèi)容或互動不足,這也是一些直播間容易被封掉的原因。對于不長時間停留在直播間的人來說,可能很難區(qū)別出不同?!暗珨?shù)字人直播的邏輯是前一個循環(huán)接下一個循環(huán),中間一定會有不自然的動作銜接?!?/p>
她提到,直播中的交互,是運營人員提前準(zhǔn)備題庫,觸發(fā)關(guān)鍵詞后,直接從題庫里選取答案,讓數(shù)字人念出來,題庫中沒有的內(nèi)容,數(shù)字人也說不出來,真正具備自動對話功能的數(shù)字人很少。
除了自身技術(shù)的問題,各大互聯(lián)網(wǎng)平臺對數(shù)字人直播的態(tài)度呈現(xiàn)出明顯的分化。“不同電商平臺在數(shù)字人直播帶貨上呈現(xiàn)出不同的態(tài)度,其實反映了他們在生態(tài)建設(shè)上不同的戰(zhàn)略和發(fā)展方向?!彪娮由虅?wù)交易技術(shù)國家工程實驗室研究員趙振營在接受《中國經(jīng)營報》記者采訪時提到。
比如在部分電商平臺上隨處可見數(shù)字人直播,而一些平臺則規(guī)定,直播過程中使用非實時直播內(nèi)容或道具代替真實直播的行為都是“非真實直播”,屬于“低質(zhì)量內(nèi)容”,使用插件、AI等工具生成虛擬形象進行直播是典型的違規(guī)行為。
多個平臺將數(shù)字人歸結(jié)于低質(zhì)量單一的內(nèi)容,于捷表示認(rèn)可。她表示,只要平臺想封,使用者就完全沒有辦法,只能換號,或者等封禁時間過了再重新開播。
于捷總結(jié),以內(nèi)容為導(dǎo)向的平臺出于維護社區(qū)優(yōu)質(zhì)內(nèi)容的導(dǎo)向會加以限制,而電商等以賣貨為導(dǎo)向的平臺則更注重成交量,相對寬松。
也因此,和平臺斗智斗勇,想方設(shè)法避免直播時被封號,是數(shù)字人產(chǎn)品運營的重要工作。于捷介紹,他們會針對每一個平臺制作精細(xì)化的防風(fēng)控手冊。形式上可以在直播間配置中多開幾個攝像頭和麥克風(fēng),盡管這些攝像頭沒有實際畫面,可以放在直播畫面最下端,把虛擬主播放在最上面,以達到欺騙平臺監(jiān)測系統(tǒng)有實際開播的作用。內(nèi)容方面則會使用人工智能生成大量不一樣的話術(shù)。
至于數(shù)字人直播帶來的收益,于捷提到,像銷售美食套餐沒什么特別的影響,但只要是需要主播加持的帶貨,銷量就比較慘淡。
一位女裝主播闞闞也認(rèn)同這樣的說法。早在2022年,闞闞就考察過數(shù)字人直播,她除了好奇,也在思考自己是否有被替代的可能性,當(dāng)時的數(shù)字人市場價格混亂,從數(shù)萬元到千元不等,她沒敢投入。直到今年上半年,闞闞花費2000元購買了朋友推薦的一款軟件,她只運用在短視頻創(chuàng)作中代替自己出鏡幾秒鐘,新鮮兩個月后,現(xiàn)在已經(jīng)棄用。
她直言,直播間里引流本身就很難,真人在直播中又哭又鬧都沒有流量,用一個毫無感情的假人更沒有流量。在她看來,直播帶貨是“人貨場”缺一不可,“如果數(shù)字人直播都有流量,那屬于貨帶人,換個動物來也行。”
風(fēng)口下的收割
即便在業(yè)內(nèi)人士看來,數(shù)字人技術(shù)和應(yīng)用層面撕裂,普通商家很難從中獲利,但數(shù)字人市場在近幾年已成風(fēng)口。根據(jù)艾媒咨詢數(shù)據(jù)顯示,2022年,該行業(yè)的市場規(guī)模已達到120.8億元,預(yù)計到2025年,虛擬數(shù)字人的核心市場規(guī)模將達到480.6億元。
新京報記者發(fā)現(xiàn),當(dāng)前數(shù)字人產(chǎn)業(yè)鏈中,中小商家似乎成為了被收割的對象,銷售軟件的公司則借此機會獲得豐厚的收益。更有甚者,利用“數(shù)字人”的概念進行詐騙。
家住鄭州的胡永林一度也覺得自己能夠站上風(fēng)口。
2023年4月底,胡永林收到一通自稱是某平臺合作商的電話,邀請他參加一個關(guān)于數(shù)字人直播的招商會。招商會離家很近,他出于好奇便去了現(xiàn)場。這場會議介紹的是位于廣州的一家科技公司,胡永林看到,大約300人參與,多為商務(wù)人士。
在招商會上,胡永林聽到一樁看似很合理的生意:與這家公司合作,以第三方服務(wù)商的身份,向本地餐飲等生活服務(wù)的商家銷售數(shù)字人直播軟件,并協(xié)助商家入駐該平臺,搭建數(shù)字人直播間銷售團購券。此后商家每核銷一張團購券,自己都能分到傭金,另外邀請新商家入駐還有額外的獎金。
換句話說,成為這家科技公司的代理商,在線下銷售數(shù)字人直播軟件,并讓商家利用數(shù)字人直播銷售團購券,就能從中賺取傭金?!吧碳屹嶎櫩偷腻X,你躺賺商家的錢。”
胡永林記得,招商會上不斷講述其他城市的成功案例,其中一張PPT上寫著,有聯(lián)營商在3個月內(nèi)拿到36萬元利潤。
胡永林坦言,豐厚的利潤吸引了他,對方又稱自己是某平臺的合作伙伴。他當(dāng)時并沒有深入了解數(shù)字人直播,只是直覺上認(rèn)為這套模式行得通,因此當(dāng)場繳納6萬元成為鄭州市的城市聯(lián)營商。
當(dāng)項目開始落地,胡永林一邊去談意向商戶,收集商家的基礎(chǔ)信息、團購套餐、推薦話術(shù)等資料,一邊在官方直播間學(xué)習(xí)運營。
大約一周后,胡永林意識到,這樁生意有個致命缺陷:分傭是建立在第三方服務(wù)商的身份上,而這家科技公司并無資質(zhì),也并不是某平臺的合作伙伴。新京報記者查詢發(fā)現(xiàn),某平臺官方規(guī)定,能夠參與來客分傭的只有達人和服務(wù)商。
平臺政策也讓胡永林意識到數(shù)字人直播這條路似乎行不通。胡永林簽完合同的第二個月,2023年5月,某平臺黑板報發(fā)布“關(guān)于人工智能生成內(nèi)容的平臺規(guī)范暨行業(yè)倡議”“關(guān)于虛擬主播的平臺公約暨倡議”。業(yè)內(nèi)認(rèn)為這是某平臺將進一步加大對AI生成式內(nèi)容的管控。
要求退費無果的胡永林,迅速收集了相關(guān)證據(jù),提起民事訴訟。2023年11月,在法院調(diào)解下,胡永林拿回了大部分錢。
胡永林的經(jīng)歷不是個例。新京報記者在黑貓投訴平臺看到,截至12月18日,關(guān)于“數(shù)字人”的投訴高達5212條。其中包括夸大宣傳、貨不對板、卷款跑路等,還有消費者購買數(shù)字人直播專用設(shè)備,到手后發(fā)現(xiàn)實為裝了數(shù)字人直播軟件的手機等。
廣泛招收代理,也成為數(shù)字人軟件代理商的生財之道。
新京報記者以消費者身份咨詢多家數(shù)字人軟件供應(yīng)商,其中一家表示,只要繳納8680元成為代理,可享受所有產(chǎn)品2折拿貨優(yōu)惠,原價4000元的數(shù)字人系統(tǒng)拿貨只需要800元,銷售兩套就可以回本。“利潤很可觀,以后賣的都是你賺的?!?/p>
這些服務(wù)商對風(fēng)險閉口不談,對于封號及售后問題,一位工作人員表示無法保證平臺在政策方面沒有變動,如果有變動也不屬于公司產(chǎn)品單個問題,是屬于行業(yè)問題。而在工作人員的朋友圈,每天都在發(fā)布成交截圖。
如何規(guī)范市場
意識到數(shù)字人直播并沒有自己想象得靠譜,王順決定還是自己上播。他在社交媒體上發(fā)布了自己的經(jīng)歷,有多位同在一家公司購買數(shù)字人服務(wù)的用戶與他聯(lián)系。其中一位用戶向他表示,后續(xù)即便是經(jīng)過優(yōu)化和調(diào)整,直播間還是會因包含非實時直播的內(nèi)容或影響用戶體驗等違反平臺規(guī)則被封。王順開始報案并準(zhǔn)備維權(quán)。
湖南通程律師事務(wù)所的裴一霖律師曾接到多起關(guān)于數(shù)字人直播的咨詢。她經(jīng)常遇到的情況是,銷售方在賣出數(shù)字人產(chǎn)品后便無法聯(lián)系。她提到,這種行為可能涉嫌刑事責(zé)任,比如銷售方通過虛構(gòu)事實或誘導(dǎo),讓消費者基于錯誤的判斷或認(rèn)識購買產(chǎn)品,這構(gòu)成了基于錯誤認(rèn)識的財產(chǎn)處分行為,是典型的詐騙。面對這種情況,消費者應(yīng)立即向公安機關(guān)報案,并可同時向直播平臺提出投訴。
但裴一霖坦言,現(xiàn)實中這類產(chǎn)品通常設(shè)置的購買金額為2999、2888等,導(dǎo)致后續(xù)消費者在報案時或因被騙金額沒有達到3000元的立案標(biāo)準(zhǔn)而不被立案;想通過民事訴訟解決時也會因為找不到被告信息而無法立案。裴一霖建議,在購買這類數(shù)字人服務(wù)時一定要簽訂合同,要銷售方提供公司的經(jīng)營許可證等,以防后續(xù)出現(xiàn)各類糾紛。
12月16日,新京報記者在裁判文書網(wǎng)以“數(shù)字人直播”為關(guān)鍵詞檢索發(fā)現(xiàn),相關(guān)判決書在2024年有明顯增加,多起案例涉及數(shù)字人直播技術(shù)在實際應(yīng)用中遇到的問題,導(dǎo)致合同目的無法實現(xiàn),商家要求解除合同并退款。
其中有法院認(rèn)為平臺禁播等外部因素導(dǎo)致合同目的無法實現(xiàn),支持解除合同,判決部分退款;也有法院因雙方在合同中約定提供的是技術(shù)系統(tǒng)而非直播產(chǎn)品,判定軟件銷售公司對購買方在直播過程中出現(xiàn)封號和違規(guī)情況不負(fù)責(zé),駁回原告的請求。
裴一霖也提到,數(shù)字人系統(tǒng)作為一種新興產(chǎn)品,在交付上確實需要有一定的標(biāo)準(zhǔn)。這些標(biāo)準(zhǔn)應(yīng)包括產(chǎn)品的功能、技術(shù)實現(xiàn)、服務(wù)內(nèi)容等細(xì)節(jié),以及確保服務(wù)提供機構(gòu)在法律上的合規(guī)性。
她表示,如果是直播平臺的規(guī)則導(dǎo)致合同無法履行,這通常不被視為不可抗力。如果技術(shù)提供方在合同中聲明不對違規(guī)情況負(fù)責(zé),這種免責(zé)聲明可能在一定程度上有效,但并不能免除其所有責(zé)任。特別是當(dāng)技術(shù)提供方的產(chǎn)品存在質(zhì)量問題或虛假宣傳等導(dǎo)致用戶違規(guī)時,免責(zé)聲明不能成為其逃避責(zé)任的借口。
除了因數(shù)字人直播軟件買賣帶來的合同糾紛,因數(shù)字人直播產(chǎn)生的其他亂象也引發(fā)業(yè)內(nèi)人士的擔(dān)憂。
張家港公安局曾針對“AI數(shù)字人直播教學(xué)”發(fā)布風(fēng)險提示,不法分子以“AI數(shù)字人直播教學(xué)”為由實施詐騙,不少群眾因此上當(dāng)受騙。警方提示,不法分子通過在各大社交媒體應(yīng)用上通過冒充主播或發(fā)布短視頻等手法進行引流,精準(zhǔn)把握受害人想通過躺平賺大錢的投機心理,通過承諾低成本、高回報等誘人利益,滿足受害者快速致富、追求成功的自尊心和欲望,成功致使受害人落入詐騙圈套。
更嚴(yán)重的是,依托于人工智能和機器學(xué)習(xí)的“深度偽造”,引發(fā)了更廣泛的社會和法律問題。身處數(shù)字人行業(yè),于捷提到,數(shù)字人合成由口型驅(qū)動的,僅僅只需要一小段視頻就可以克隆。近日,知名傳染病學(xué)專家“張文宏”深夜帶貨蛋白棒引發(fā)關(guān)注。據(jù)媒體報道,有自媒體賬號利用AI深度合成“張文宏”帶貨視頻,張文宏稱這樣的賣貨賬號不止一個,且一直不斷在變,多次向平臺投訴但屢禁不絕。
裴一霖表示,法律本就有滯后性,但也具有穩(wěn)定性。她建議,可以通過立法明確數(shù)字人直播的法律地位、責(zé)任主體和監(jiān)管要求等。此外,還需加強行業(yè)自律,例如電商平臺在法律框架內(nèi)自行完善有關(guān)規(guī)則,推動數(shù)字人直播帶貨的規(guī)范化發(fā)展,也有助于解決現(xiàn)有問題。
相關(guān)政策也正在完善中。為了防止深度偽造技術(shù)和數(shù)字人技術(shù)的無序濫用,9月24日,浙江省市場監(jiān)管局發(fā)布《浙江省網(wǎng)絡(luò)直播營銷行為規(guī)范指引》,首次對AI數(shù)字人直播進行規(guī)范。
《指引》列明了30條經(jīng)營者合規(guī)要求,明確禁止通過虛假內(nèi)容誘導(dǎo)消費者進入直播間,未經(jīng)授權(quán)不得使用或偽造他人聲音、肖像制作引流廣告,同時要求在使用可能導(dǎo)致公眾混淆的AI數(shù)字人時,必須進行顯著標(biāo)識,明顯區(qū)分于自然人名義或形象,不得隱匿AI數(shù)字人標(biāo)識,以維護直播營銷秩序和消費者權(quán)益。
在采訪的最后,于捷提到自己在工作中的矛盾心態(tài):不管如何宣傳,目前的數(shù)字人直播也沒有辦法取代真人直播,除非能夠打破技術(shù)壁壘,而那需要多久尚未可知。
(文中王順、胡永林、于捷、闞闞均為化名)