算法可以計(jì)算流量,但不能算計(jì)人心;技術(shù)可以模擬情感,但無(wú)法替代真實(shí)的關(guān)愛。阻斷AI幻象滲透和蔓延的鏈條,守護(hù)好每個(gè)人的數(shù)字安全與情感尊嚴(yán),這是應(yīng)對(duì)“數(shù)字情感收割”的基本原則,也是技術(shù)向善的題中應(yīng)有之義。
短視頻平臺(tái)上,身著正裝、開著豪車、戴著金表的“儒雅霸總”,張口“姐姐”、閉口“想你”,噓寒問(wèn)暖甚至下跪求婚……據(jù)4月13日新華社報(bào)道,這些“AI霸總”或是AI數(shù)字人,或是經(jīng)AI換臉、擬聲偽造的形象,話術(shù)直白,戳中不少老年粉絲的心意。即便視頻下方標(biāo)注著“內(nèi)容由AI生成”,一些老年粉絲依舊深信不疑。記者搜索關(guān)鍵詞發(fā)現(xiàn),僅平臺(tái)推送來(lái)的“AI霸總”賬號(hào)就達(dá)上百個(gè),數(shù)個(gè)賬號(hào)粉絲達(dá)到十幾萬(wàn)。
嘴上都是“情意”,心里全是生意——“AI霸總”類賬號(hào)打著“高端人設(shè)”的幌子與老年人進(jìn)行情感交流,為的是最大限度積累流量,后續(xù)通過(guò)多種方式變現(xiàn),包括賺取平臺(tái)流量收益,開展帶貨、打賞或私域營(yíng)銷活動(dòng),為婚戀、醫(yī)療、養(yǎng)老等其他商業(yè)機(jī)構(gòu)引流賺取傭金等。從AI數(shù)字人制作、文案批量生成,到引流、互動(dòng)、轉(zhuǎn)化,每一環(huán)都在算計(jì)如何從老人的情感需求中榨取價(jià)值。
“AI霸總”圍獵老年人,本質(zhì)上是對(duì)人性弱點(diǎn)的精準(zhǔn)攻擊。一方面,時(shí)下,獨(dú)居、空巢是不少銀發(fā)群體的常態(tài),“霸總”人設(shè)中的“霸道寵溺”“專一深情”,填補(bǔ)了一些老年人的情感空白。另一方面,銀發(fā)群體中的不少人對(duì)AI技術(shù)的認(rèn)知有限,難以理解“眼見未必為實(shí)”的道理。此外,技術(shù)手段大幅降低了“AI換臉”“擬聲合成”的成本,加之平臺(tái)算法持續(xù)為老年用戶推送同類高濃度內(nèi)容,從而令一些銀發(fā)族陷入“情感空虛—邂逅霸總—尋求互動(dòng)—被精準(zhǔn)收割”的窘境。
“AI霸總”讓一些老年人“上頭”的同時(shí),也為其帶來(lái)多重風(fēng)險(xiǎn)。在財(cái)產(chǎn)安全層面,從直播間帶貨、付費(fèi)解鎖“專屬陪伴”,到誘導(dǎo)轉(zhuǎn)賬、投資“高回報(bào)項(xiàng)目”,老年人的養(yǎng)老錢可能被一步步掏空。在身心健康層面,過(guò)度沉迷虛擬互動(dòng),會(huì)加劇老年人現(xiàn)實(shí)中的孤獨(dú)感。在個(gè)人信息安全方面,老年人個(gè)人隱私信息可能被獲取,成為進(jìn)一步精準(zhǔn)收割的“原料”。
曾經(jīng),我們擔(dān)心老年人被“干兒子、干女兒”們誘騙買保健品;后來(lái),一些老年人落入了短視頻平臺(tái)上的假明星騙局;再后來(lái),“AI+”對(duì)銀發(fā)群體的誘騙成為了一套可批量復(fù)制的收割模型。這一過(guò)程中,圍獵手段從“人工話術(shù)”升級(jí)到“AI量產(chǎn)”,從“一對(duì)一突破”進(jìn)化到“即使千人千面也能精準(zhǔn)營(yíng)銷”……AI技術(shù)的迭代速度超過(guò)了治理的反應(yīng)速度。對(duì)此,相關(guān)部門已經(jīng)出臺(tái)規(guī)定對(duì)AI生成內(nèi)容進(jìn)行強(qiáng)制標(biāo)注,但這顯然遠(yuǎn)遠(yuǎn)不夠。在AI技術(shù)快速發(fā)展的時(shí)代,相關(guān)治理需要多些未雨綢繆。
一方面,平臺(tái)方不能只為技術(shù)做“嫁衣”,還應(yīng)承擔(dān)起內(nèi)容審核的倫理責(zé)任;技術(shù)開發(fā)者在追求模型迭代的同時(shí),也應(yīng)主動(dòng)嵌入倫理設(shè)計(jì);監(jiān)管部門則需依法嚴(yán)厲打擊利用AI實(shí)施的情感詐騙、虛假宣傳等行為,落實(shí)“誰(shuí)使用、誰(shuí)負(fù)責(zé)”的主體責(zé)任,讓“AI不是免責(zé)金牌”成為共識(shí)和鐵律。
另一方面,無(wú)論是家庭還是社會(huì),需要進(jìn)一步看見那些被忽視的情感需求與渴望。“AI霸總”視頻的評(píng)論區(qū)里,有粉絲說(shuō)“就算你是假的,我也愿意信一回。”可見,澆滅一系列AI幻象與相關(guān)人群之間的“火花”,有必要以更可行、更智慧的方式滿足相關(guān)群體的情感需求,這需要各方伸出溫暖的手,拉相關(guān)群體走出“情感孤島”。
算法可以計(jì)算流量,但不能算計(jì)人心;技術(shù)可以模擬情感,但無(wú)法替代真實(shí)的關(guān)愛。阻斷AI幻象滲透和蔓延的鏈條,守護(hù)好每個(gè)人的數(shù)字安全與情感尊嚴(yán),這是應(yīng)對(duì)“數(shù)字情感收割”的基本原則,也是技術(shù)向善的題中應(yīng)有之義。