在數(shù)字時代的浪潮下，AI技術迅猛發(fā)展，為社會帶來了諸多便利與革新。但技術從來都是一把“雙刃劍”，AI技術也被一些別有用心之人利用，成為造謠生事、擾亂社會秩序的“幫兇”，一條隱秘的AI造謠利益鏈悄然形成。
不久前，公眾號運營者鐘某為蹭“海嘯預警”熱點，借助AI生成“30萬居民撤離上海”等虛假信息，引發(fā)社會恐慌，最終被警方拘留。這絕非個例，從“四川峨眉山人猴大戰(zhàn)，猴王被當場擊斃”的虛假視頻，到“7月1日起老年人坐火車可打折”的偽政策消息，再到“山西大同懸空寺部分建筑物坍塌”的惡意造謠，AI生成的謠言如病毒般在網(wǎng)絡中擴散，嚴重干擾公眾認知，破壞社會公序良俗。
AI造謠現(xiàn)象之所以愈演愈烈，背后離不開巨大的利益誘惑。據(jù)央媒報道，部分MCN機構利用AI工具每天發(fā)數(shù)千條謠言，收入萬元以上。江西曾查處一起典型案件，涉案人王某某經(jīng)營的5家MCN機構，運營著842個自媒體賬號，長期組織員工篩選熱點文章，通過AI篡改、編造不實內容吸粉引流，以此賺取平臺收益；重慶網(wǎng)民康某余為靠流量牟利，用AI編造“某地發(fā)生爆炸事故”的謠言；四川網(wǎng)民楊某則組織多名兼職人員，借助AI生成“廣州限制外賣配送”的虛假信息……這些妄圖借AI造謠獲利的行為，最終都受到了公安機關的依法懲治。
對于普通民眾而言，在信息爆炸的時代，面對海量網(wǎng)絡信息，提升自身辨別能力，理性思考，才能讓不法分子無利可圖。
面對AI造謠這一嚴峻挑戰(zhàn)，僅靠單一力量難以根治，必須多管齊下，從源頭扯斷其背后的利益鏈。9月15日，《人工智能安全治理框架》2.0版正式發(fā)布。中央網(wǎng)信辦負責人表示，要強化規(guī)范引導，不斷完善人工智能安全監(jiān)管制度和標準規(guī)范體系，促進人工智能健康有序發(fā)展。
同時，網(wǎng)絡平臺作為信息傳播的關鍵樞紐，應切實履行主體責任：一方面要加大對AI生成內容的審核力度，及時發(fā)現(xiàn)并攔截謠言；另一方面需完善用戶實名認證與信用評價體系，對違規(guī)造謠用戶采取限制功能、封禁賬號等措施，同時優(yōu)化流量分發(fā)和收益分成規(guī)則，讓造謠者無法通過平臺獲取利益。此外，提升公眾網(wǎng)絡素養(yǎng)也不可或缺，相關部門可通過公益宣傳、社區(qū)講座等形式，普及辨別AI謠言的知識，引導公眾保持理性，從根本上減少謠言傳播空間。
（大眾新聞·經(jīng)濟導報記者 趙帥）
|
