券商中國(guó)
孫翔峰
2025-12-08 07:42
“雙十一”購(gòu)物熱潮剛過(guò)，不少電商賣(mài)家卻陷入了新的困擾：明明發(fā)出的是完好商品，卻收到買(mǎi)家附帶“破損圖片”的僅退款申請(qǐng)，仔細(xì)核查才發(fā)現(xiàn)這些“證據(jù)”竟是AI生成的偽造品。記者在網(wǎng)絡(luò)平臺(tái)上搜索相關(guān)詞條后，可以看到很多反映相關(guān)遭遇的帖子，記者聯(lián)系到多位網(wǎng)店店主，他們經(jīng)歷了什么？這些用AI加工過(guò)的退貨圖是怎么被發(fā)現(xiàn)的呢？
利用AI偽造商品瑕疵騙取賣(mài)家退款
據(jù)網(wǎng)店賣(mài)家王先生介紹，11月13日中午，一名曾在店鋪購(gòu)買(mǎi)過(guò)衣服的顧客發(fā)來(lái)消息稱(chēng)買(mǎi)到的衣服太小，肩寬很緊，要求退貨。王先生說(shuō)，這件衣服是根據(jù)買(mǎi)家提供的尺寸定制的，即便退貨也無(wú)法再次售出，所以他在網(wǎng)上告訴這名買(mǎi)家不需要寄回衣服，只需要銷(xiāo)毀衣服就可以申請(qǐng)退款。通過(guò)雙方的聊天記錄可以看到，面對(duì)顧客的訴求，王先生回復(fù)對(duì)方：“衣服剪一下拍個(gè)照，然后后臺(tái)申請(qǐng)僅退款。”
原價(jià)179元的衣服，在購(gòu)買(mǎi)時(shí)有折扣，實(shí)付金額為60.52元，通過(guò)王先生提供的一張退款詳情界面可以看到，雙方溝通不到一個(gè)小時(shí)后，退款成功。
但事后王先生又仔細(xì)查看買(mǎi)家發(fā)來(lái)的衣服被剪損的照片，發(fā)現(xiàn)多處細(xì)節(jié)都不符合常理，他懷疑這張圖并不是衣服真的被剪后拍攝的，而是使用AI工具制作的假痕跡圖。于是，王先生向平臺(tái)投訴這一行為，不久追回了退款。
一名售賣(mài)毛絨玩具的網(wǎng)店店主于女士也向記者講述了她前幾天的經(jīng)歷，有一名買(mǎi)家在自己店里購(gòu)買(mǎi)了玩具，然而在收貨時(shí)發(fā)來(lái)了一張顯示商品有問(wèn)題的圖片。
賣(mài)家 于女士：那個(gè)圖片上有一些類(lèi)似燒焦的感覺(jué)，看了那個(gè)照片感覺(jué)好像是掉在火里了一樣。
這位用戶(hù)向客服發(fā)來(lái)圖片并聲稱(chēng)“玩具壞了、都掉皮了”，然后以“質(zhì)量問(wèn)題”為由申請(qǐng)部分退款。
可店主于女士認(rèn)為毛絨玩具的服飾上有明顯的陶瓷制品痕跡，這種使用痕跡不符合常理。心存疑惑的于女士想到這種“怪異”的圖片很像朋友說(shuō)過(guò)的AI作圖，于是她將這張圖片保存下來(lái)上傳到一款A(yù)I工具，嘗試求證這張圖片的真?zhèn)巍?/p>
賣(mài)家 于女士：我把這個(gè)圖片發(fā)給AI問(wèn)了一下，AI講這張圖有很明顯的AI痕跡。
于是，店主于女士向平臺(tái)申訴，并拒絕這位用戶(hù)的退款申請(qǐng)，理由為“消費(fèi)者提供圖片為AI生成，屬惡意退款”。電商平臺(tái)審核后，駁回了該用戶(hù)的退款申請(qǐng)。
除了王先生和于女士這樣網(wǎng)店賣(mài)家通過(guò)申訴要回退款的之外，也有商家在網(wǎng)絡(luò)平臺(tái)上發(fā)帖表示被騙之后，沒(méi)能要回退款。
惡意網(wǎng)購(gòu)?fù)丝钚袨?/p>
是否構(gòu)成違法？
網(wǎng)購(gòu)?fù)丝畹那疤崾钦鎸?shí)訴求，可AI假圖卻成了“騙款工具”，這種鉆空子的操作僅僅是“不道德”嗎？是不是有欺詐之嫌？在法律層面該如何界定？商家又該如何維護(hù)自己的合法權(quán)益呢？
民法典規(guī)定，在訂立合同過(guò)程中，買(mǎi)賣(mài)雙方應(yīng)當(dāng)遵循誠(chéng)信原則。從王先生和于女士?jī)扇说脑庥鲋锌梢钥吹剑麄冇龅降馁I(mǎi)家在使用作假的方式試圖獲得不當(dāng)收益時(shí)，事實(shí)上已經(jīng)違背了這一原則。
中國(guó)政法大學(xué)刑事司法學(xué)院教授郭旨龍：如果他故意，但是數(shù)額較小，其實(shí)是可以構(gòu)成民事法上的欺詐，也可以構(gòu)成治安管理處罰法要處罰的違法性的欺詐行為。
專(zhuān)家介紹，如果買(mǎi)家騙取的金額大，還可能構(gòu)成刑事犯罪。
郭旨龍：構(gòu)成詐騙罪，在刑法上是有數(shù)額較大的要求。主觀上得有非法占有的目的，也就是他沒(méi)有正當(dāng)理由去要求僅退款，而是憑空捏造或者是明顯夸大這種程度，使得原來(lái)的小額退款變成了大額退款，也有可能構(gòu)成詐騙。比如通過(guò)生成一張圖片或者視頻騙取了數(shù)萬(wàn)元的退款，這就是由小額變成了大額。
針對(duì)這類(lèi)AI造假騙退款的糾紛，專(zhuān)家提醒，商家要第一時(shí)間把聊天記錄、假圖憑證等都保存好，不管是向平臺(tái)申訴，還是通過(guò)司法途徑，完整的證據(jù)都是維護(hù)自己權(quán)益的底氣。
郭旨龍：是比較常見(jiàn)的自力取證，也就是將客戶(hù)發(fā)過(guò)來(lái)的圖片和視頻放到自己下載的AI識(shí)別軟件上，將整個(gè)過(guò)程錄下來(lái)，然后提交法院。只要這個(gè)錄像過(guò)程是完整的、真實(shí)的，法院一般也會(huì)認(rèn)可它的證據(jù)效力。如果是涉及特別大額的，想讓證據(jù)效力更加完整，可能需要尋找專(zhuān)業(yè)機(jī)構(gòu)，在專(zhuān)業(yè)機(jī)構(gòu)的幫助下將整個(gè)鑒定的過(guò)程記錄下來(lái)，并且出具專(zhuān)業(yè)的鑒定證明文件。
AI生成內(nèi)容被濫用
如何從源頭治理？
AI作圖本是為用戶(hù)提供便捷服務(wù)的一種技術(shù)手段，但現(xiàn)在卻被別有用心的人當(dāng)成獲取不當(dāng)利益的工具，那么，此類(lèi)事件中除了商家事后的維權(quán)，如何從源頭解決問(wèn)題，預(yù)防此類(lèi)事件的發(fā)生呢？
根據(jù)《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》第三條規(guī)定，人工智能生成合成內(nèi)容標(biāo)識(shí)包括顯式標(biāo)識(shí)和隱式標(biāo)識(shí)。那么，此類(lèi)AI造假圖片上的標(biāo)識(shí)去哪兒了？記者就這一問(wèn)題進(jìn)行了實(shí)測(cè)。
以一箱蘋(píng)果為例，記者先對(duì)著這箱蘋(píng)果拍攝了一張照片，然后將照片上傳至AI平臺(tái)，在輸入簡(jiǎn)單指令之后，得到了這箱發(fā)霉變質(zhì)的蘋(píng)果的圖片，其效果可以說(shuō)是以假亂真了。而在其他AI軟件中，生成的照片也大都難以辨別真假。那么，這樣生成的AI圖片上是否有相應(yīng)的標(biāo)識(shí)呢？
記者發(fā)現(xiàn)，實(shí)測(cè)的這幾款A(yù)I軟件在生成圖片后，圖片的邊角上都有相應(yīng)的AI生成標(biāo)識(shí)。但在“千問(wèn)”等一些AI軟件中，卻有“無(wú)水印下載”的選項(xiàng)，以此路徑下載的圖片沒(méi)有任何的標(biāo)識(shí)用以證明圖片為AI生成圖片。
根據(jù)《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》第四條規(guī)定，服務(wù)提供者提供的生成合成服務(wù)應(yīng)在圖片的適當(dāng)位置添加顯著的提示標(biāo)識(shí)。也就是說(shuō)，這樣的“AI生成標(biāo)識(shí)”是必須的，不能隨意去除，這就要求AI服務(wù)提供者必須擔(dān)起責(zé)任。
AI服務(wù)提供商更應(yīng)強(qiáng)化源頭管控
網(wǎng)店店主于女士在面對(duì)疑似AI圖片時(shí)，首先想到用AI軟件進(jìn)行分辨，那么，AI軟件能做到識(shí)別真?zhèn)螁幔坑浾呔蛯?duì)這些帶有水印以及“無(wú)水印”下載的圖片再度分別進(jìn)行了實(shí)測(cè)。
通過(guò)畫(huà)面可以看到，當(dāng)把帶有AI標(biāo)識(shí)的圖片讓AI軟件進(jìn)行識(shí)別時(shí)，基本上所有的AI軟件都能夠進(jìn)行準(zhǔn)確識(shí)別。
隨后記者又將“無(wú)水印下載”的圖片上傳至AI軟件，進(jìn)行多次測(cè)驗(yàn)，分別詢(xún)問(wèn)其“圖片是否為AI合成”以及“圖片是否有AI修改痕跡”等問(wèn)題時(shí)，AI軟件的答案就不那么一致了。在多次測(cè)試過(guò)程中，這些AI生圖有時(shí)能夠被準(zhǔn)確識(shí)別，但有時(shí)候答案又是錯(cuò)誤的。
此外，如果把帶有AI標(biāo)識(shí)圖片中的標(biāo)識(shí)裁剪后，AI軟件也很難完全準(zhǔn)確識(shí)別出圖片是否有AI生成的痕跡。
而早在2023年1月10日起施行的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第十六條中也有明確規(guī)定，深度合成服務(wù)提供者對(duì)使用其服務(wù)生成或者編輯的信息內(nèi)容，應(yīng)當(dāng)采取技術(shù)措施添加不影響用戶(hù)使用的標(biāo)識(shí)，并依照法律、行政法規(guī)和國(guó)家有關(guān)規(guī)定保存日志信息。第十七條規(guī)定，在沉浸式擬真場(chǎng)景等生成或者編輯服務(wù)和其他具有生成或者顯著改變信息內(nèi)容功能的服務(wù)中，可能導(dǎo)致公眾混淆或者誤認(rèn)的，應(yīng)當(dāng)在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進(jìn)行顯著標(biāo)識(shí)，向公眾提示深度合成情況。也就是說(shuō)，技術(shù)開(kāi)發(fā)者應(yīng)當(dāng)在生成合成的文件內(nèi)容中添加顯式及隱式標(biāo)識(shí)，即讓用戶(hù)事前看得到，事后查得著。
郭旨龍：服務(wù)提供者是有義務(wù)添加顯示標(biāo)識(shí)的，必須在明顯的地方標(biāo)識(shí)，讓看的人一眼就能看出來(lái)這是人工智能生成的內(nèi)容。
專(zhuān)家認(rèn)為，AI生成內(nèi)容的規(guī)范治理，既需要監(jiān)管規(guī)則的剛性約束，也離不開(kāi)服務(wù)提供者的主動(dòng)作為。對(duì)于涉及食品、商品等直接關(guān)系消費(fèi)權(quán)益的合成內(nèi)容，AI服務(wù)提供商更應(yīng)強(qiáng)化源頭管控。
人工智能技術(shù)算法工程師 蕭子豪：需要AI服務(wù)提供商內(nèi)部更加細(xì)致地設(shè)計(jì)他們的產(chǎn)品，如果合成內(nèi)容跟食物或跟一些商品有關(guān)的情況下，需要他們加大對(duì)用戶(hù)指令意圖的判斷，可能會(huì)加大水印的面積。尤其是用戶(hù)量比較多的一些AI平臺(tái)，有責(zé)任對(duì)用戶(hù)怎么使用這個(gè)工具進(jìn)行監(jiān)管，對(duì)一些真的有不法意圖的用戶(hù)，給比較嚴(yán)重的懲罰和持續(xù)監(jiān)控，雙管齊下會(huì)對(duì)整個(gè)生態(tài)好一些。
人工智能技術(shù)專(zhuān)業(yè)人士指出，對(duì)于AI加工后的圖片，商家很難憑肉眼觀察得出結(jié)論，這就需要交易平臺(tái)提供相應(yīng)的技術(shù)手段予以辨別。
郭旨龍：現(xiàn)在AI生成的鑒定的確通過(guò)肉眼沒(méi)法完全識(shí)別，因?yàn)樗梢燥@得非常逼真。而且隨著技術(shù)的發(fā)展，它會(huì)越來(lái)越逼真。交易平臺(tái)去及時(shí)有效地部署相關(guān)的檢測(cè)技術(shù)，那就是在買(mǎi)家提供圖片視頻的時(shí)候，這個(gè)平臺(tái)進(jìn)行自動(dòng)檢測(cè)，檢測(cè)完了之后再進(jìn)行退款，或者再轉(zhuǎn)給商家自行去處理。
莫用欺詐手段“薅羊毛”依法守護(hù)科技向善
AI作圖很方便，但別用錯(cuò)地方。用AI偽造瑕疵圖騙取退款看著是“薅羊毛”，實(shí)則觸碰法律底線。這可不是用“小聰明”省錢(qián)，它是不誠(chéng)信行為、涉及欺詐，嚴(yán)重的可能構(gòu)成詐騙。
科技應(yīng)向善生長(zhǎng)。在享受新科技成果帶來(lái)便利的同時(shí)，更得守誠(chéng)信、知敬畏，別讓好技術(shù)變成“歪心思”的工具，共同護(hù)好市場(chǎng)的公平。
來(lái)源：央視新聞客戶(hù)端
中央網(wǎng)信辦違法和不良信息舉報(bào)中心|證券時(shí)報(bào)網(wǎng)舉報(bào)中心