法院，幫AI大模型“反詐”
見(jiàn)多了“李逵”訴“李鬼”，沒(méi)想到還會(huì )碰到“李鬼”訴“李逵”……2024年3月，上海市青浦區人民法院西虹橋(進(jìn)口博覽會(huì ))人民法庭受理了一起低知名度商標權利人起訴高知名度商標權利人的“傍名牌”案件，由此逐步揭開(kāi)了部分人員利用AI大模型技術(shù)實(shí)施“虛假”取證的真相……
在數字化浪潮的推動(dòng)下，擁有自主學(xué)習和處理海量數據能力的AI大模型技術(shù)，正成為推動(dòng)新質(zhì)生產(chǎn)力發(fā)展的關(guān)鍵力量。人民法院在支撐和服務(wù)新質(zhì)生產(chǎn)力發(fā)展的同時(shí)，如何確保司法公正不被技術(shù)操縱，記者決定到西虹橋法庭一探究竟。
“李鬼”訴“李逵”
“第一次拿到這起案件時(shí)，我還以為是一起‘普通’的侵害商標權糾紛案件。”見(jiàn)到該案承辦法官趙暉暉時(shí)，他正在上海法院辦案系統前，認真梳理著(zhù)證據材料。
趙暉暉告訴記者，這起案件跟社會(huì )關(guān)注的“競價(jià)排名”有關(guān)。原告作為“海上祥云”(化名)商標的注冊人，在某搜索引擎平臺輸入“海上祥云面點(diǎn)加盟官方網(wǎng)站”后發(fā)現，占據首位的竟然是“上海祥云面點(diǎn)網(wǎng)站-加盟總部-專(zhuān)注餐飲加盟20年”廣告鏈接，點(diǎn)擊進(jìn)入網(wǎng)頁(yè)后，介紹的也是“祥云面點(diǎn)”的加盟流程和品牌優(yōu)勢。
原告認為，被告購買(mǎi)了搜索引擎的廣告服務(wù)，并有意選用了與“海上祥云”商標相近的搜索關(guān)鍵詞進(jìn)行網(wǎng)絡(luò )推廣，侵害了自己的商標權利，因此起訴到法院，要求被告賠償經(jīng)濟損失及合理開(kāi)支。
可仔細一想，趙暉暉發(fā)現了不對勁。
“祥云面點(diǎn)”的知名度遠遠高于“海上祥云”，為什么還要“傍名牌”“蹭熱度”？趙暉暉撥通了被告“祥云面點(diǎn)”商標權人的電話(huà)。“我們從來(lái)沒(méi)有添加過(guò)‘海上祥云’等關(guān)鍵詞。”對方極力否認侵權。
根據以往的辦案經(jīng)驗，只要向搜索引擎平臺調取被告的關(guān)鍵詞設置歷史記錄，這類(lèi)案件一般就可以真相大白了。于是，青浦區法院向涉案搜索引擎公司發(fā)出了協(xié)助調查函，而根據該公司提供的數據，被告確實(shí)沒(méi)有設置過(guò)“海上祥云”等關(guān)鍵詞。
得知這一結論后，原告代理律師提起了撤訴。
然而，兩個(gè)月后，趙暉暉又承辦了一起類(lèi)似的商標侵權案，被告依然是“祥云面點(diǎn)”的商標權人，被訴侵權行為依然是利用原告商標進(jìn)行類(lèi)似的網(wǎng)絡(luò )推廣，不同的是原告變成了“四季冒菜”(化名)商標的注冊人。
“更蹊蹺的是，我們比對后發(fā)現，這兩起案件的原告都委托了同一個(gè)律師團隊進(jìn)行法律代理。正值上海法院全面推進(jìn)數字法院建設，我們通過(guò)辦案系統的‘數助辦案’功能檢索后進(jìn)一步確認，這個(gè)律師團隊竟然在全國代理了400起類(lèi)似的案件。”趙暉暉說(shuō)。
由于這些案件涉及到同一個(gè)搜索引擎平臺，趙暉暉決定將搜索引擎公司作為第三人參加訴訟。
而在這時(shí)，搜索引擎公司也發(fā)現了異樣，并進(jìn)行了細致的查證工作。“根據我方的后臺記錄，原告通過(guò)同一IP進(jìn)行了多次且連續的非正常搜索，觸發(fā)了搜索引擎系統故障，才導致被告的網(wǎng)址鏈接出現在搜索結果頁(yè)面。”搜索引擎公司的代理律師在庭審中辯解道。
既然是系統BUG惹的禍，原告代理團隊與搜索引擎公司確認后，很快申請了撤訴，并承諾將其他在訴案件申請撤訴，擬訴案件今后不再起訴。
這個(gè)結果可謂皆大歡喜，可趙暉暉心中卻埋下了疑惑的種子：原告代理團隊為什么要非正常搜索？這些訴訟行為的真正動(dòng)機是什么？
破解技術(shù)惡意取證
審判工作不能簡(jiǎn)單地止于糾紛化解，還要進(jìn)一步發(fā)揮司法的延伸作用。
2024年8月17日下午，一場(chǎng)期待已久的知識產(chǎn)權司法保護座談會(huì )“如約而至”。應青浦區法院邀請，搜索引擎公司商業(yè)產(chǎn)品法務(wù)部負責人李先生專(zhuān)程從北京飛往上海，來(lái)到西虹橋法庭進(jìn)行深入交流。陪同的還有該公司上海地區的法律顧問(wèn)。
而就是在這場(chǎng)會(huì )議中，趙暉暉獲知了一條重要信息：400起案件都發(fā)生在搜索引擎平臺引入大模型技術(shù)的關(guān)鍵時(shí)期!
原來(lái)，近年來(lái)，AI大模型作為新質(zhì)生產(chǎn)力的重要驅動(dòng)力，在國內外均呈現迅猛發(fā)展態(tài)勢，其商業(yè)化應用已覆蓋醫療、金融等多個(gè)領(lǐng)域，展現出顯著(zhù)的行業(yè)價(jià)值。為了維持“頭部”企業(yè)優(yōu)勢，搜索引擎公司也引入了這項先進(jìn)技術(shù)，希望通過(guò)大模型強大的自我學(xué)習能力，不斷優(yōu)化搜索結果，以更好地適應和反映用戶(hù)的偏好。
“那么，大模型是怎么運作的？本案中的系統BUG又是如何出現的？”在審理這些案件之前，趙暉暉對大模型技術(shù)并不是特別了解，他抓住座談交流的機會(huì )，拋出了心中的疑惑。
“我舉一個(gè)通俗易懂的例子。”李先生解釋道，“比如我詢(xún)問(wèn)大模型，我們公司的CEO是誰(shuí)，它一開(kāi)始也許會(huì )提供一個(gè)準確的答復。但是，如果我持續對答案提出質(zhì)疑，大模型就會(huì )陷入懷疑，CEO會(huì )不會(huì )是另一個(gè)人，經(jīng)過(guò)一定時(shí)間的學(xué)習后，可能就會(huì )調整回答，反饋給我一個(gè)錯誤的信息。”
李先生進(jìn)一步介紹，對應到這批案件中，原告律師團隊持續搜索“海上祥云面點(diǎn)加盟官方網(wǎng)站”或“四季冒菜”等相關(guān)詞組，跳出正確的網(wǎng)頁(yè)鏈接后卻不點(diǎn)擊進(jìn)入，直到被告“祥云面點(diǎn)”的推廣鏈接出現在第一個(gè)詞條，才點(diǎn)擊查看，導致大模型出現“幻覺(jué)”，認為“祥云面點(diǎn)”推廣頁(yè)面是“正確答案”，從而輸出了貌似侵權的結果。
“這哪里是簡(jiǎn)單的系統BUG，明明是數據訓練出現了‘樣本污染’，這是一場(chǎng)蓄謀的欺詐，一場(chǎng)針對大模型的欺詐。”趙暉暉突然驚覺(jué)。
出席座談會(huì )的西虹橋法庭法官們也意識到了問(wèn)題的嚴重性，紛紛為李先生分析了潛在的訴訟風(fēng)險：
“這類(lèi)案件具有批量化特點(diǎn)，如果搜索引擎公司直接被列為被告，頻繁應訴將花費大量的資源。”
“即使公司不被列為被告，后期也可能面臨很多無(wú)端的追償。”
“更為嚴重的是，如果搜索引擎平臺的行為被定性為侵權，對于正處于發(fā)展關(guān)鍵期的大模型技術(shù)來(lái)說(shuō)，可能將是一場(chǎng)災難。”
“感謝法院幫我們化解了糾紛，還及時(shí)發(fā)現了潛在的風(fēng)險，推動(dòng)我們加強大模型的后續訓練與升級。”李先生向青浦區法院法官連連致謝，并代表公司將一塊“專(zhuān)業(yè)審判護航新質(zhì)生產(chǎn)力發(fā)展”牌匾遞到了法官們手中。
協(xié)同推進(jìn)知識產(chǎn)權司法保護
“對于這次審判實(shí)踐，我們有一個(gè)形象的比喻，叫‘幫大模型反詐’。”西虹橋法庭副庭長(cháng)陳強告訴記者，結束座談會(huì )后，法庭內部也展開(kāi)了一場(chǎng)“頭腦風(fēng)暴”。
一方面，為適應新質(zhì)生產(chǎn)力發(fā)展需求，應對知識產(chǎn)權保護領(lǐng)域中出現的新情況、新問(wèn)題，法庭研究后決定，向搜索引擎公司發(fā)送司法建議，提醒該公司強化數據訓練、積極構建與客戶(hù)的溝通機制、加強大模型的日常監測與預警能力，推動(dòng)人工智能在新質(zhì)生產(chǎn)力發(fā)展中發(fā)揮積極作用。
另一方面，對于涉嫌非正常訴訟的原告代理團隊，法庭也制定了約談、查證以及后續處理的相關(guān)計劃。
“我們一致認為，司法應當保護大模型等新技術(shù)、新產(chǎn)品，但對于利用這些新技術(shù)、新產(chǎn)品實(shí)施的違法犯罪行為，還是要及時(shí)地進(jìn)行規制。”陳強說(shuō)。
記者了解到，搜索引擎公司收到法院發(fā)送的司法建議后，給予了積極回應，表示已經(jīng)在流量監控、數據訓練和模型優(yōu)化等層面進(jìn)行了多角度升級，進(jìn)一步確保了大模型技術(shù)應用的正當性與合法性。
長(cháng)期以來(lái)，位于國家會(huì )展中心的西虹橋法庭，主要受理涉進(jìn)口博覽會(huì )、涉會(huì )展業(yè)、涉國家會(huì )展中心的民商事案件，以及具有涉外性質(zhì)的商事案件。自2022年7月，上海市高級人民法院對知識產(chǎn)權案件管轄作出調整后，法庭開(kāi)始增加受理青浦區轄區內的知識產(chǎn)權案件。
“與知識產(chǎn)權司法保護工作起步晚形成對比，隨著(zhù)北斗產(chǎn)業(yè)園、華為練秋湖研發(fā)中心、上海美的全球創(chuàng )新園區等項目落地，轄區高新技術(shù)企業(yè)越來(lái)越多，案件的新穎性、前沿性、復雜性也越來(lái)越明顯，如何做好知識產(chǎn)權審判工作，是法庭必須面對的難題。”陳強說(shuō)。
青浦區法院堅持協(xié)同保護理念，攜手區檢察院、區市場(chǎng)監管局，共同編織青浦區知識產(chǎn)權全鏈條保護網(wǎng)絡(luò )。并在此基礎上，進(jìn)一步發(fā)揮區位優(yōu)勢，吉印通上海青浦、浙江嘉善、江蘇吳江三地司法與行政力量，構建起長(cháng)三角示范區知識產(chǎn)權保護的堅固防線(xiàn)。
“根據各方共同簽署的框架協(xié)議，我們將通過(guò)涉訴信息共享、調查取證協(xié)作、案件研討交流、典型案例吉印通發(fā)布、失信主體黑名單共同管理等舉措，進(jìn)一步加強對涉新質(zhì)生產(chǎn)力企業(yè)案件的高效處置和前瞻調研，以此擴大知識產(chǎn)權保護的覆蓋面與影響力。”陳強解釋。
而上海數字法院建設也為知識產(chǎn)權保護開(kāi)拓了新局面。“通過(guò)‘數助辦案’功能模塊，我們可以及時(shí)洞察批量關(guān)聯(lián)案件中的潛在問(wèn)題與異常模式，這是傳統個(gè)案審理無(wú)法實(shí)現的。”趙暉暉介紹。
目前，青浦區法院已經(jīng)在數字化轉型道路上更進(jìn)一步。該院申報的“涉惡意訴訟智能提示”應用場(chǎng)景正在加速推進(jìn)中，旨在通過(guò)大數據分析與智能算法，自動(dòng)識別并預警潛在的惡意訴訟行為。
“在法治中國的航標指引下，我們要做的，就是照亮創(chuàng )新之路，為新興產(chǎn)業(yè)的航程提供堅實(shí)的法治之盾。”青浦區法院黨組書(shū)記、院長(cháng)方正杰告訴記者，“希望在司法的守護下，每一項創(chuàng )新都能在新質(zhì)生產(chǎn)力的浪潮中茁壯成長(cháng)，每一次探索都能在公正的法治環(huán)境中勇敢前行，共同繪制出一幅法治與創(chuàng )新交相輝映的美好圖景。”(記者 郭燕 通訊員 許超 李德耀)
來(lái)源：人民法院報
