李某為某金融公司員工，在某征婚交友平臺注冊后，提交了真實照片作為頭像，并填寫了實名認(rèn)證的手機(jī)號。在李某正常使用平臺期間，平臺對其賬戶進(jìn)行了封號處理，并向其他網(wǎng)友提示稱“賬號可能存在異常”“不要與之發(fā)生金錢來往”等。
該情況導(dǎo)致李某多位朋友誤認(rèn)為李某是騙子，造成原告名譽受損。李某訴至北京互聯(lián)網(wǎng)法院，認(rèn)為該征婚交友平臺實施的算法技術(shù)造成誤判，侵犯其名譽權(quán)，請求法院判令運營者在平臺上公開向李某道歉予以澄清，并賠償李某損失2萬元。平臺運營者稱，其按照法律法規(guī)的規(guī)定，對用戶在平臺的行為進(jìn)行監(jiān)管，履行平臺主體責(zé)任。李某為該平臺注冊用戶，在與平臺其他用戶聊天過程中，短期內(nèi)多次被檢測到出現(xiàn)“金融”“基金”“加微信”等“殺豬盤”詐騙案件所涉高頻詞匯，從而自動觸發(fā)了平臺風(fēng)控系統(tǒng)的審核規(guī)則。此后，李某致電客服反映情況，平臺經(jīng)人工核實后對該賬戶進(jìn)行解封。因此，平臺運營者稱，其行為僅是為公共利益依法履行主體監(jiān)管責(zé)任，系統(tǒng)自動判李某告賬戶為風(fēng)險賬號，不存在侵權(quán)行為。法院：平臺應(yīng)用算法時盡到相關(guān)義務(wù)
訴訟過程中，平臺運營者提交了《關(guān)于涉案軟件風(fēng)控審核系統(tǒng)的情況說明》及相關(guān)證據(jù)，解釋其“預(yù)防性風(fēng)控系統(tǒng)”算法邏輯機(jī)理，盡到了相應(yīng)的算法披露義務(wù)。結(jié)合雙方訴辯意見，北京互聯(lián)網(wǎng)法院認(rèn)為，本案的主要爭議點為，涉案平臺的運營者采取涉案算法風(fēng)控行為是否存在主觀過錯，并結(jié)合以下因素予以評判：
1. 行為目的和主觀意圖、是否具有正當(dāng)性。根據(jù)涉案“預(yù)防性風(fēng)控系統(tǒng)”針對的詞匯和行為可見，該系統(tǒng)設(shè)置目的確系為預(yù)防“殺豬盤”等網(wǎng)絡(luò)詐騙行為，系為實現(xiàn)法律要求的監(jiān)管義務(wù)和公共利益，具有正當(dāng)性。2. 行為手段和性質(zhì)、侵害人身權(quán)益的風(fēng)險性程度、行為過程的審慎程度。算法設(shè)置需在現(xiàn)有技術(shù)條件下合理、合比例，不得存在算法歧視、算法濫用等侵害他人合法權(quán)益的非法手段，根據(jù)已查明的事實及被告披露算法邏輯過程，涉案算法設(shè)置系基于特定詞匯和用戶行為的自動化反應(yīng)機(jī)制，并不存在對某類用戶的不當(dāng)歧視。3. 行為主體身份的特點、技術(shù)能力水平及所附注意義務(wù)。鑒于涉案平臺為陌生人網(wǎng)絡(luò)交友戀愛類平臺，在目前社會背景下加強(qiáng)“殺豬盤”等網(wǎng)絡(luò)詐騙犯罪的篩查力度，于被告服務(wù)類型來說具有一定合理性。4. 是否采取了預(yù)防侵權(quán)的合理措施。被告確按照其承諾的人工審核方式，在聲明的期限內(nèi)核查誤判并解除賬戶封禁和風(fēng)險提示，盡到了與涉案算法風(fēng)險相匹配的注意義務(wù)。綜上，涉案平臺運營者基于法律監(jiān)管要求和公共利益保護(hù)的目的，設(shè)置“預(yù)防性風(fēng)控系統(tǒng)”算法應(yīng)用，對用戶行為進(jìn)行中立、無差別的風(fēng)險篩查，雖因技術(shù)水平所限造成系統(tǒng)誤判，但盡到了與涉案算法風(fēng)險相匹配的注意義務(wù)，并采取了合理的預(yù)防侵權(quán)措施，并無主觀過錯，不構(gòu)成侵權(quán)。
最終，北京互聯(lián)網(wǎng)法院駁回原告的訴訟請求。一審判決后，雙方均未上訴，該案判決已生效。
鼓勵算法創(chuàng)新，減少算法應(yīng)用亂象
隨著數(shù)字經(jīng)濟(jì)背景下大數(shù)據(jù)、人工智能技術(shù)的飛速發(fā)展，算法技術(shù)被廣泛運用于互聯(lián)網(wǎng)應(yīng)用場景中。與此同時，“大數(shù)據(jù)殺熟”“算法歧視”“誘導(dǎo)沉迷”“操縱榜單”“最嚴(yán)算法”“深度偽造”等算法應(yīng)用亂象也時有發(fā)生。如何構(gòu)建鼓勵算法行業(yè)發(fā)展與規(guī)制不當(dāng)運用的算法治理秩序，成為算法侵權(quán)案件司法裁判關(guān)注的重點。本案對于算法侵權(quán)糾紛的裁判作出以下探索：
一是針對“算法黑箱”問題。算法應(yīng)用過程存在技術(shù)隱蔽性，考察算法行為是否構(gòu)成侵權(quán)的前提需明確涉案算法運行的機(jī)制機(jī)理。本案中，法院認(rèn)定，被告作為涉案軟件的運營者，對算法應(yīng)用過程具有披露義務(wù)，應(yīng)提供證據(jù)證明涉案侵權(quán)行為系算法技術(shù)的實施所引發(fā)，并對算法運用的具體機(jī)理予以說明。二是針對“過錯認(rèn)定”問題。法院結(jié)合算法技術(shù)特點和相關(guān)產(chǎn)業(yè)發(fā)展現(xiàn)狀，對于涉案算法應(yīng)用行為主觀過錯和侵權(quán)的認(rèn)定，確立了算法行為目的和主觀意圖、是否具有正當(dāng)性，行為手段和性質(zhì)、侵害人身權(quán)益的風(fēng)險性程度、行為過程的審慎程度、是否采取了預(yù)防侵權(quán)的合理措施，行為主體身份的特點、技術(shù)能力水平及所附注意義務(wù)等綜合性評判因素。此外，針對“風(fēng)險控制”領(lǐng)域，2022年《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》和《中華人民共和國反電信網(wǎng)絡(luò)詐騙法》均規(guī)定了網(wǎng)絡(luò)服務(wù)提供者需履行涉電信網(wǎng)絡(luò)詐騙信息監(jiān)測、識別和處置的義務(wù)。在此背景下，網(wǎng)絡(luò)服務(wù)提供者通過技術(shù)手段，強(qiáng)化對高危風(fēng)險賬戶的監(jiān)測和預(yù)防功能，具有算法技術(shù)運用的正當(dāng)性�；谒惴夹g(shù)特點和現(xiàn)有行業(yè)發(fā)展水平，對于關(guān)鍵詞和用戶行為的命中，可實現(xiàn)對海量信息的自動化篩查，提高監(jiān)測和采取措施的效率，但同時也不可避免產(chǎn)生系統(tǒng)誤判，命中有類似特點的合法行為。由于算法技術(shù)尚處于發(fā)展階段，相關(guān)行業(yè)規(guī)范尚未成熟，應(yīng)鼓勵算法技術(shù)創(chuàng)新和正向發(fā)展，合理確定注意義務(wù)，促使企業(yè)利用算法加大正向價值傳播，阻斷違法和不良信息傳播，讓網(wǎng)絡(luò)發(fā)展成果惠及廣大人民群眾。 
·請注意語言文明，尊重網(wǎng)絡(luò)道德，并承擔(dān)一切因您的行為而直接或間接引起的法律責(zé)任。
·長沙社區(qū)通管理員有權(quán)保留或刪除其管轄留言中的任意非法內(nèi)容。