李某為某金融公司員工，在某征婚交友平臺注冊后，提交了真實照片作為頭像，并填寫了實名認證的手機號。在李某正常使用平臺期間，平臺對其賬戶進行了封號處理，并向其他網友提示稱“賬號可能存在異常”“不要與之發(fā)生金錢來往”等。
該情況導致李某多位朋友誤認為李某是騙子，造成原告名譽受損。李某訴至北京互聯網法院，認為該征婚交友平臺實施的算法技術造成誤判，侵犯其名譽權，請求法院判令運營者在平臺上公開向李某道歉予以澄清，并賠償李某損失2萬元。平臺運營者稱，其按照法律法規(guī)的規(guī)定，對用戶在平臺的行為進行監(jiān)管，履行平臺主體責任。李某為該平臺注冊用戶，在與平臺其他用戶聊天過程中，短期內多次被檢測到出現“金融”“基金”“加微信”等“殺豬盤”詐騙案件所涉高頻詞匯，從而自動觸發(fā)了平臺風控系統的審核規(guī)則。此后，李某致電客服反映情況，平臺經人工核實后對該賬戶進行解封。因此，平臺運營者稱，其行為僅是為公共利益依法履行主體監(jiān)管責任，系統自動判李某告賬戶為風險賬號，不存在侵權行為。訴訟過程中，平臺運營者提交了《關于涉案軟件風控審核系統的情況說明》及相關證據，解釋其“預防性風控系統”算法邏輯機理，盡到了相應的算法披露義務。結合雙方訴辯意見，北京互聯網法院認為，本案的主要爭議點為，涉案平臺的運營者采取涉案算法風控行為是否存在主觀過錯，并結合以下因素予以評判：
1. 行為目的和主觀意圖、是否具有正當性。根據涉案“預防性風控系統”針對的詞匯和行為可見，該系統設置目的確系為預防“殺豬盤”等網絡詐騙行為，系為實現法律要求的監(jiān)管義務和公共利益，具有正當性。2. 行為手段和性質、侵害人身權益的風險性程度、行為過程的審慎程度。算法設置需在現有技術條件下合理、合比例，不得存在算法歧視、算法濫用等侵害他人合法權益的非法手段，根據已查明的事實及被告披露算法邏輯過程，涉案算法設置系基于特定詞匯和用戶行為的自動化反應機制，并不存在對某類用戶的不當歧視。3. 行為主體身份的特點、技術能力水平及所附注意義務。鑒于涉案平臺為陌生人網絡交友戀愛類平臺，在目前社會背景下加強“殺豬盤”等網絡詐騙犯罪的篩查力度，于被告服務類型來說具有一定合理性。4. 是否采取了預防侵權的合理措施。被告確按照其承諾的人工審核方式，在聲明的期限內核查誤判并解除賬戶封禁和風險提示，盡到了與涉案算法風險相匹配的注意義務。綜上，涉案平臺運營者基于法律監(jiān)管要求和公共利益保護的目的，設置“預防性風控系統”算法應用，對用戶行為進行中立、無差別的風險篩查，雖因技術水平所限造成系統誤判，但盡到了與涉案算法風險相匹配的注意義務，并采取了合理的預防侵權措施，并無主觀過錯，不構成侵權。
最終，北京互聯網法院駁回原告的訴訟請求。一審判決后，雙方均未上訴，該案判決已生效。
隨著數字經濟背景下大數據、人工智能技術的飛速發(fā)展，算法技術被廣泛運用于互聯網應用場景中。與此同時，“大數據殺熟”“算法歧視”“誘導沉迷”“操縱榜單”“最嚴算法”“深度偽造”等算法應用亂象也時有發(fā)生。如何構建鼓勵算法行業(yè)發(fā)展與規(guī)制不當運用的算法治理秩序，成為算法侵權案件司法裁判關注的重點。本案對于算法侵權糾紛的裁判作出以下探索：
一是針對“算法黑箱”問題。算法應用過程存在技術隱蔽性，考察算法行為是否構成侵權的前提需明確涉案算法運行的機制機理。本案中，法院認定，被告作為涉案軟件的運營者，對算法應用過程具有披露義務，應提供證據證明涉案侵權行為系算法技術的實施所引發(fā)，并對算法運用的具體機理予以說明。二是針對“過錯認定”問題。法院結合算法技術特點和相關產業(yè)發(fā)展現狀，對于涉案算法應用行為主觀過錯和侵權的認定，確立了算法行為目的和主觀意圖、是否具有正當性，行為手段和性質、侵害人身權益的風險性程度、行為過程的審慎程度、是否采取了預防侵權的合理措施，行為主體身份的特點、技術能力水平及所附注意義務等綜合性評判因素。此外，針對“風險控制”領域，2022年《互聯網信息服務算法推薦管理規(guī)定》和《中華人民共和國反電信網絡詐騙法》均規(guī)定了網絡服務提供者需履行涉電信網絡詐騙信息監(jiān)測、識別和處置的義務。在此背景下，網絡服務提供者通過技術手段，強化對高危風險賬戶的監(jiān)測和預防功能，具有算法技術運用的正當性�；谒惴夹g特點和現有行業(yè)發(fā)展水平，對于關鍵詞和用戶行為的命中，可實現對海量信息的自動化篩查，提高監(jiān)測和采取措施的效率，但同時也不可避免產生系統誤判，命中有類似特點的合法行為。由于算法技術尚處于發(fā)展階段，相關行業(yè)規(guī)范尚未成熟，應鼓勵算法技術創(chuàng)新和正向發(fā)展，合理確定注意義務，促使企業(yè)利用算法加大正向價值傳播，阻斷違法和不良信息傳播，讓網絡發(fā)展成果惠及廣大人民群眾。 
·請注意語言文明，尊重網絡道德，并承擔一切因您的行為而直接或間接引起的法律責任。
·長沙社區(qū)通管理員有權保留或刪除其管轄留言中的任意非法內容。