中文字幕影视,欧美一级二级在线观看,av在线激情,亚洲国产福利视频,国产精品久久久久久亚洲影视,亚洲午夜视频在线,日本在线不卡二区

申請實習(xí)證 兩公律師轉(zhuǎn)社會律師申請 注銷人員證明申請入口 結(jié)業(yè)人員實習(xí)鑒定表申請入口 網(wǎng)上投稿 《上海律師》 ENGLISH
當(dāng)前位置: 首頁 >> 律師文化 >> 上海律師 >> 2025 >> 2025年第02期
《上海律師》編委會

主 管:上海市司法局
主 辦:上海市律師協(xié)會
編 輯:《上海律師》編輯部
編輯委員會主任:邵萬權(quán)
副  主  任: 朱林海   張鵬峰    

                  廖明濤  黃寧寧   

                  陸   胤   韓   璐  

                  金冰一   聶衛(wèi)東    

                  徐宗新   曹志龍   

                  屠   磊    唐   潔     

                  潘   瑜           

編  委   會:李華平   胡   婧   

                  張逸瑞   趙亮波 
                  王夏青   趙   秦    

                  祝筱青   儲小青
                  方正宇   王凌俊    

                  閆   艷   應(yīng)朝陽
                  陳志華   周   憶    

                  徐巧月   翁冠星 

                  黃培明   李維世   

                   吳月琴    黃   東

                  曾    濤
主       編: 韓   璐  
副  主  編:譚    芳  曹   頻    
責(zé)任編輯:王鳳梅  
攝影記者:曹申星  
美術(shù)編輯:高春光  
編       務(wù):許 倩  

編輯部地址:
上海市肇嘉浜路 789 號均瑤國際廣場 33 樓
電 話:021-64030000
傳 真:021-64185837
投稿郵箱:
E-mail:tougao@lawyers.org.cn
網(wǎng)上投稿系統(tǒng):
http://m.acapellaapp.com/wangzhantougao
上海市律師協(xié)會網(wǎng)址(東方律師網(wǎng))
m.acapellaapp.com
上海市連續(xù)性內(nèi)部資料準(zhǔn)印證(K 第 272 號)
本刊所用圖片如未署名的,請作者與本刊編輯部聯(lián)系


當(dāng)AI遇上法律:聚焦技術(shù)應(yīng)用風(fēng)險,共探合規(guī)布局與立法進(jìn)程

2025年第02期    作者:文字整理 許倩    閱讀 17 次

主持人:朱培 上海律協(xié)數(shù)字科技與人工智能專業(yè)委員會委員、上海市匯業(yè)律師事務(wù)所合伙人

嘉賓:徐凱  上海律協(xié)青年律師工作委員會委員、數(shù)字科技與人工智能專業(yè)委員會副主任,上海市君悅律師事務(wù)所合伙人

王渝偉 上海律協(xié)數(shù)字科技與人工智能專業(yè)委員會委員、北京觀韜(上海)律師事務(wù)所律師

翁冠星 上海律協(xié)對外宣傳與聯(lián)絡(luò)委員會委員、仲裁專業(yè)委員會委員,上海功承瀛泰(臨港新片區(qū))律師事務(wù)所主任

朱培: 大家好!歡迎來到《上海律師》2025年第二期“法律咖吧”,我是本期咖吧的主持人朱培。近期,人工智能技術(shù)快速發(fā)展,與之相關(guān)的法律問題不斷涌現(xiàn),比如AI換臉擬聲引發(fā)的侵權(quán)案件等。圍繞著人工智能、數(shù)字經(jīng)濟(jì)、大數(shù)據(jù)等新興領(lǐng)域,國家也已經(jīng)在加強(qiáng)立法研究。在這一趨勢下,當(dāng)前人工智能應(yīng)用中存在哪些突出的法律風(fēng)險點?對于尚未完善的法律體系,法律從業(yè)者和相關(guān)企業(yè)應(yīng)該如何提前布局,以應(yīng)對未來可能出臺的法律法規(guī)?

今天非常榮幸地邀請到了徐凱律師、王渝偉律師和翁冠星律師共同探討分析人工智能法律問題。在當(dāng)今時代,科技發(fā)展日新月異,人工智能技術(shù)作為前沿力量,正深刻改變著我們的生活與工作模式。從智能家居到自動駕駛,從醫(yī)療診斷到金融風(fēng)控,人工智能無處不在。

首先請徐凱律師為我們分享一下,在日常工作還有案例研讀的過程中,您認(rèn)為當(dāng)前人工智能應(yīng)用中存在哪些突出的法律風(fēng)險點?

 

徐凱:我本科就讀計算機(jī)專業(yè),后就讀民商法學(xué)碩士,我更能感受到人工智能技術(shù)對法律行業(yè)的沖擊。思維層面上,法律思維要從傳統(tǒng)工業(yè)生產(chǎn)、傳統(tǒng)服務(wù)業(yè)的思維轉(zhuǎn)變?yōu)楦舆m應(yīng)人工智能生產(chǎn)力的思維。例如,當(dāng)下大數(shù)據(jù)和大數(shù)據(jù)算法對我們的影響其實已經(jīng)不同于以往。以往的數(shù)據(jù)、算法是靜態(tài)的,算法對計算機(jī)而言就是一系列的解決特定問題的代碼。針對此類數(shù)據(jù)、算法產(chǎn)生的問題,已有著作權(quán)和知識產(chǎn)權(quán)法律法規(guī)能夠妥善進(jìn)行回應(yīng)并解決,并沒有特別大的爭議及突出的問題。而當(dāng)前的大數(shù)據(jù)和大數(shù)據(jù)算法(包括采集用戶信息以及推測用戶的行為)其實是一種動態(tài)的算法,其所涉及的大數(shù)據(jù)是一個實時的、動態(tài)的大數(shù)據(jù)。因此當(dāng)前無論是消費者還是勞動者都比較關(guān)注算法問題。我認(rèn)為,當(dāng)下我們遇到的挑戰(zhàn)實質(zhì)上是動態(tài)的數(shù)據(jù)加上動態(tài)的算法所呈現(xiàn)出來的一種結(jié)果。所以,無論是從靜態(tài)的角度看人工智能收集的數(shù)據(jù),或者單純從靜態(tài)的角度看其實現(xiàn)商業(yè)行為的算法代碼,我們很難去發(fā)現(xiàn)或者判斷人工智能企業(yè)存在什么具體的算法歧視,所以我們更需要從動態(tài)的角度來理解數(shù)據(jù)收集給我們帶來的影響,包括消費者的隱私、勞動者隱私等沖突。

以消費者隱私保護(hù)為例,人工智能企業(yè)可能涉及采集用戶信息,并且不當(dāng)存儲以及不當(dāng)用于促成商業(yè)成交的情況。針對這種情形,在權(quán)利救濟(jì)機(jī)制層面,從平衡商業(yè)服務(wù)和用戶感受的角度來看,如果通過訴訟,對人工智能企業(yè)某一個行為去起訴,對于消費者來說是很大的一個負(fù)擔(dān)。我的建議是,特定社會公共機(jī)構(gòu)應(yīng)當(dāng)參照環(huán)境保護(hù)維權(quán)制度,設(shè)立集體救濟(jì)制度。因為無論是數(shù)據(jù)還是算法,對其需要具備較為專業(yè)性的判斷,因此需要存在一個集體來代表消費者去對算法歧視或侵害不特定對象個人信息或者數(shù)據(jù)的行為進(jìn)行專業(yè)判斷。集體救濟(jì)制度的優(yōu)勢在于可以降低消費者的維權(quán)成本,比如可以設(shè)計成針對有消費者的有代表性的批量投訴,該集體把共性問題整理后,以專門機(jī)構(gòu)的角度,向人工智能企業(yè)或者互聯(lián)網(wǎng)企業(yè)提出整改要求。從行政監(jiān)管層面,建議網(wǎng)信部門及數(shù)據(jù)主管部門在現(xiàn)有網(wǎng)絡(luò)綜合治理體系基礎(chǔ)上,進(jìn)一步強(qiáng)化對算法運行過程的動態(tài)監(jiān)管能力,也建議消費者、勞動者用普適性的角度去解決問題,以此能夠讓當(dāng)前數(shù)據(jù)算法和用戶隱私保護(hù)之間形成平衡,更好地維護(hù)消費者的利益。

 

翁冠星:我講一些跟徐律師觀點不一樣的看法。我是做國際爭議解決的,觀察到的風(fēng)險點主要有以下兩點:第一,不加限制地使用,也就是主持人在引言里提到的一個很關(guān)鍵的點——換臉。換臉有一定的趣味性,我自己也會看手機(jī)里的一些視頻,但是這種技術(shù)越好,如果應(yīng)用在詐騙領(lǐng)域就越會引起嚴(yán)重后果。我們也碰到過許多案例,其不僅用在普通的民事領(lǐng)域,還用在一些商事領(lǐng)域。比如用AI換臉冒充公司老總,讓財務(wù)打錢,從視頻頭像到簽字到聲音,可以做到一模一樣。第二,在運用的時候,比如律師或者專業(yè)人員也面臨著一個使用者道德的問題。剛才徐律師講的算法,底層邏輯是什么?它一定繞不開大數(shù)據(jù)和概率統(tǒng)計,這是深度思考里面絕對繞不開的概念。設(shè)想一下,對于有些東西,在輸入關(guān)鍵詞的時候,就可能違反了道德。答案越是正確,越會造成一些道德沖突,但是這些東西往往又會被專業(yè)人士用作素材,我們把它歸類為使用者道德陷阱。就可能會引發(fā)一些更為尖銳的矛盾。

 

朱培:正是因為新技術(shù)帶來的法律風(fēng)險點,才讓我們法律人有機(jī)會為新質(zhì)生產(chǎn)力提供法律供給。我們都知道在人工智能飛速發(fā)展以及商業(yè)化應(yīng)用的關(guān)鍵時期,以智能駕駛汽車為例,從2022年全國首部自動駕駛法規(guī)——《深圳經(jīng)濟(jì)特區(qū)智能網(wǎng)聯(lián)汽車管理條例》正式生效以來,多地也相繼出臺了與自動駕駛相關(guān)的地方性法規(guī)。社會上關(guān)于我國是否應(yīng)該制定統(tǒng)一人工智能法,以統(tǒng)一當(dāng)前的分散式立法方式。有請王律師結(jié)合自己的實務(wù)經(jīng)驗為我們分享一下,您認(rèn)為當(dāng)前人工智能法統(tǒng)一立法的時機(jī)和條件成熟了嗎?

 

王渝偉:首先說說我的判斷,我個人觀點是覺得時機(jī)不成熟。關(guān)于國內(nèi)是不是需要一部完整意義上的人工智能法案,大家討論很多,而且特別關(guān)注。因為已經(jīng)有歐盟的人工智能法在前,所以會不會出現(xiàn)與當(dāng)年個人數(shù)據(jù)保護(hù)領(lǐng)域的GDPR一樣,歐盟在人工智能領(lǐng)域首先立法之后全球開始效仿,即人工智能領(lǐng)域的“布魯塞爾效應(yīng)”。實際上這樣的討論是挺多的,業(yè)界也很關(guān)注,包括在法律研究和實務(wù)當(dāng)中,我們也看到國內(nèi)有一些研究機(jī)構(gòu)或者專家已經(jīng)在開始做了。比如我們看到出現(xiàn)了人工智能法專家稿、人工智能示范法等立法研究成果。但從我個人視角來看,我認(rèn)為這兩者存在顯著差異,我們不能效仿之前的個人數(shù)據(jù)領(lǐng)域的歐盟立法,畢竟歐盟的先行立法,尤其是 GDPR 的出臺,使其在全球個人數(shù)據(jù)治理格局中占據(jù)了舉足輕重的地位,甚至有人說歐盟是因為GDRP的出臺,享受到了數(shù)據(jù)治理中的政策紅利。大家很關(guān)注,我們國家要不要效仿歐盟一樣,要盡快出臺一部人工智能領(lǐng)域的基礎(chǔ)立法,我覺得是不太一樣的。

我想澄清一個觀點,不要一部完整的人工智能立法和要不要人工智能相關(guān)的立法,這是兩個不同的概念,我支持的是目前我們可以有一些分散或者以風(fēng)險為視角的相關(guān)人工智能治理、一些以風(fēng)險治理為視角的立法,包括目前已經(jīng)有了的。比如我們在算法領(lǐng)域當(dāng)中可以看到,比較早期的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》,更多的是針對大數(shù)據(jù)殺熟這樣一個風(fēng)險比較大或者受到社會高度關(guān)注的問題點,以這個為視角去做了相應(yīng)的立法。另外就是針對深度偽造的問題。實際上我們也有《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》,以及2023年8月15日發(fā)布的《生成式人工智能服務(wù)管理暫行辦法》,也是針對當(dāng)時逐步發(fā)展起來的生成式人工智能服務(wù)所伴生的相應(yīng)風(fēng)險而提出的人工智能治理文件。

所以在這個領(lǐng)域目前國內(nèi)是有相關(guān)的立法,我覺得人工智能領(lǐng)域的立法與個人數(shù)據(jù)領(lǐng)域不太一樣的地方就是數(shù)據(jù)或者個人隱私。它在歐盟乃至全球是一個已經(jīng)有很長歷史和立法研究以及治理沿革的領(lǐng)域,或者說是有一定立法基礎(chǔ)的行業(yè)立法,歐盟在制定GDPR之前,實際上已經(jīng)有針對個人數(shù)據(jù)和隱私保護(hù)相關(guān)立法的,所以它不是從頭開始的。但是對于人工智能,特別是人工智能技術(shù)或者它的風(fēng)險,目前來看,我覺得全球還處于一個比較早期的研究,包括對生成式人工智能等新技術(shù)的研究都是比較早期的。對于人工智能特別是新一代生成式人工智能技術(shù)發(fā)展以及技術(shù)可能造成的風(fēng)險,在還沒有完整理解的情況下,起草一部完整意義的人工智能立法,時機(jī)是不成熟的,它可能會限制我們在該領(lǐng)域的創(chuàng)新,并且也不一定會帶來我們期望的風(fēng)險防控。

 

翁冠星:我個人同意王律師的想法,我覺得統(tǒng)一立法和立法本身分開來看,立法很有必要,包括職業(yè)道德的問題,現(xiàn)有數(shù)據(jù)的提取、儲存、傳輸使用的問題,現(xiàn)在我們已經(jīng)有散見的規(guī)定在不同的法律里。如果一定要有建議,就是要把數(shù)字?jǐn)?shù)據(jù)的不恰當(dāng)運用造成侵權(quán)以及賠償標(biāo)準(zhǔn),包括是否要適用懲罰性賠償、舉證責(zé)任,以及舉證責(zé)任倒置的問題,必須由法律來決定,不能由法官自由裁量權(quán)決定,我覺得這一塊是必要的。至于統(tǒng)一立法,我個人的想法是,首先歐盟的GDPR并非善法。GDPR的存在導(dǎo)致歐盟法域以后很難出現(xiàn)任何形式的數(shù)據(jù)創(chuàng)新。為什么?因為數(shù)據(jù)本身一定要在使用中體現(xiàn)價值,就好像我今天打車去哪里,每天回到哪里,每天最頻繁出現(xiàn)在哪里,這些信息對在座各位來說是沒用的,但對一個賣車的人可能是有用的。也就是說數(shù)據(jù)的使用如果規(guī)定太嚴(yán),就會失去商業(yè)價值;而如果要把它的商業(yè)價值發(fā)揮到最大化,一定會導(dǎo)致被濫用,法律可能要在發(fā)展過程當(dāng)中尋找一個動態(tài)的平衡。因此我首先覺得統(tǒng)一立法還沒有到時間點,但可以先守住最后一道關(guān),即侵權(quán)。一旦侵權(quán)行為發(fā)生了,侵權(quán)結(jié)果怎么認(rèn)定?舉證責(zé)任的倒置形式,以及侵權(quán)結(jié)果即酌定標(biāo)準(zhǔn)是什么?然后就是過錯的認(rèn)定,這些可以先把它通過法律規(guī)定下來,讓大家知道不能把技術(shù)用在不恰當(dāng)?shù)牡胤?,否則可能會被罰得很重。甚至再往前一步,民訴法里面把長臂管轄也規(guī)定進(jìn)去。如果侵權(quán)結(jié)果發(fā)生在境外,但是跟中國主體有關(guān)聯(lián),中國法院也可以管,那就是保護(hù)我們的企業(yè)走出去,這個事再進(jìn)一步可以規(guī)定一些程序事項,包括級別管轄、地域管轄,甚至長臂管轄,我們可以規(guī)定進(jìn)去,一步步來會比較好。

 

徐凱:我的觀點是,目前發(fā)展較為成熟的大語言模型、以chatgpt為代表的技術(shù)路線也一直被挑戰(zhàn),技術(shù)路線也隨可能被顛覆。未來在大模型、大語言模型發(fā)展過程,以及相關(guān)開源產(chǎn)業(yè),中國企業(yè)也在為世界作出貢獻(xiàn)。人工智能產(chǎn)業(yè)還在工程學(xué)上發(fā)展,其發(fā)展理論仍有太多需要完善。因此無論是大語言模型,還是未來的具身智能,包括自動駕駛的一些算法和數(shù)據(jù)發(fā)展過程中有太多的不確定性。我認(rèn)為只有當(dāng)在技術(shù)上、理論上有一個相對明確的階段,我們才有基礎(chǔ)去厘清各方的責(zé)任。所以,我認(rèn)為統(tǒng)一立法的時機(jī)和條件遠(yuǎn)沒有到來,如果強(qiáng)行做判斷,不僅是對產(chǎn)業(yè)的傷害,可能在觀念上也給整個社會帶來一些不必要的負(fù)擔(dān)。

 

朱培:對于人工智能的創(chuàng)新發(fā)展和法律合規(guī)方面,想先請教一下王律師,您有什么建議和提醒?對于尚沒有完善的法律體系,您認(rèn)為法律從業(yè)者和相關(guān)企業(yè)應(yīng)該如何提前布局,以應(yīng)對未來可能出臺的法律法規(guī)?如何提前布局,以同時避免布局以后要推倒重來的重復(fù)建設(shè),想聽一下王律師對這個問題的看法。

 

王渝偉:我覺得企業(yè)應(yīng)該還是以風(fēng)險為視角整體分層建立和完善合規(guī)治理機(jī)制,或者內(nèi)部風(fēng)險治理機(jī)制。我們最近就碰到一個事,前段時間某省的衛(wèi)健委組織了一個內(nèi)部活動,現(xiàn)在有很多公共機(jī)構(gòu)包括醫(yī)院都在大量接入Deepseek等大語言模型來做一些應(yīng)用創(chuàng)新,甚至有些會做本地化部署,在這過程中,可能潛在一些風(fēng)險。當(dāng)時衛(wèi)健委的相關(guān)部門意識到,在做這個項目的時候,大量數(shù)據(jù)可能會在過程中傳輸給底層大模型,不管是做二次訓(xùn)練,還是直接作為知識庫做調(diào)用,實際上都會存在潛在數(shù)據(jù)風(fēng)險,但是里面到底有什么法律風(fēng)險,實際上他們沒有具體認(rèn)識。

目前國內(nèi)針對人工智能的一些法律法規(guī),有框架也有一些具體規(guī)定,監(jiān)管方面發(fā)展和安全并重。我認(rèn)為企業(yè)不管從自身業(yè)務(wù)連續(xù)性發(fā)展視角,還是從規(guī)避法律風(fēng)險視角出發(fā),首先要搞清楚其在使用人工智能技術(shù)進(jìn)行創(chuàng)新研發(fā)以及應(yīng)用中到底面臨了哪些風(fēng)險。目前在我所處的行業(yè)里面,做底層大模型或具體在應(yīng)用或者底層的研發(fā)方面,到底有什么風(fēng)險,不僅僅要有具體的認(rèn)識,還可以借助外部一些咨詢機(jī)構(gòu)或評估工具,對一些主要的法律合規(guī)以及技術(shù)的風(fēng)險,比如我們常常提到的、備受關(guān)注的知識產(chǎn)權(quán)風(fēng)險、數(shù)據(jù)安全風(fēng)險、個人信息保護(hù)、模型幻覺等,包括數(shù)據(jù)跨境的問題,需要針對這些風(fēng)險做完整評估,再來看哪些是最核心的風(fēng)險,哪些是目前機(jī)構(gòu)在現(xiàn)有的資源需要盡早進(jìn)行合規(guī)風(fēng)險治理的。我理解的風(fēng)險治理是有一個時間先后順序的,需要企業(yè)根據(jù)自身情況以及外部的監(jiān)管要求做合理適時的安排。目前我們也做了全球人工智能領(lǐng)域相關(guān)立法的一些研究,看到了包括歐盟的人工智能法、美國以及其他經(jīng)濟(jì)體的立法動向,以及國內(nèi)的生成式人工智能服務(wù)治理規(guī)定,實際上都有類似的安全風(fēng)險評估或者類似的要求或規(guī)定,同時一些國際性組織和行業(yè)組織也在積極推動一些自發(fā)性風(fēng)險評估工具。我的建議是:可以先從識別風(fēng)險基礎(chǔ)開始,根據(jù)企業(yè)本身的風(fēng)險高低來做后面的一些合規(guī)工作。

 

翁冠星:法律合規(guī)方面,我還是建議先從負(fù)面清單開始做起。首先,這個行業(yè)剛起來,不能馬上用一個法律規(guī)范去約束它發(fā)展。既然這個行業(yè)正在蓬勃發(fā)展,而且還涉及中國參與到國際博弈的一個彎道超車的重要途徑,也可能是我們突破西方對我們進(jìn)行技術(shù)封鎖的一個非常重要的賽道。因此我覺得對于這個行業(yè)首先我們要以扶持為主,不能一上來就給太多限制,但是對于做法還是先以規(guī)定好底線為主,比如法律、侵權(quán)責(zé)任的擬定、舉證責(zé)任、管轄等。我們律協(xié)可以先規(guī)定,律師在執(zhí)業(yè)過程中,什么是絕對不能用人工智能技術(shù)的,或者人工智能產(chǎn)生的成果絕對不能對接到哪里。

這里要強(qiáng)調(diào)的是,有些內(nèi)容,如果AI使用結(jié)果直接反饋到人,那是沒有問題的。問題是如果這個結(jié)果繼續(xù)給到機(jī)器,就會出大問題。這也是過完新年以后,我們發(fā)現(xiàn)Deepseek變笨的一個很重要的原因。因為它現(xiàn)在被“喂”的是被其他的人工AI產(chǎn)品“吐”出來的東西。我覺得可以先規(guī)定好底線。對于企業(yè)來說,有一個最基本的預(yù)期,可以在哪些地方用人工智能技術(shù),比如可以用在內(nèi)部匯報,最終結(jié)果誰可以看到,不能用的地方有哪些,企業(yè)就有預(yù)期了。在給它劃定的一個范圍里面,可以大膽用,這是第二個。

第三,就是標(biāo)識。我知道現(xiàn)在很多媒體平臺都有一定要強(qiáng)制的標(biāo)識,這個強(qiáng)制標(biāo)識現(xiàn)在僅限于媒體,比如這個視頻是用AI制作,我覺得應(yīng)該通過立法強(qiáng)制,或者通過法律解釋、行業(yè)部門規(guī)章可以先做起來,可以使用AI,但是你必須標(biāo)注這個產(chǎn)品是用人工智能生成的,人工智能生成的形式是什么。后期又經(jīng)過了內(nèi)部的一些加工,這等于是一個強(qiáng)制標(biāo)記的要求,我覺得先把底線設(shè)好,讓這個行業(yè)發(fā)展到一定程度后,然后像王律講的,再慢慢往上加?xùn)|西,因為數(shù)據(jù)方面已經(jīng)有這樣一些運用。

最后,我個人建議,從我們做后期爭議解決的角度來說,在數(shù)據(jù)入表和數(shù)據(jù)產(chǎn)品的上市交易這一塊可能需要謹(jǐn)慎一點。因為技術(shù)發(fā)展到一定程度,數(shù)據(jù)本身的估值可能有巨額浮動,無論是運用在目標(biāo)還是運用在產(chǎn)品的掛牌交易上面,會導(dǎo)致它價值的不確定。在這樣的情況下,考慮到整個人工智能行業(yè)的大發(fā)展,我覺得在數(shù)據(jù)這塊是絕對的進(jìn)步。在肯定它進(jìn)步意義的前提下,入表也好,數(shù)據(jù)產(chǎn)品的交易也好,需謹(jǐn)慎處理。如果一定要做減法,在這兩塊可以有一些限制。

 

徐凱:我認(rèn)為現(xiàn)在企業(yè)根據(jù)自己的經(jīng)營業(yè)務(wù),可以分為核心技術(shù)創(chuàng)新型的人工智能企業(yè)和服務(wù)商業(yè)應(yīng)用類的企業(yè)。對于創(chuàng)新型企業(yè),其實本身技術(shù)處于按周迭代、按天迭代的過程,它是輸出一個技術(shù)服務(wù),只要符合現(xiàn)在安全的審核情況,技術(shù)服務(wù)的合規(guī)風(fēng)險不太突出。對于應(yīng)用類的人工智能企業(yè),在類似本地化部署過程中的問題,其本質(zhì)上是一個數(shù)據(jù)安全的問題,是需要行業(yè)從安全理論、技術(shù)措施、人才保障多方面完善的問題。我們當(dāng)下在“補(bǔ)課”數(shù)據(jù)安全,在于我們一直處于信息技術(shù)產(chǎn)業(yè)跟隨狀態(tài),數(shù)據(jù)安全體系還做得不夠好。其次,服務(wù)商業(yè)應(yīng)用類企業(yè)要充分尊重現(xiàn)有的知識產(chǎn)權(quán),保護(hù)他人的合法權(quán)益。做好以上兩點,目前從政府到市場都是充分包容和鼓勵的。

 

王渝偉:我補(bǔ)充一下,剛剛提到識別風(fēng)險,我認(rèn)為在識別風(fēng)險的基礎(chǔ)上,我們開展業(yè)務(wù)時,有時候會特別提醒客戶,對于合規(guī)的相關(guān)工作,建議盡早規(guī)劃并同步進(jìn)行布局。因為識別風(fēng)險后,存在一系列工作需要落實,例如項目中的應(yīng)用是否需要后續(xù)進(jìn)行算法備案;又如企業(yè)新近出臺的標(biāo)識相關(guān)規(guī)定,將于9月1日起正式實施。此類工作實際上應(yīng)當(dāng)在開發(fā)應(yīng)用、構(gòu)建底層大模型等前期籌備階段就預(yù)先規(guī)劃,而不是等到整個項目開發(fā)完成后再著手處理,這是我的觀點。

第二個觀點,雖然我前面提到,開展合規(guī)工作必然會產(chǎn)生成本,但我們也意識到,合規(guī)有時不僅是成本支出,它有時已然成為企業(yè)的特殊競爭優(yōu)勢。近期我們接觸到一家從事數(shù)字人業(yè)務(wù)的企業(yè),由于該業(yè)務(wù)鏈條較長,從基礎(chǔ)大模型研發(fā)到應(yīng)用落地,再到終端用戶使用,涉及多個環(huán)節(jié)與多樣主體。若企業(yè)提前完成合規(guī)布局,如為應(yīng)用完成算法備案獲取官方認(rèn)可,同時妥善處理版權(quán)等相關(guān)事宜,就能助力客戶在內(nèi)部審批流程中更加順暢;當(dāng)客戶尤為關(guān)注合規(guī)問題時,這些合規(guī)舉措反而會成為該企業(yè)產(chǎn)品或服務(wù)的顯著優(yōu)勢。由此可見,盡管前期合規(guī)工作會產(chǎn)生成本,但從長遠(yuǎn)來看,它極有可能轉(zhuǎn)化為企業(yè)獨一無二的競爭力。換言之,合規(guī)不僅是成本,更可能成為企業(yè)的核心競爭力。

 

朱培:在人工智能技術(shù)快速發(fā)展的當(dāng)下,法律規(guī)范的重要性與緊迫性不言而喻。正如今天各位嘉賓分享的人工智能在應(yīng)用過程中已經(jīng)產(chǎn)生了相應(yīng)的法律風(fēng)險,當(dāng)然在出現(xiàn)這些法律風(fēng)險或問題后,我們需要發(fā)揮法律人的主觀能動性,首先考量能否通過對現(xiàn)有法律進(jìn)行解釋從而有效解決人工智能帶來的各類風(fēng)險問題,如果可以解決則制定新的統(tǒng)一法律就無必要。如果現(xiàn)行法律法規(guī)窮盡其解釋力仍無法有效解決上述問題,則再考慮分散立法進(jìn)行補(bǔ)充,最后在條件必要時考慮制定統(tǒng)一的人工智能法,仍應(yīng)考慮國家級產(chǎn)業(yè)戰(zhàn)略以促進(jìn)性立法為主基調(diào)。

其次,我們通常都說法律人是保守的,法律追求穩(wěn)定性,但是在人工智能時代,技術(shù)不斷更迭,我們法律人應(yīng)當(dāng)保持敏銳性,不斷快速學(xué)習(xí)、努力適應(yīng)快速發(fā)展的技術(shù),及時調(diào)整自己的知識儲備。感謝各位嘉賓的積極參與,期待未來能有更多類似的交流活動,持續(xù)關(guān)注人工智能法律問題,共同推動人工智能技術(shù)健康有序發(fā)展,為社會創(chuàng)造更大價值。

 

(本文內(nèi)容根據(jù)錄音整理,系嘉賓個人觀點,整理時間:2025 年4月28日)

 


[版權(quán)聲明] 滬ICP備17030485號-1 

滬公網(wǎng)安備 31010402007129號

技術(shù)服務(wù):上海同道信息技術(shù)有限公司   

     技術(shù)電話:400-052-9602(9:00-11:30,13:30-17:30)

 技術(shù)支持郵箱 :12345@homolo.com

上海市律師協(xié)會版權(quán)所有 ?2017-2024