（原標(biāo)題：“事故”頻發(fā)！AI龍頭也栽在了AI手里…）

作為AI龍頭股，市值超過1300億元的科大訊飛今天栽在了AI手里。

(資料圖片)

5月24日下午開盤后，科大訊飛股價(jià)快速跳水，盤中一度跌超9%。截至收盤，科大訊飛收跌4.26%。

據(jù)了解，近日網(wǎng)上傳出“科大訊飛被曝涉嫌大量采集用戶隱私數(shù)據(jù)”的文章。隨后，該文章被猜測(cè)是AI文檔工具“文心一言”所生成。

對(duì)此，科大訊飛盤后在投資者互動(dòng)平臺(tái)表示，公司初步判斷該段不實(shí)信息系某AI生成式軟件生成。使用大模型編造虛假信息屬于違法行為，將受到法律制裁。

科大訊飛：AI編造虛假信息已有刑事案例

科大訊飛在投資者互動(dòng)平臺(tái)上表示，公司初步判斷該段不實(shí)信息系某AI生成式軟件生成。對(duì)于惡意抹黑、捏造虛假信息，損害公司名譽(yù)權(quán)的機(jī)構(gòu)或個(gè)人，公司會(huì)借助法律武器保護(hù)公司和投資者利益。

科大訊飛表示，公司高度重視企業(yè)信息安全及個(gè)人隱私信息保護(hù)，將信息安全管理作為公司發(fā)展的重要支撐戰(zhàn)略之一，并建立了完善嚴(yán)格的信息安全和隱私保護(hù)體系。竭力保障公司信息及用戶的安全權(quán)益。公司于2017 年通過ISO27001 信息安全管理體系認(rèn)證，2020 年，又在此基礎(chǔ)上通過了ISO27701 隱私安全體系認(rèn)證。

此外，科大訊飛還提到，使用大模型編造虛假信息屬于違法行為，將受到法律制裁。當(dāng)前已有刑事案例。

據(jù)甘肅公安5月7日消息，甘肅公安偵破首例利用AI人工智能技術(shù)炮制虛假信息案。4月25日，甘肅省平?jīng)鍪泄簿轴轻挤志志W(wǎng)安大隊(duì)對(duì)“今晨甘肅一火車撞上修路工人致9人死亡”的文章，初步判斷為信息虛假不實(shí)。網(wǎng)安民警隨即開展工作，發(fā)現(xiàn)共計(jì)21個(gè)百度賬號(hào)均在同一時(shí)間段發(fā)布該文章。經(jīng)查，涉案百度賬號(hào)均為廣東深圳某自媒體公司所有，公司法人代表洪某弟有重大作案嫌疑。

5月5日，專案民警在廣東東莞嫌疑人住處對(duì)其使用的電腦及百家號(hào)進(jìn)行取證。經(jīng)審訊，犯罪嫌疑人洪某弟通過微信好友獲知網(wǎng)絡(luò)賺取流量變現(xiàn)方法，并購買大量“百家號(hào)”。同時(shí)使用“易撰”網(wǎng)頁版，在全網(wǎng)搜索近幾年社會(huì)熱點(diǎn)新聞，為規(guī)避百家號(hào)查重功能，洪某弟通過近期火爆的ChatGPT人工智能軟件將搜集到的新聞要素修改編輯后，使用“海豹科技”軟件上傳至其購買的百家號(hào)上非法獲利。

洪某弟利用現(xiàn)代科技手段編造虛假信息，并散布在互聯(lián)網(wǎng)上，被大量傳播瀏覽，其行為已涉嫌尋釁滋事罪。

舊聞被重新翻出

有投資者當(dāng)天在互動(dòng)平臺(tái)上提問科大訊飛：“5月24日下午，市場出現(xiàn)多個(gè)關(guān)于科大訊飛的傳言，有外媒援引知情人士的話稱，美國正在考慮是否將科大訊飛、美亞柏科等加入實(shí)體名單。請(qǐng)公司盡快核實(shí)傳言，以正視聽。”

對(duì)此，科大訊飛在盤后回應(yīng)稱：該條信息屬于對(duì)2019年5月23日相關(guān)信息的復(fù)制粘貼。科大訊飛已于2019年10月被列入實(shí)體清單，科大訊飛擁有全球領(lǐng)先的人工智能核心技術(shù)，這些核心技術(shù)全部來自于科大訊飛的自主研發(fā)，擁有自主知識(shí)產(chǎn)權(quán)。被列入實(shí)體清單后，科大訊飛已迅速切換到以國產(chǎn)供應(yīng)鏈為主的非美供應(yīng)鏈體系，繼續(xù)為客戶提供優(yōu)質(zhì)的產(chǎn)品和服務(wù)，業(yè)務(wù)運(yùn)營未受到重大影響。

證券時(shí)報(bào)記者查詢發(fā)現(xiàn)，“科大訊飛于2019年10月被列入實(shí)體清單”確實(shí)是當(dāng)時(shí)的一篇舊聞。

中國互聯(lián)網(wǎng)協(xié)會(huì)：警惕！“AI換臉”新騙局

中國互聯(lián)網(wǎng)協(xié)會(huì)5月24日發(fā)文稱，警惕 “AI換臉”新騙局。今年以來，ChatGPT和GPT-4等技術(shù)的應(yīng)用，成為了信息科技領(lǐng)域的熱點(diǎn)，引起公眾對(duì)AI技術(shù)的廣泛關(guān)注和熱情。但伴隨著深度合成技術(shù)的開放開源，深度合成產(chǎn)品和服務(wù)逐漸增多，利用“AI換臉”“AI換聲”等虛假音視頻，進(jìn)行詐騙、誹謗的違法行為屢見不鮮。

據(jù)平安包頭微信公眾號(hào)，5月8日，包頭市公安局電信網(wǎng)絡(luò)犯罪偵查局發(fā)布一起使用智能AI技術(shù)進(jìn)行電信詐騙的案件，警銀聯(lián)動(dòng)成功緊急止付涉嫌電信詐騙資金330多萬元。據(jù)悉，4月20日11時(shí)40分左右，福州市某科技公司法人代表郭先生的好友突然通過微信視頻聯(lián)系到他，兩人經(jīng)過短暫聊天后，好友告訴郭先生，自己的朋友在外地投標(biāo)，需要430萬元保證金，且需要公對(duì)公賬戶過賬，所以想要借用郭先生公司的賬戶走一下賬?；谝曨l聊天信任的前提下，郭先生沒有核實(shí)錢是否到賬，于11時(shí)49分先后分兩筆把430萬元給對(duì)方打了過去。錢款轉(zhuǎn)賬后，郭先生給好友微信發(fā)了一條消息，稱事情已經(jīng)辦妥。但讓他沒想到的是，好友回過來的消息竟然是一個(gè)問號(hào)。郭先生撥打好友電話，對(duì)方說沒有這回事，他這才意識(shí)到竟然遇上了“高端”騙局，對(duì)方通過智能AI換臉技術(shù)，佯裝成好友對(duì)他實(shí)施了詐騙。

接到福建省福州市公安局刑偵支隊(duì)的外協(xié)請(qǐng)求，包頭市公安局電信網(wǎng)絡(luò)犯罪偵查局立即啟動(dòng)“包頭市警銀聯(lián)動(dòng)綠色查詢機(jī)制”，在銀行的全力協(xié)助下，將該詐騙賬戶內(nèi)的336.84萬元被騙資金成功攔截。同時(shí)，向福州市公安局警方提供了剩余款項(xiàng)93.16萬元資金流出信息，為深入突破該案剩余資金查找提供了突破方向。

中國互聯(lián)網(wǎng)協(xié)會(huì)稱，做好個(gè)人信息安全第一責(zé)任人。加強(qiáng)個(gè)人信息保護(hù)意識(shí)，防止信息泄露：不輕易提供人臉、指紋等個(gè)人生物信息給他人；不要輕易透露自己的身份證、銀行卡、驗(yàn)證碼等信息；不要貪圖方便把身份證、銀行卡照片等直接共同存放于手機(jī)內(nèi)。

該協(xié)會(huì)稱，對(duì)于不常用的APP，建議卸載前注銷個(gè)人賬號(hào)。若APP不提供個(gè)人賬號(hào)注銷方式，或?yàn)樽N賬號(hào)設(shè)置各類障礙的，請(qǐng)至12321.cn投訴。

“在AI時(shí)代，文字、聲音、圖像和視頻都有可能是深度合成的。在轉(zhuǎn)賬匯款、資金往來這樣的典型場景，要通過回?fù)軐?duì)方手機(jī)號(hào)等額外通信方式核實(shí)確認(rèn)，不要僅憑單一溝通渠道未經(jīng)核實(shí)就直接轉(zhuǎn)賬匯款！無論對(duì)方是誰！” 中國互聯(lián)網(wǎng)協(xié)會(huì)稱。

校對(duì)：蘇煥文

關(guān)鍵詞：