當(dāng)前,，以大模型為代表的人工智能技術(shù)日新月異,，AI寫作、AI對(duì)話,、AI合成等生成式人工智能不斷用于辦公場(chǎng)景,，特別是AI寫作深受辦公人士的青睞,，僅需輸入關(guān)鍵詞就可一鍵生成文章，快速提高辦公效率,。殊不知,，AI工具在便捷辦公的同時(shí)，也帶來(lái)一定泄密風(fēng)險(xiǎn),。

依托AI出方案  敏感內(nèi)容網(wǎng)上傳

某涉密單位工作人員李某,，在起草一份涉密方案時(shí)，聽(tīng)同事說(shuō)AI寫作很好用,，只要寫上主題和需求,，就可以幫忙寫出文稿。李某在好奇心驅(qū)使下,，在手機(jī)上下載一款A(yù)I寫作應(yīng)用軟件,，并私自將該涉密方案的部分敏感內(nèi)容輸入AI寫作工具，通過(guò)AI代寫生成網(wǎng)絡(luò)文件資料,。事件發(fā)生后,，李某受到嚴(yán)肅處理。

借助AI提效率  科研成果遭泄露

某科研機(jī)構(gòu)一研究人員保密意識(shí)淡薄,，為快速完成研究報(bào)告,，擅自使用一款流行的AI寫作應(yīng)用軟件輔助辦公，將部分核心數(shù)據(jù)及實(shí)驗(yàn)成果上傳到該應(yīng)用,，導(dǎo)致該研究報(bào)告中的部分涉密敏感信息被泄露,，在網(wǎng)上流傳，給該科研機(jī)構(gòu)造成經(jīng)濟(jì)損失,，也給國(guó)家利益帶來(lái)?yè)p害,。事件發(fā)生后,，該研究人員受到嚴(yán)肅處理。

 

隱患分析

生成式人工智能高度依托互聯(lián)網(wǎng),、大數(shù)據(jù),、云計(jì)算平臺(tái)，AI接收的國(guó)家秘密信息會(huì)被作為大語(yǔ)言模型進(jìn)行學(xué)習(xí)訓(xùn)練,，數(shù)據(jù)獲取,、處理、存儲(chǔ),、運(yùn)算,、傳輸各環(huán)節(jié)均面臨泄露風(fēng)險(xiǎn),。AI數(shù)據(jù)挖掘功能可基于海量原始數(shù)據(jù)進(jìn)行多維推理和關(guān)聯(lián)分析,，哪怕只是截取涉密文件片段，也存在被攻擊竊取或經(jīng)關(guān)聯(lián)匯聚后泄密的風(fēng)險(xiǎn),。

紀(jì)律提醒

機(jī)關(guān),、單位工作人員使用AI辦公須繃緊保密之弦，使用合法合規(guī)的國(guó)產(chǎn)大模型,，強(qiáng)化風(fēng)險(xiǎn)意識(shí),，規(guī)范使用流程，不得將涉密文件,、圖片,、音頻、視頻等信息,，以拍照,、輸入、復(fù)制以及其他任何形式,，部分或者全部使用生成式人工智能工具進(jìn)行處理,，堅(jiān)決避免AI辦公泄密。

法規(guī)鏈接

《中華人民共和國(guó)保守國(guó)家秘密法》第三十一條規(guī)定,，任何組織和個(gè)人不得使用非涉密信息系統(tǒng),、非涉密信息設(shè)備存儲(chǔ)或者處理國(guó)家秘密。

《網(wǎng)絡(luò)數(shù)據(jù)安全管理?xiàng)l例》第十九條明確要求,，提供生成式人工智能服務(wù)的網(wǎng)絡(luò)數(shù)據(jù)處理者應(yīng)當(dāng)加強(qiáng)對(duì)訓(xùn)練數(shù)據(jù)和訓(xùn)練數(shù)據(jù)處理活動(dòng)的安全管理,，采取有效措施防范和處置網(wǎng)絡(luò)數(shù)據(jù)安全風(fēng)險(xiǎn)。

來(lái)源：保密觀

流程編輯：U072

如遇作品內(nèi)容,、版權(quán)等問(wèn)題,，請(qǐng)?jiān)谙嚓P(guān)文章刊發(fā)之日起30日內(nèi)與本網(wǎng)聯(lián)系。版權(quán)侵權(quán)聯(lián)系電話：010-85202353