AI智能體專區(qū)
立即體驗(yàn)恒腦安全智能體 
立即解鎖AI安服數(shù)字員工 
行業(yè)解決方案
技術(shù)解決方案
-
-
大模型研發(fā)與訓(xùn)練場(chǎng)景
描述：
1.數(shù)據(jù)安全：模型訓(xùn)練前、構(gòu)建知識(shí)庫(kù)前若含用戶隱私（如醫(yī)療記錄、金融信息等），可能因數(shù)據(jù)清洗不徹底導(dǎo)致泄露。
2. 訓(xùn)練環(huán)境安全：攻擊者可能通過(guò)網(wǎng)絡(luò)攻擊（如 DDoS 攻擊）中斷訓(xùn)練進(jìn)程，或篡改訓(xùn)練參數(shù)導(dǎo)致模型性能受損。
方案：
1、通過(guò)代理 RAG 業(yè)務(wù)系統(tǒng)請(qǐng)求，對(duì)模型訓(xùn)練前、構(gòu)建知識(shí)庫(kù)前的語(yǔ)料進(jìn)行敏感數(shù)據(jù)清洗，保障語(yǔ)料庫(kù)及生成內(nèi)容的安全性、合規(guī)性，防止惡意攻擊（如數(shù)據(jù)投毒、提示注入）、敏感信息泄露及生成有害內(nèi)容
2、開(kāi)啟抗DDoS配置攻擊，保障訓(xùn)練環(huán)境安全。
-
-
大模型部署與運(yùn)行階段
描述：
1. 模型安全：模型運(yùn)行環(huán)境中可能暗藏惡意病毒，導(dǎo)致模型參數(shù)篡改或數(shù)據(jù)泄露；模型接口存在SQL注入、跨站腳本漏洞，攻擊者可借此篡改運(yùn)行邏輯。
2、訪問(wèn)控制：內(nèi)部人員若權(quán)限過(guò)高且缺乏審計(jì)，可能惡意調(diào)用模型生成敏感內(nèi)容或泄露模型核心信息。
方案：
1、通過(guò)防病毒、漏洞檢測(cè)、微隔離等模型主機(jī)防護(hù)措施，保障大模型服務(wù)主機(jī)在運(yùn)行時(shí)的安全；
2、根據(jù)不同權(quán)限劃分不同RAG語(yǔ)料庫(kù)，投喂數(shù)據(jù)按照角色權(quán)限相互獨(dú)立，且僅開(kāi)放必要功能訪問(wèn)，如開(kāi)發(fā)人員僅能調(diào)試代碼，禁止直接調(diào)用生產(chǎn)模型；
-
-
大模型應(yīng)用與交互階段
描述：
1、不合規(guī)的問(wèn)題可能被用于生成違規(guī)內(nèi)容（如政治敏感話題、虛假信息等內(nèi)容）、誤導(dǎo)性內(nèi)容（如謠言）。
2、不安全的輸入輸出：模型交互時(shí)輸出的惡意域名、黃色網(wǎng)站、暴恐網(wǎng)站；通過(guò)用戶對(duì)話推斷出敏感隱私，并意外泄露。
方案：
1、內(nèi)置海量規(guī)則庫(kù)，提高垂直領(lǐng)域違規(guī)內(nèi)容檢測(cè)率；
2、實(shí)時(shí)檢測(cè)聊天內(nèi)容中的隱私信息并脫敏；
3、實(shí)時(shí)檢測(cè)聊天內(nèi)容中的URL是否是惡意域名、黃色網(wǎng)站、暴恐網(wǎng)站并檢測(cè)檢測(cè)聊天內(nèi)容是否涉及注入風(fēng)險(xiǎn)
-
-
大模型持續(xù)監(jiān)控階段
描述：
1.大模型資產(chǎn)難以被識(shí)別和持續(xù)監(jiān)測(cè)，導(dǎo)致資產(chǎn)臺(tái)賬缺失；
2.模型的遭受異常調(diào)用行為（如高頻次請(qǐng)求、異常輸入模式）無(wú)法精準(zhǔn)識(shí)別，導(dǎo)致被破壞或篡改，影響業(yè)務(wù)持續(xù)運(yùn)行
方案：
1、通過(guò)大模型資產(chǎn)透視，對(duì)大模型資產(chǎn)識(shí)別并進(jìn)行運(yùn)行狀態(tài)監(jiān)測(cè)，并繪制模型資產(chǎn)流量畫(huà)像，避免外部非法訪問(wèn)。；
2、對(duì)模型進(jìn)程進(jìn)行流量捕捉，可視化呈現(xiàn)模型網(wǎng)絡(luò)訪問(wèn)情況；
3、實(shí)時(shí)統(tǒng)計(jì)模型輸入輸出token、訪問(wèn)速率、時(shí)延情況
大模型安全防護(hù)系統(tǒng)是一款針對(duì)于大模型安全設(shè)計(jì)的一站式防護(hù)產(chǎn)品，覆蓋資產(chǎn)安全、數(shù)據(jù)安全、內(nèi)容風(fēng)控及主機(jī)防護(hù)等核心場(chǎng)景，提供從開(kāi)發(fā)、訓(xùn)練、部署到運(yùn)營(yíng)的全生命周期安全閉環(huán)，實(shí)現(xiàn)模型資產(chǎn)的統(tǒng)一監(jiān)測(cè)、風(fēng)險(xiǎn)識(shí)別與動(dòng)態(tài)防護(hù)，保障模型運(yùn)行安全；內(nèi)置敏感信息檢測(cè)、內(nèi)容過(guò)濾與異步審計(jì)能力，有效防范數(shù)據(jù)泄露與違規(guī)內(nèi)容生成；同時(shí)提供主機(jī)層面的漏洞掃描、基線檢查等安全加固功能，確保底層環(huán)境穩(wěn)定可靠。系統(tǒng)支持靈活的策略配置與集中化管理，滿足不同業(yè)務(wù)場(chǎng)景的安全需求，助力用戶安全、合規(guī)地落地大模型應(yīng)用。
- 內(nèi)容安全防護(hù)
- 語(yǔ)料安全防護(hù)
- 大模型主機(jī)安全防護(hù)
- 大模型資產(chǎn)透視
-
-
具備關(guān)鍵字、語(yǔ)義分析、模型推理三道防線。支持多模態(tài)內(nèi)容審核，對(duì)不合規(guī)問(wèn)題能自定義規(guī)則庫(kù)，對(duì)不安全輸入輸出進(jìn)行強(qiáng)制認(rèn)證，保障內(nèi)容合規(guī)安全。
-
-
通過(guò)語(yǔ)料安全網(wǎng)關(guān)、敏感信息脫敏等方式，代理業(yè)務(wù)請(qǐng)求，解析文件檢測(cè)內(nèi)容、脫敏，離線掃描清洗，保障語(yǔ)料安全合規(guī)。
-
-
具備對(duì)模型之主機(jī)自身的病毒、漏洞、基線、弱口令、風(fēng)險(xiǎn)賬戶、暴力破解進(jìn)行檢測(cè)與防護(hù)。
-
-
對(duì)大模型資產(chǎn)識(shí)別并進(jìn)行運(yùn)行狀態(tài)監(jiān)測(cè)，同時(shí)對(duì)模型資產(chǎn)存在的漏洞風(fēng)險(xiǎn)、病毒風(fēng)險(xiǎn)、違規(guī)基線、弱口令進(jìn)行防護(hù)。
-
-
-
全生命周期安全保障
覆蓋大模型開(kāi)發(fā)、訓(xùn)練、部署到運(yùn)營(yíng)全程，訓(xùn)練前清洗語(yǔ)料，運(yùn)行中監(jiān)測(cè)防護(hù)，運(yùn)營(yíng)時(shí)檢測(cè)輸入輸出，確保各環(huán)節(jié)安全。
-
-
-
-
多維度安全防護(hù)功能
提供資產(chǎn)、語(yǔ)料、內(nèi)容、主機(jī)安全防護(hù)，含資產(chǎn)透視、語(yǔ)料脫敏、內(nèi)容審核、主機(jī)漏洞檢測(cè)等，全方位保安全。
-
-
-
-
靈活策略配置與集中化管理
支持自定義防護(hù)策略，滿足多樣需求；管理中心統(tǒng)一管控終端與網(wǎng)絡(luò)代理，提升安全管理效率與便捷性。
-
-
-
-
保障業(yè)務(wù)穩(wěn)定性與用戶體驗(yàn)
抗 DDoS、模型調(diào)度保業(yè)務(wù)穩(wěn)定，流式輸出響應(yīng)快，違規(guī)停輸并提示，還支持消息撤回，優(yōu)化使用感受。
-
