課程大綱
一、基礎(chǔ)篇
  1.AI與AI安全基本概念
  2.AI與安全衍生
  3.技術(shù)發(fā)展脈絡(luò)
二、技術(shù)篇
  1.常見(jiàn)AI算法與模型介紹
  2.AI模型與算法安全分析
  3.數(shù)據(jù)隱私保護(hù)與安全措施
三、法規(guī)治理與道德倫理篇
  1.國(guó)內(nèi)外AI安全法律法規(guī)、標(biāo)準(zhǔn)規(guī)范分析
  2.AI安全治理框架
  3.AI倫理道德挑戰(zhàn)與分析
  4.典型場(chǎng)景下的AI倫理道德風(fēng)險(xiǎn)
四、安全風(fēng)險(xiǎn)篇
  1.大模型安全風(fēng)險(xiǎn)概述
  2.典型攻擊與應(yīng)對(duì)策略：提示攻擊、對(duì)抗攻擊、梯度泄露攻擊、推理攻擊、模型萃取攻擊、供應(yīng)鏈攻擊、應(yīng)對(duì)策略
  3.防御機(jī)制解析
五、安全管理篇
  1.DevSecOps與AI
  2.AI安全需求分析與設(shè)計(jì)
  3.安全的AI系統(tǒng)開(kāi)發(fā)指南與實(shí)踐
  4.AI安全測(cè)評(píng)框架應(yīng)用
  5.AI滲透測(cè)試技術(shù)與方法
  6.AI安全運(yùn)營(yíng)保障體系建設(shè)
六、標(biāo)準(zhǔn)與評(píng)估篇
  1.AI安全框架
  2.AI成熟度模型應(yīng)用與評(píng)估
  3.AI安全標(biāo)準(zhǔn)與測(cè)評(píng)認(rèn)證實(shí)踐
七、特別篇ChatGPT的安全影響
  1.惡意行為者利用LLM的安全分析
  2.防御者如何將LLM應(yīng)用于網(wǎng)絡(luò)安全
  3.惡意提示詞攻擊的防范措施
  4.企業(yè)安全使用ChatGPT的最佳實(shí)踐
八、實(shí)踐案例篇
  1.現(xiàn)實(shí)世界中的AI安全問(wèn)題深度分析
  2.AI安全解決方案制定與應(yīng)對(duì)策略
  3.關(guān)鍵領(lǐng)域的AI安全最佳實(shí)踐案例
  4.行業(yè)大模型應(yīng)用及安全實(shí)踐案例