產(chǎn)品詳情
GCS800-B智能除濕裝置 江干區(qū)公園詢價(jià)
即使預(yù)測(cè)是正確的，它也可能基于不正確的偏見，而這是人們希望避免的 如何理解AI算法？為了解決這些問題，我們需要采用適當(dāng)?shù)姆椒ù蜷_AI算法的“黑匣子”，讓人類能夠理解這些預(yù)測(cè) Grad-CAM就是這種神經(jīng)網(wǎng)絡(luò)方法的一個(gè)有趣的例子 Ramprasaath R.Selvaraju等人于2019年發(fā)表了一篇論文，其中解釋了如何將特征圖與其梯度相乘，以此確定輸入的哪些部分對(duì)模型的預(yù)測(cè)#重要
這為用戶提供了一個(gè)非常有價(jià)值的工具，可以更好地了解模型學(xué)到了什么，進(jìn)而得出預(yù)測(cè) 這也會(huì)增加人們對(duì)模型的信任，并有助于開發(fā)人員發(fā)現(xiàn)在訓(xùn)練集中發(fā)現(xiàn)模型缺點(diǎn)，然后加以解決 作者給出了一個(gè)示例，人們訓(xùn)練了兩種模型分別用來識(shí)別醫(yī)生和護(hù)士 Grad-CAM提供了一個(gè)覆蓋圖（類似于熱圖），告訴人們使用
在#個(gè)模型(“有偏見”)中，模型使用面部特征來識(shí)別 這是我們不希望看到的情況，鑒于訓(xùn)練集存在偏見（女護(hù)士照片和男醫(yī)生照片較多），模型可能會(huì)判斷照片中是“護(hù)士” 經(jīng)過分析和再訓(xùn)練后，第二個(gè)模型可根據(jù)其他要素做出決策 Grad-CAM用于驗(yàn)證是否需要這些要素（如聽診器）
圖片
這個(gè)例子可以很容易地推算#與安全相關(guān)的功能 在駕駛員監(jiān)測(cè)系統(tǒng)檢測(cè)的情況下，Grad-CAM可以確保駕駛員疲勞標(biāo)記的訓(xùn)練無偏見 恩智浦繼續(xù)投資打造功能安全和信息安全的AI解決方案 通過構(gòu)建對(duì)訓(xùn)練數(shù)據(jù)的信任，確保ML模型的#執(zhí)行（即使是在隨機(jī)硬件故障的情況下），恩智浦致力于朝著光明、安全的未來前行
