產(chǎn)品詳情


GCS800-B智能除濕裝置 江干區(qū)公園詢價(jià)
即使預(yù)測(cè)是正確的,它也可能基于不正確的偏見,而這是人們希望避免的 如何理解AI算法?為了解決這些問題,我們需要采用適當(dāng)?shù)姆椒ù蜷_AI算法的“黑匣子”,讓人類能夠理解這些預(yù)測(cè) Grad-CAM就是這種神經(jīng)網(wǎng)絡(luò)方法的一個(gè)有趣的例子 Ramprasaath R.Selvaraju等人于2019年發(fā)表了一篇論文,其中解釋了如何將特征圖與其梯度相乘,以此確定輸入的哪些部分對(duì)模型的預(yù)測(cè)#重要


這為用戶提供了一個(gè)非常有價(jià)值的工具,可以更好地了解模型學(xué)到了什么,進(jìn)而得出預(yù)測(cè) 這也會(huì)增加人們對(duì)模型的信任,并有助于開發(fā)人員發(fā)現(xiàn)在訓(xùn)練集中發(fā)現(xiàn)模型缺點(diǎn),然后加以解決 作者給出了一個(gè)示例,人們訓(xùn)練了兩種模型分別用來識(shí)別醫(yī)生和護(hù)士 Grad-CAM提供了一個(gè)覆蓋圖(類似于熱圖),告訴人們使用


在#個(gè)模型(“有偏見”)中,模型使用面部特征來識(shí)別 這是我們不希望看到的情況,鑒于訓(xùn)練集存在偏見(女護(hù)士照片和男醫(yī)生照片較多),模型可能會(huì)判斷照片中是“護(hù)士” 經(jīng)過分析和再訓(xùn)練后,第二個(gè)模型可根據(jù)其他要素做出決策 Grad-CAM用于驗(yàn)證是否需要這些要素(如聽診器)

圖片
這個(gè)例子可以很容易地推算#與安全相關(guān)的功能 在駕駛員監(jiān)測(cè)系統(tǒng)檢測(cè)的情況下,Grad-CAM可以確保駕駛員疲勞標(biāo)記的訓(xùn)練無偏見 恩智浦繼續(xù)投資打造功能安全和信息安全的AI解決方案 通過構(gòu)建對(duì)訓(xùn)練數(shù)據(jù)的信任,確保ML模型的#執(zhí)行(即使是在隨機(jī)硬件故障的情況下),恩智浦致力于朝著光明、安全的未來前行


