蘋果將偵測兒童色情影像 用戶上傳iCloud - 手機討論

AI可以將圖片分類，找出有問題的圖片


具體做法有很多種，我們先簡介目前效果最好的神經網路

首先會用數學模擬神經元的運算

簡化來說每一層的網路輸出(Output)就是輸入(Input)乘上權重(Weight)再加上偏移(Bias)

Output = Input * Weight + Bias

而每個 Input 可以是一維、二維或三維的矩陣，Weight, Bias也是特定大小的矩陣

所以 Output 就會很像是腦袋裡面神經網路的連結

https://imgur.com/fBbB0HA

所以當我有很多層的時候，就會像是小型腦袋

https://imgur.com/4QEmiLF


而這個小型的腦袋就可以透過已標註資料進行訓練

假設 Apple 已經人工標定好 1000 張照片，其中 800 張正常，另 200 張異常

我們就可以透過訓練這個小型腦袋，讓他逐漸地學會如何分辨正常與異常

學習過程會計算最終的輸出(FinalOutput)與真正的答案(GroundTruth)的差異(Loss)

透過這個 Loss 就可以透過數學的運算來微調需要修改的權重(Weight)與偏移(Bias)


最後訓練完的神經網路的最終輸出(FinalOutput)就會是以下例子：

一般照片：正常:0.99 (99%) 異常:0.01 (1%)

異常照片：正常:0.22 (22%) 異常:0.78 (78%)


通常類神經網路並不會用原始解析度進行訓練

需要降維，例如先縮小到 224*224 的大小再進行訓練

而經過訓練後的神經網路就能很好地將圖片進行分類


其實這種類似的做法已經有在手機相機軟體上應用： 場景智慧辨識、眨眼偵測...等

如果有足夠多的人工標註資料進行訓練，已經可以輕鬆達到 99% 以上的成功率

如果設計夠好，一台伺服器一秒要處理 100 張照片應該也沒問題

畢竟在手機端的運算能力也都可以即時辨識場景

不在手機端分析照片的原因可能是避免增加耗電


Apple會對照片進行分析，主要當然是希望降低虐童犯罪

我剛剛 Google 了一下查到 "美國一年有高達76萬5000名兒童失蹤"

我不知道數據是否準確，但這些失蹤兒童可能有大部分都跟虐童犯罪有關

希望 Google 也能跟進，讓兒童更安全！

--