蘋果將偵測兒童色情影像 用戶上傳iCloud - 手機討論

Donna avatar
By Donna
at 2021-08-07T21:42

Table of Contents

※ 引述《peter0627 (biscuit)》之銘言:
: ──────────────────────────────────────
: 1.原文連結:連結過長者請使用短網址。
: https://www.cna.com.tw/amp/news/aopl/202108060201.aspx
: 2.原文標題:標題須完整寫出(否則依板規刪除並水桶)。
: 蘋果將偵測兒童色情影像 用戶上傳iCloud就舉報
: 3.原文來源(媒體/作者):例:蘋果日報/王大明(若無署名作者則不須)
: 中央社 譯者:李佩珊/核稿:張佑之
: 4.原文內容:請刊登完整全文(否則依板規刪除並水桶)。
: (中央社舊金山6日綜合外電報導)蘋果公司(Apple)今天表示,iPhone和iPad即將開始
: 偵測含有兒童性虐待的影像,當這些影像上傳到蘋果在美國的網路儲存空間時加以舉報,
: 不過提倡隱私權的人士對此表示憂心。

Apple 設計這套系統的時候就考慮過有人會出來靠北隱私了

背景知識

- Hash 值: 每個檔案都有一個唯一的 Hash 值 (指紋的概念) 科學家用數學保證他幾乎不會重複

每個雲端空間基本上都會在你上傳檔案的時候計算 Hash 值
為了要避免他們儲存太多重複的檔案
有兩個用戶上傳一樣hash的檔案可以只存一份就好

(例如 lol.exe 一百個用戶上傳到自己的帳號 存一百份根本是浪費空間)

---

美國國家失蹤與受虐兒童中心 將兒童色情的檔案 Hash 值資料庫提供給 Apple
iCloud 會判斷你上傳的圖片 Hash 值是不是出現在兒童色情的檔案資料庫裡面

例如兒童色情資料庫:

檔案 -> Hash 值

兒童色情圖片1.jpg -> 123456
兒童色情圖片2.jpg -> 30678
兒童色情圖片3.jpg -> 878787

你今天上傳一張圖片

圖片.jpg -> 696969
刺激.jpg -> 30678

刺激.jpg 出現在兒童色情的Hash資料庫中
前面有說到每個檔案的 Hash 值是唯一的
所以你上傳的圖片轉換成 Hash 值出現在資料庫中說明甚麼

你 在 上 傳 違 法 圖 片

讓我們來看看 iCloud 的用戶協議

---

您同意不會使用本服務於:

a. 上傳、下載、貼文、發電子郵件、傳輸或儲存任何違法、騷擾、威脅、具傷害性、侵
權、誹謗、辱罵、暴力、猥褻、侵入性的、侵犯他人隱私、仇恨、涉及種族或倫理問題的
侵犯,或其他違法的內容;

E. 進入 / 使用您的帳號與內容

蘋果公司保留採取其相信之合理必要或適當手段之權利以執行和 (或) 確認遵守本協議之
任何部分。 您承認且同意當蘋果公司相信其為合理必要且適當時,蘋果公司得無須向您
負責,而依法律要求向法律執行機關、政府單位和 (或)第三人,使其接觸、使用、保存
和 (或) 揭露您帳戶的資訊與內容,或蘋果公司善意相信該等接觸、使用、揭露或保存之
行為係屬 (a) 遵守法律之程序或請求;(b) 執行本協議,包括對任何潛在的違反情事為
調查; (c) 檢測、預防或以其他方式處理安全性、詐欺或技術問題; (d) 基於法律之要
求或准許,保護蘋果公司、其使用者、第三人或公眾的權利、財產與安全。

---

安卓仔也不用見獵心喜
或者說那我換到安卓就好

來看看 Google Drive 的協議

https://www.google.com/drive/terms-of-service/

2. Program Policies

We may review content to determine whether it is illegal or violates our
Program Policies, and we may remove or refuse to display content that we
reasonably believe violates our policies or the law. But that does not
necessarily mean that we review content, so please don’t assume that we do.

---

基本上所有雲端空間都不可能讓你存兒童色情圖片

--
Tags: 手機

All Comments

James avatar
By James
at 2021-08-08T16:03
不可能吧 這樣每上傳一張照片 就要掃上萬次hash效率很低耶不過zip起來就沒事了 根本抓不到
Susan avatar
By Susan
at 2021-08-09T10:24
以下開放卓_,果_,中國機_互咬
Elvira avatar
By Elvira
at 2021-08-10T04:45
應該是自己的手機就算出hash值 等上傳時提供該值
Eden avatar
By Eden
at 2021-08-10T23:06
hash值應該可以用轉檔的方式改變?
Una avatar
By Una
at 2021-08-11T17:27
30678這個代號XD
Donna avatar
By Donna
at 2021-08-12T11:48
一樓的意思是算出檔案雜湊值後還要和資料庫比對當然這個我相信一定有辦法解決 先不說有沒有什麼
Ophelia avatar
By Ophelia
at 2021-08-13T06:09
hash 值是會碰撞的 無限大的定義域映射到有限的值域
Bethany avatar
By Bethany
at 2021-08-14T00:30
搜尋法 你上傳後他再慢慢比對就好
Valerie avatar
By Valerie
at 2021-08-14T18:51
雜湊碰撞的問題也不算難解決 演算法更新或是符合時再抓檔案出來比對就好 畢竟要常常發生碰撞的機會也不會太多(雜湊演算法不要太舊的話
Edwina avatar
By Edwina
at 2021-08-15T13:12
現在怕的是 是不是不上傳 手機也會比對資料庫 只差
Isabella avatar
By Isabella
at 2021-08-16T07:33
再如果上傳 就把答案上傳 XD
James avatar
By James
at 2021-08-17T01:54
按照這方法,只要Genius或小畫家加工不就繞過了
Olga avatar
By Olga
at 2021-08-17T20:15
掃hash是防堵已知兒色第一手兒色還是要倚賴AI和人工
John avatar
By John
at 2021-08-18T14:36
我相信比對很快 只是好像有人誤會一樓是指計算雜湊很慢不過比對雜湊值這個有沒有啥方法加速我就不知道了
Freda avatar
By Freda
at 2021-08-19T08:57
上傳這種東西靠壓縮檔能避開嗎?
Barb Cronin avatar
By Barb Cronin
at 2021-08-20T03:18
另外 ho大說的沒錯 大家自己想想Google相簿和FB怎麼幫你找臉孔對應的就知道現在對圖片的分析已經很強了
Candice avatar
By Candice
at 2021-08-20T21:39
了解,我沒有違法的東西,只是我上傳私人東西都會習慣用7z壓縮並加上密碼...
Aaliyah avatar
By Aaliyah
at 2021-08-21T16:00
微軟的也會掃,從很久以前就明白告訴使用者了
Brianna avatar
By Brianna
at 2021-08-22T10:21
其實 Google 最近也有新聞
Valerie avatar
By Valerie
at 2021-08-23T04:42
md5?
Rae avatar
By Rae
at 2021-08-23T23:03
這根music fingerprint 又不一樣
Isabella avatar
By Isabella
at 2021-08-24T17:24
MD5不安全,現在應該都是用sha1的樣子
Margaret avatar
By Margaret
at 2021-08-25T11:45
單純就是每張圖算一個hash 丟去跟server比對?
Freda avatar
By Freda
at 2021-08-26T06:06
Apple跟Google都有相關規定,也就證明了Apple引以為傲的隱私保障可不包含雲端空間
Susan avatar
By Susan
at 2021-08-27T00:27
這樣 原圖截一點 或者縮小 算出來的hash不就不一樣了?
Poppy avatar
By Poppy
at 2021-08-27T18:48
光靠截圖或是改變解析度大概都逃不過
Rae avatar
By Rae
at 2021-08-28T13:09
專業推
Emma avatar
By Emma
at 2021-08-29T07:30
電子包漿跟副檔名的問題
Sierra Rose avatar
By Sierra Rose
at 2021-08-30T01:51
這樣真的就像music fingerprint 的算法
Linda avatar
By Linda
at 2021-08-30T20:12
Google很早就有了啊,最近才上新聞https://i.imgur.com/dYDZmnW.jpg
Olive avatar
By Olive
at 2021-08-31T14:33
所以其實蘋果沒有掃描你的照片‘內容’,只是掃描你客戶端產生出的照片Hash值而已??
Blanche avatar
By Blanche
at 2021-09-01T08:54
下載被解壓縮 調色 裁剪 都會不一樣吧
Andy avatar
By Andy
at 2021-09-02T03:15
google雲端就有人被抓了
Anthony avatar
By Anthony
at 2021-09-02T21:36
哪裡有說到蘋果是用 hash 值比對違規檔案的?
Erin avatar
By Erin
at 2021-09-03T15:57
意思是犯罪者如果上傳一手的照片就繼續逍遙法外?
Dorothy avatar
By Dorothy
at 2021-09-04T10:18
hash很容易跑掉欸 隨便編輯一下就完全不一樣了不知道他們實務上怎麼判斷 說不定還是跟Google一樣用AI識別
Jacky avatar
By Jacky
at 2021-09-05T04:39
為什麼要一張一張比對,如果真的有色情圖的資料庫,又真的是用hash比對,他只要去select你上傳的hash有沒有出現在裡面就好了,0.0x秒的事,可是我覺得不可能這樣做,就像前面講到的,只要有變動,他就會改變hash,你不可能知道上傳人變動什麼,而且每天會有多少要上傳,又有多少新的出現,這樣去檢查根本不合理,你說用圖像辨識去確認,感覺還比較有機會,也許你的手機在存的時候,就自動跟辨識資料庫做比對,寫入可能的tag,上傳的時候會去比對包含這些tag的,是不是兒童色情
Hedy avatar
By Hedy
at 2021-09-05T23:00
就我google相簿使用經驗,相片都很自動加上特徵,例如狗,貓,海之類的,或許針對媒體檔會用機器學習比對?
Olivia avatar
By Olivia
at 2021-09-06T17:21
你都說一個pixel值不一樣hash就不一樣了隨便拍一張照怎麼可能跟出現在資料庫你不可能事先有這張照片放資料庫
Charlotte avatar
By Charlotte
at 2021-09-07T11:42
如果用ai圖片學習,就等於可能出錯,出錯就要人工審核,人工審核就侵犯隱私了。誰有權利這樣做?他們又受誰監督
Faithe avatar
By Faithe
at 2021-09-08T06:03
推 謝謝講解
Mason avatar
By Mason
at 2021-09-09T00:24
Google的以圖搜圖是可以用部分圖片搜到完整原圖,所以並不是你做簡單微調人家就一定查不到,不過Google好像搜不到左右相反的原圖,所以做過某種程度的影像處理還是有可能避開審查,這是指同一張圖的審查。如果是像CNN那樣抽取出圖片的輪廓特徵再比對就完全不是同一回事了
Delia avatar
By Delia
at 2021-09-09T18:45
hash值這種藉口我是覺得很爛啦別人隨便圖片裁一裁加浮水印 影片剪一剪放上廣告就是完全不同的新檔案了 更別提還有新的犯罪內容只看hash是能看什麼?老實承認會看用戶上傳的內容(無論是人工還是AI看)會很難嗎?
Elvira avatar
By Elvira
at 2021-09-10T13:06
在我看來這也不過是另一個蘋果宣傳的日常一邊說打擊犯罪討好一部分的人 同時又用很爛的藉口說我們打擊犯罪的過程不會看到你們這些無辜的人上傳的東西去騙另一部分在乎的消費者
Carolina Franco avatar
By Carolina Franco
at 2021-09-11T07:27
Google一堆影像處理專家, hash值計算會這麼單純?
Edward Lewis avatar
By Edward Lewis
at 2021-09-12T01:48
只要老師沒對到答案 那就不是違法的啦
Brianna avatar
By Brianna
at 2021-09-12T20:09
現今老早就有許多影像特徵抽取方法, 可以克服因影像放大縮小位移或多次重壓縮造成的影響
Frederica avatar
By Frederica
at 2021-09-13T14:30
哪裡有技術文件說蘋果用hash值檢查?
Donna avatar
By Donna
at 2021-09-14T08:51
用hash來做效率很差,更新一下exif 就完全不同了,你這個設計跟沒有一樣
Queena avatar
By Queena
at 2021-09-15T03:12
這樣就可以看得出來,很多人根本沒有相關知識卻在高談闊論。講個最簡單卻是外行容易搞混的事,sha256,md5這些是hash算法不是加密算法。
Belly avatar
By Belly
at 2021-09-15T21:33
長知識
Callum avatar
By Callum
at 2021-09-16T15:54
蘋果原文還有說未成年想傳裸露自拍也會跳出警告,父母也能收到通知,這種不可能有資料庫可以比對的
Ursula avatar
By Ursula
at 2021-09-17T10:15
好像有提 Message 傳送露骨照片會警告兒童和父母
David avatar
By David
at 2021-09-18T04:36
還會順便將收到的照片模糊化
Gary avatar
By Gary
at 2021-09-18T22:57
根本不是用HASH值,你自己腦補的嗎? 你哪邊看到的也講不出來,這一定是用AI辨識
Olivia avatar
By Olivia
at 2021-09-19T17:18
cool
Victoria avatar
By Victoria
at 2021-09-20T11:39
ai辨識比較可能吧,hash值太容易閃了,加個浮水印就不一樣了,根本不可行
Kristin avatar
By Kristin
at 2021-09-21T06:00
不同圖的hash值不同,那是用來加密的吧,最好分得出來
Dorothy avatar
By Dorothy
at 2021-09-22T00:21
128bit=>1/2^128才碰撞,更別說你的圖檔了
Quintina avatar
By Quintina
at 2021-09-22T18:42
本來就想查都查得到了 會覺得這個能保密的人才神奇
Ursula avatar
By Ursula
at 2021-09-23T13:03
用AI來做image embedding也可以說是hash阿 然後再和色圖比embedding的相似度就可以了
Ina avatar
By Ina
at 2021-09-24T07:24
他用的hash是辨識相似度的hash 不是那種密碼學用對抗修改的那種md5或SHA
Skylar DavisLinda avatar
By Skylar DavisLinda
at 2021-09-25T01:45
密碼學用的hash值的相似度與否與原始檔案是否相似無關
Michael avatar
By Michael
at 2021-09-25T20:06
Google雲端硬碟也一樣會檢查 上禮拜八卦才吵過
Necoo avatar
By Necoo
at 2021-09-26T14:27
看推文 就未成年表妹鮑魚照那篇新聞
Franklin avatar
By Franklin
at 2021-09-27T08:48
locality sensitive hashing
Elizabeth avatar
By Elizabeth
at 2021-09-28T03:09
你可以不要存jpg阿 你可以存zip heehee
Callum avatar
By Callum
at 2021-09-28T21:30
你去TG晃一圈就知道有多少東西都放雲端了只不過三不五時會直接沒了
Zenobia avatar
By Zenobia
at 2021-09-29T15:51
我 mega drive 力抗法西斯 FBI

支援紅米8t usb網路共用的路由器

Vanessa avatar
By Vanessa
at 2021-08-07T21:18
以前都用htc跟asus的手機用usb網路共享的方式接到asus ac51u無線分享器,可是電池壞了 就改買紅米8t用usb分享網路,現在怎麼設定都不行讓無線分享器連網,改用小米9也一樣連 不上,請問有支援小米手機usb網路共用的路由器嗎?最好2000元以內1000以下更好謝謝。 - ...

zenfone8拍照出現的白十字是甚麼功用

Jacky avatar
By Jacky
at 2021-08-07T19:16
最近買了zenfone8發現他在拍照的時候會出現一個十字架的東西,然後如果你拍照時兩個 十字架重合會變成像在錄影片的感覺,請問有板友知道這是甚麼功能嗎?可以告訴我一下 這是甚麼功能嗎?非常謝謝幫忙 - ...

小米手機「分身、時間靜止」有趣功能

Ethan avatar
By Ethan
at 2021-08-07T18:07
(修改一下心得,讓更多人知道這有趣功能) 歡迎多增加「虛虛虛」,更多X,讓更多人看到 用手寫寫簡寫+語音輸入選錯字,就能讓人以為是對岸的,呵呵,蠻單純的 來介紹一下 小米這功能很炫,也是我覺得最好玩的 (時間靜止、魔法分身) 買Mi11 lite 5g 8/128 一開始只因它最輕159克,舊手機近20 ...

lcd / dc dimming 手機

Andy avatar
By Andy
at 2021-08-07T17:21
範本格式 ────────────────────────────────────── 1.預算範圍/考慮機種:例:10K-20K/iPhone12 Pro Max、Note20U、XPERIA 5II 預算20k 內 機種:Mi 10t/redmi k30s 等 2.使用需求(螢幕尺寸/拍照/效能/續航力/ ...

line訊息發的出去,但看不到別人的

Ula avatar
By Ula
at 2021-08-07T17:15
要來求救廣大鄉民了~~ 我的line昨晚突然顯示訊息傳不出去 但是後來發現其實是有傳出去 對方也看的到 但是我這裡完全看不到對方訊息 然後一直顯示傳不出去的圖示 但是卻還是聽得到訊息傳出去的聲音 https://i.imgur.com/ywe2RJL.jpg 然後有些聊天群組 是完全看不到內 ...