Huawei多款手機違反測試規範,遭3DMark撤銷測試成績
3DMark是市面上最專業的顯示效能測試工具之一,不但支援Windows平台電腦,也具有相容於Android、iOS等裝置的版本,這次的事件起因為科技媒體AnandTech發現Huawei推出的手機以不正當手段取得較佳成績,經3DMARK開發公司UL確認過後,最終撤銷多款手機成績。
Huawei偷吃步被抓包
初代3DMark是於1998年10月由Futuremark推出,而Futuremark於2014年併入UL,到了2018年4月正式更改品牌名稱,因此3DMark與PCMark等產品就掛上UL品牌。
UL在新聞資料中提到,在過去的5年中,有許多智慧型手機的製造商被發現試圖操作測試成績,這也是為什麼UL明確向製造商聲明測試規範,在什麼條件下裝置與測試軟體的互動方式是被允許的。
然而日前AnandTech的報導指出,多款Huawei與其子品牌Honor的智慧型手機,似乎透過人為方式產生異常高分且具誤導性的測試成績,而根據美國市場研究公司IDC的資料,Huawei是世界上銷量排名第二的智慧型手機製造商。
UL在自己的實驗室測試了這些疑似被動過手腳的產品,並確認這些產品違反測試規範後,決定將受到影響的型號從裝置清單與成績排行榜中移除。目前已經被移除的產品型號如下
根據UL親自測試而移除的型號:Huawei P20 Pro
Huawei Nova 3
Honor Play
根據AnandTech的測試和報告而移除的型號:Huawei P20
UL如何確認問題?
為了要驗證Huawei智慧型手機是否真的有為了測試成績而動了手腳,UL分別使用公開於Google Play網路商店的公開版3DMark App與公司內部專用的版本進行測試,結果發現在同一測試項目下,公開版的測試成績比內部版高出47%。
對於這個狀況,UL引用了AnandTech所提出的解釋,指出當這些智慧型手機在執行公開版3DMark的時候,顯然是開啟「效能模式」並覆蓋原本的電力設定檔,透過有高於正常執行狀態的耗電量來提升效能表現。
而這種成績上的差異,可以判斷出這這些裝置只是單純依據App的名稱為3DMark,就開啟效能模式,而不是透過處理的工作種類進行分辨,這種偵測方式與最佳化是被UL提供給手機製造商的規範所禁止。
UL也與Huawei聯繫,討論此一調查結果,UL表示他們很高興Huawei承諾在未來的系統更新中導入更透明的測試方法,並計劃提供使用者自由切換效能模式的設定選項。
UL表示在目前的測試規範下,並沒有禁止手機製造商為產品加入效能模式,惟執行測試時需將效能模式預設為關閉狀態,讓測試App與其他App在一樣的環境中執行。
然而在這次出現問題的手機中,有個奇妙的巧合,那就是這些手機都是採用Huawei旗下HiSilicon所生產的Kirin 970處理器,是否因為這款處理器背負著不能輸的壓力而引發這次事件,就只有Huawei自己最清楚了。
華為針對跑分事件與 3D Mark 發表聯合聲明:將「性能模式」開放給用戶,不斷優化跑分標準
在近日被曝出的華為「跑分作弊」事件後,9 月 7 日晚,華為與 3DMARK 母公司 UL 達成最終共識,並公佈一則聯合聲明,表示將在之後的 EMUI 9.0 版本中把「性能模式」開放給用戶,不斷優化測試跑分標準。
事情的起因是這樣的。近日,國外評測網站 Anandtech 對華為和榮耀手機進行了一輪測試,最終發現華為 P20、榮耀 Play、華為 Nova 3 三款華為 / 榮耀手機會根據 Apk 檔案的檔案名稱自動啟用「作弊模式」。
Anandtech 表示,在 SlingShot Extreme(3D Mark 的測試項目之一)測試中,該模式會讓手機性能提升 47%,令測試成績遠高於用戶日常使用的性能表現。而在此之後,3D Mark 官方也對上述上款機型的成績提出質疑,並在排行榜中對這三款手機進行除名。
因此,針對本次事件,華為與 UL 在今晚正式作出回應,表示華為和 UL 已達成共識,雙方在討論後得出兩個結果——
1.華為表示將在 EMUI 9.0 中開放「性能模式」,讓用戶自行去選擇手機性能狀態;
2. UL 表示仍對華為手機預設開啟「性能模式」存在異議,但理解華為的用意,最終雙方一致決定將暫時下架一系列華為設備的跑分資料,並在華為授權其所有手機用戶可檢視「性能模式」後再恢複分數。
聲明內容如下:
本週,華為和 UL(3DMARK 母公司)就跑分方法進行了全面討論,並就下一步合作達成了積極共識。
討論中,華為向 UL 解釋了當前華為智慧手機的 AI 智慧調度機制,由於不同場景對性能的要求不同,最新版本的華為智慧手機系統可以通過 AI 智慧調度等先進技術,使硬體性能得到充分發揮,滿足用戶在不同場景下的體驗訴求。
UL理解華為的用意,但對華為在跑分場景中預設啟動「性能模式」,表示有異議。UL規則要求裝置像啟動其它應用程式一樣啟用常規的跑分模式。
為了尊重用戶的選擇權,華為將在 EMUI 9.0 版本中把「性能模式」開放給用戶,這樣用戶即可選擇在有需要的時候開啟該模式。
雙方還討論了當前業界通用的跑分測試方法。UL 和華為願意和業界夥伴共同努力,不斷優化跑分測試標準,以便更好地滿足行業,媒體和消費者的需求。
為避免對當前跑分結果產生混淆,UL 和華為討論後,一致決定將暫時下架一系列華為設備的跑分資料,並在華為授權其所有手機用戶可訪問「性能模式」後恢複分數。
