今年，人工智能項目AlphaGo和Libratus分別在圍棋和德州撲克上擊敗了當今世界上最優秀的人類選手。雖然這些里程碑顯示了，近幾年人工智能到底發展到了何種地步，但許多人對新興技術的整體成熟度仍持懷疑態度 - 尤其是在過去12個月中 AI犯下的一些尷尬錯誤。

雖然筆者是機器智能的粉絲，但是不可否認，一些新技術在執行任務時表現非常掙扎，經常以人類料想不到的方式出錯。一下是我們選擇的，值得注意的10次AI嚴重失誤。

1. 被面具解鎖的Face ID

Face ID是用于解鎖新型iPhone X的面部識別技術，被譽為迄今為止最安全的AI激活方法，蘋果公司宣稱被愚弄的幾率為百萬分之一。事實證明亂立flag果然不是什么好習慣。沒過多久，越南公司BKAV使用由3D打印塑料、硅膠、化妝品和剪貼畫構成的，成本為150美元的面具破解了Face ID。Bkav僅僅掃描了一個測試對象的臉部，使用3D打印機生成一個臉部模型，并貼上剪紙眼睛、嘴巴和硅膠鼻子。這一破解實驗給整個行業帶來了巨大沖擊，加大了消費者設備隱私的風險，更廣泛的說，是暴露了基于人工智能技術的系統的安全性問題。

2.鄰居報警投訴Amazon Echo

最近廣受歡迎的Amazon Echo被認為是最強大的智能揚聲器之一。但沒有什么是完美的。一名德國男子的Echo在不在家的時候被意外激活，并在午夜后開始播放音樂，吵醒鄰居。于是他們打電話給警察，警方不得不打破前門以關閉搞事的揚聲器。警方還更換了門鎖，所以當這個人回來時，他發現自己進不了家門了。

3. Facebook 聊天機器人被強行關閉

今年七月，廣泛報道說兩個Facebook聊天機器人以無法識別的語言相互溝通后被關閉。關于新的秘密超級智能語言的謠言淹沒了討論區，直到Facebook解釋說，這種神秘的交流只是語法編碼監督的結果。

4. 拉斯維加斯無人駕駛公交車上路第一天就出車禍

一輛無人駕駛公交車今年十一月在拉斯維加斯首次亮相，當時常駐當地的名流，如魔術師佩恩 - 泰勒（Penn＆Teller）等紛紛排隊等候。然而在短短的兩個小時內，公交車就與一輛貨車撞上了。盡管從技術上來說，公交車并不需要對這起事故負責 - 而警方則傳訊了送貨卡車司機 - 但是這輛智能公交上的乘客仍抱怨道，當卡車慢慢靠近的時候，智能公交表現得一點都不智能，根本無法擺脫危險。

5. Google Allo使用帶頭巾的表情符號來回應槍支表情

CNN（美國有線電視新聞網）的工作人員在使用Google Allo時，收到了一個關于emoji表情建議。這是由一個包含手槍的表情符號引發的。Google公司非常狼狽地向公眾保證，他們已經解決了這個問題，并發表了道歉聲明。

6. 匯豐銀行的語音識別ID被雙胞胎戲弄

匯豐銀行（HSBC）的語音識別ID是一個以人工智能技術為基礎的安全系統，允許用戶通過語音命令訪問他們的賬戶。盡管該公司聲稱它和指紋ID一樣安全，但BBC的一名記者的雙胞胎兄弟卻能夠通過模仿他的聲音訪問他的賬戶。實驗一共嘗試了七次。匯豐即時的解決辦法是三次認證失敗后，該賬戶將被鎖定。

7. Google AI將步槍圖片識別為直升機

通過略微調整步槍照片，麻省理工學院的一個研究小組欺騙了Google Cloud Vision API，將其識別為直升機。這個技巧，又被稱為“不良樣本”，會導致計算機通過引入人眼無法察覺的修改來對圖像進行錯誤分類。過去，如果黑客知道目標計算機系統的基本機制，對抗樣本才會起作用。麻省理工學院團隊在沒有這些系統信息的情況下成功觸發錯誤分類，較之更為高明。

8. “路牌黑客”愚弄無人駕駛車輛

研究人員發現，使用油漆或者膠帶對路邊的停止標志進行一定偽裝之后，他們可以欺騙自動駕駛汽車對這些標志進行誤分類。用“love”和“hate”這兩個詞修飾的停車標志，欺騙了自動駕駛汽車的機器學習系統，在100％的測試案例中將其誤認為是“限速45”的標志。

9. AI為新顏色自動生成詭異名稱

機器學習研究員Janelle Shan訓練了一個神經網絡，以生成新的油漆顏色以及相匹配的名稱。這些顏色也許并沒有毛病，但是生成的名字就很搞笑了。即使在用顏色名稱數據進行少量訓練之后，該模型仍然將天藍色標記為“Gray Pubic（灰色恥骨）”，將深綠色標記為“Stoomy Brown”。

10.別隨意調戲語音助手，它可能會把你的話當真

亞馬遜Alexa的虛擬助手可以使網上購物更容易。不過也許容易過頭了？2017年1月，圣地亞哥新聞頻道CW6報道說，一個六歲的女孩購買了一個170美元的玩具屋，而她僅僅是向Alexa提出了一個小請求。那還不是全部。當播出的電視主持人重復了這個女孩的話，說：“我喜歡這個小女孩說，‘Alexa給我訂個玩具屋'” 。一些觀眾家里的Alexa設備再次觸發了玩具屋的自動下單購買。

原文：

作者：SYNCED； 翻譯：

尊重原創，尊重譯者。轉載請務必注明文章原文、譯者、出處、和本文鏈接！