本年，人工智能項目 AlphGo 和 Libratus 分離在圍棋和德州撲克兩個范疇克服了世界上最好的人類選手。固然這些里程碑事宜顯示了近年人工智能的成長水平，很多人依然對新興技巧全體的成熟水平抱有疑惑——特別是斟酌到曩昔 12 個月中涌現的一些人工智能的掉誤案例。
機械之能是機械智能的鐵桿粉絲，這從我們的名字中便可見一斑。然則異樣，我們非常清晰地熟悉到，一些新技巧其實不能有用地履行本身原來的義務，經常會犯一些人類從不會犯的毛病。以下是我們遴選出來的 2017 年人工智能掉誤事宜 Top 10。
面具解鎖 Face ID
Face ID，一種用來解鎖最新款 iPhone 的臉部辨認技巧，一度被稱為迄今為止最平安的人工智能激活辦法。蘋果公司曾夸口稱 Face ID 的解鎖掉誤率僅為百萬分之一。然則隨后越南公司 BKAV 應用了由 3D 打印的塑料、硅膠、化裝品和一些剪紙制成的面具就勝利破解了 Face ID，而面具的造價只要 150 美元。BKAV 只是掃描了測試對象的面部，應用 3D 打印機生成了一個面部模子，貼上了一些剪紙眼睛、嘴巴和硅膠做的鼻子。Face ID 的破解給全部行業帶來了沖擊，加重了抵消費者裝備隱私的風險和更廣泛的人工智能技巧平安性的考量。
Amazon Echo 毛病激發鄰人報警
比來年夜受迎接的 Amazon Echo 被以為是加倍壯大的智能揚聲器之一。然則沒有器械是完善的。一位德國須眉的 Echo 在其外出時代被不測叫醒，并在子夜開端年夜聲地播放音樂，吵醒了鄰人。鄰人報了警，警員不能不打破前門才把 Echo 封閉。過后警員改換了門鎖，房子的主人回家時發明本身的鑰匙曾經打不開本身的房門了。
Facebook 封閉聊天機械人
本年 7 月，媒體漫山遍野地報導，兩個 Facebook 的聊天機械人以人類沒法辨認的語音互相溝通，發明后被關停。關于新的機密超等智能說話的流言吞沒了各年夜網站，直到 Facebook 出來說明，這類奧秘的交換只是語法編譯不力形成的成果，這場風浪才逐漸停息。
拉斯維加斯的主動駕駛巴士上路第一天就產生變亂
本年 11 月，一輛主動駕駛巴士在拉斯維加斯華美表態，包含常駐拉斯維加斯的魔術明星 Penn & Teller 在內的浩瀚名人爭相列隊試乘。然后，僅僅在兩個小時后，這輛公交車就和一輛貨車相撞。雖然從技巧角度來看，公交車不必為此次事宜擔任——據警方所說，貨車司機才應當為此次事宜擔任——然則這輛智能巴士上的乘客照樣埋怨說，公車照樣不敷智能，卡車漸漸接近的時刻，它沒法解脫風險。
Google Allo 用頭巾臉色回應槍枝臉色
美國有線電視消息網的員工應用 Google Allo 時收到了一個帶有頭巾的人的臉色建議。而這個臉色是由于一個手槍臉色觸發的答復建議。谷歌為難地向"包管，成績曾經獲得處理，并向"報歉。
雙胞胎騙過了匯豐銀行的聲紋辨認 ID
匯豐銀行的聲紋辨認 ID 是一個以人工智能為焦點的平安體系，許可用戶經由過程語音敕令拜訪本身的賬戶。雖然匯豐銀行宣稱這套體系和指紋 ID 一樣平安，然則 BBC 的一位記者的雙胞胎兄弟卻能經由過程模擬聲響拜訪他的賬戶。試驗測驗考試了 7 次才勝利。匯豐立刻給出懂得決計劃，登錄掉敗三次后即鎖定賬戶。
Google 人工智能把步槍錯以為直升機
經由過程稍微調劑步槍的照片，麻省理工學院的研討小構成功誘騙了 Google Cloud Vision API，讓它將步槍照片錯以為直升機。這個技能，也叫反抗樣本，是盤算機經由過程停止人眼沒法發覺的修正從而使圖象分類涌現毛病。此前，假如黑客曉得目的盤算體系的根本機制，這類反抗樣本才會起效。麻省理工學院的團隊經由過程觸發毛病分類不必取得體系信息，改良了反抗樣本。
路牌黑客捉弄了主動駕駛汽車
研討人員發明，用油漆和膠帶對停滯標記作出不起眼的修正，他們便可以使主動駕駛汽車對這些標記毛病分類。用「love」和「hate」如許的單詞修正停滯標記，就誘騙了一輛主動駕駛汽車的進修體系。測試集中，主動駕駛汽車的進修體系 100% 將這些泊車標記識別為「限速 45」。
AI 想象了一片「銀行臀部」色彩的斜陽
機械進修研討人員 Janelle Shan 練習了一個神經收集，用來生成新的油漆色彩和給每種色彩起一個婚配的名字。這些色彩能夠看起來異常舒暢，可這些名字卻使人捧腹。應用色彩稱號數據停止大批練習以后，這個模子依然會將「天藍色」標志為「Gray Pubic」，把深綠色標志為「Stoomy Brown」。
對 Alexa 許愿要當心，說不定一不留心就下單了
亞馬遜 Alexa 的虛擬助理可使網上購物更輕易。然則是否是太輕易了？1 月份，圣地亞哥消息頻道 CW6 報導，一個六歲的女孩僅僅和 Alexa 說愿望要一個玩具小屋，所以她就經由過程 Alexa 花了 170 美元買了一個玩具屋。據稱，當電視播出時，掌管人反復了這個女孩的話，說：「我愛好這個小女孩說的話，'Alexa 給我買了一個玩具小屋'，」一些不雅眾家里的 Alexa 裝備再次被觸發，然后下單購置了一個玩具屋，不外這個說法的真實性依然有待查證。
