如何“愚弄”人工智能?

不懂技術怎么做產品?15天在線學習,補齊產品經理必備技術知識,再也不被開發忽悠。了解一下>

人工智能概念雖然已經流行了很多年,并且在一些產品上得到落地與應用。不過從使用效果來說,人工智能偶爾還是會被調侃為“人工智障”,被人們“玩弄于鼓掌之間”。

很多人用過手機地圖,導航給生活帶來的極大的方便,但是最近,導航地圖遇到了點小麻煩——

外國一名網友,用99部手機放在小拉車里,通過在馬路上緩慢行走。

有趣的事情發生了:

在他走過的大街上,谷歌地圖識別出了用戶高度集中的地段,還標注了“交通緩慢”。

如果此時有司機路過該路段,地圖會提示司機重新規劃路線,避開這條“擁堵”線路。

很神奇,通過簡單的方式就可以愚弄一下谷歌地圖。

一、愚弄人工智能?

隨著人工智能科技技術的飛速發展,人們生活中的智能化機器越來越多,從居家到出行與人們息息相關,為改善人們生活水平做出了巨大貢獻,比如說打車服務、地圖導航、人臉識別、無人駕駛和智能語音等等。

這里頭也不乏有厲害的巨頭,比如開頭提到的谷歌地圖,還有現在的支付寶掃臉支付、特斯拉無人駕駛等等。

人工智能讓我們驚艷科技改變生活,也讓我們思考:人工智能真的比我們聰明嗎?

這個世界上,總有那么一些人,不走尋常路,喜歡不按套路出牌,電腦誕生的時候,有些人不想好好使用它,而是搗鼓它,這群人后來有了一個名字——黑客,這群人有著高超的技術和超乎常人的耐力;人工智能的技術產生,似乎讓黑客的門檻變低了,很多人都可以愚弄它一下。

愚弄人工智能的方式大概分這幾種:模擬欺騙、邏輯欺騙和平臺漏洞:

1. 模擬欺騙

就是在了解人工智能的工作能力,通過物理相似的性能進行欺騙;這種攻擊因其不易察覺而引人注目。

2017年,一個計算機科學家在一個停車標志上貼了一些貼紙,愚弄了一種常見的圖像識別人工智能——自動駕駛人工智能,使自動駕駛的汽車誤以為這是一個每小時45英里的限速標志,這個結果肯定會讓自動駕駛汽車公司抓狂。

這種愚弄可能會造成車毀人亡,要是放在國內的話,小廣告到處貼,指不定這車會作出什么樣不可思議的舉動。

另一種比較廣泛的就是大家常用的人臉識別,實名認證的時候掃掃臉,購物支付的時候掃掃臉。

如果你聽到這樣的消息:“某個人成功欺騙包括支付寶和微信在內的人臉識別支付系統,完成了購物支付程序,還用同樣的方式甚至進入了中國的火車站。”

很嚇人吧?確實,瞬間讓很多人擔心起“手機錢包”的安全。

這是美國一家名為Kneron的人工智能公司號稱自己使用3D面具突破了支付寶、微信的人臉識別系統,還在火車站成功刷臉進站。

雖然火車站不允許你帶著一個面具或者一個假人頭去坐車,但是密碼就寫在臉上,以后出門是不是要帶口罩了,就像密碼保護遮住部分位數一樣。

2. 邏輯欺騙

在深度理解和學習人工智能的實現原理和邏輯,圍繞產品邏輯做出來的干擾行為。

我對一件事情印象很深:

當時我剛注冊使用了某個購物APP后,正巧朋友家小孩子出生了,我就在上面看了一些小孩子的衣服和玩具,結果接下來的一段時間一發不可收拾,短信、app推送全是嬰兒產品,打開APP,首頁“猜你喜歡”都是母嬰類的產品。

這明顯是被電商平臺的個性推薦打了奶爸的標簽,這也是大部分互聯網產品的邏輯。

如今,個性推介在各個地方應用廣泛,比如電商推薦、頭條推薦和短視頻推薦等等,個性推薦本來是更好的服務用戶體驗,結果有些人就鉆了漏洞,我見過淘寶刷單的物理外掛——貓池,

還有為了提升短視頻瀏覽量和知名度,幾百部手機24小時物理刷視頻的僵尸手機集群。

這些屬于鉆空子賺錢的黑客,還有一些閑來無事的搞怪,比如說你朋友圈的總有一個天天跑步第一名的人物,要么他是快遞小哥,要么他可能用了搖一搖物理外掛欺騙了手機。

3. 第三種就是平臺漏洞

這一種就是傳統黑客比較喜歡的,深挖人工智能平臺的BUG,比較有名的時間就是“海豚音攻擊”。

如今,智能手機、可穿戴設備以及智能家居等都搭載著語音助手,Siri、小biu智能家居等語音控制系統變得越來越流行,但你覺得語音控制是安全的嗎?

如果將語音命令頻率轉換成為海豚音級別的超聲波,因為超出人耳接收頻率的范圍,無法被人聽見,卻可以被手機、智能家居以及智能手表等智能設備的語音控制系統接收到。

再利用麥克風的硬件漏洞進行還原成原始的語音命令,就可以讓智能語音助手執行海豚音的控制命令,造成人工智能識別和決策的失誤;

人工智能是美好的,也是脆弱的,稍微愚弄一下就可能變成了人工智障;現有的“深度學習”機器的還是存在一定的局限性。

二、為什么可以愚弄人工智能?

我們來翻一翻人工智能歷史——人工智能是計算機的第三次發展浪潮,是對傳統計算機的延伸和擴展。

我們先來看看傳統的計算機,它的工作原理就是有一個確定的輸入,就有一個確定的輸出。

對于機器來講,原理也一樣。

機器通過感知到一種信號,然后作出相應的回應,人工智能也是相仿;你給它一個感知的信號,通過機器學習后,它會有一個特定的輸出,

如果你干擾了他的輸入或者欺騙了他的輸入,他就是有錯誤的輸出的,也就是我們看到的“變成了人工智障”。

現在的人工智能就像90年代的香港僵尸片里的僵尸,撒上一把糯米粉在臉上,僵尸就看不見你了!

不過,這也讓我想起來一件很好玩的事情:

作為女人,化妝是一件很正常的事情,無論是她化妝還是不化妝,身邊的朋友都能認出她來。

但是在一次車站坐火車,現在的火車站是人臉識別掃描進站,無人值守檢票。

我前面的一位美女拿著身份證刷了半天,就是沒刷進去——原來身份證與本人相差太大。

我瞄了一眼,前面的美女挺漂亮的,就是身份證沒化妝,人臉識別失效了,終于走了又長又慢的人工通道才進站的。

針對機器來講,她看不出來你有沒有化妝,他只知道化妝的你和身份證上的你不一樣,稍微的一個化妝就給人工智能產品的應用帶來了抓狂的煩惱。

所以提個小建議,下次錄入智能手機面部識別密碼的時候,一定得化妝的漂漂亮亮,不然就識別不到美女了!

三、擁抱未來

因此,盡管人工智能產品具有所有好處和技術帶來的便利,但是人工智能產品的脆弱性也不能忽視——矛與盾天生就是一對冤家,人工智能和愚弄人工智能也是一對冤家,在“爾虞我詐”的較量中,相信人工智能產品能夠逐漸強大起來。

雖然完全取代人類的工作的道路還很長,不過很快就會到來;我還是非常慶幸自己能生在這樣一個時代,有機會能經歷人工智能快速發展、融入我們生活的時代。

最后,通過我最喜歡的周星馳的話做個結尾:

  • 周星馳:他好像一條狗哎!
  • 小朋友:他是孫悟空!
  • 人工智能:猴子…猴子…猴子…

 

本文由 @產品包工頭 原創發布于人人都是產品經理,未經作者許可,禁止轉載

題圖來自Unsplash,基于CC0協議

給作者打賞,鼓勵TA抓緊創作!
評論
歡迎留言討論~!
  1. 人工智能不管是語音識別也好,圖像識別也好,最大的問題就是檢測方式太單一,檢測過程太明顯。這就像考試的時候老師跟你不要作弊,我看著呢。

    回復
虎扑足球手机虎扑网 黑龙江22选5折线图 一定牛江苏十一选五 陕西十一选五高遗漏 广东十一选五遗漏数 股票融资100万一天多少利息 疯狂飞车疯狂飞艇网站 四川熊猫麻将官方网版 香港六合彩白小姐免费透码 福彩湖北30选5开奖结果查询 武汉麻将红中赖子山庄 黑龙江11选5开奖结 11选5走势图山东 上海期货配资哪家好 甘肃十一选五前三直 河南22选5一等奖多少钱 启牛配资