電話機(jī)器人谷歌濫用（谷歌對(duì)話機(jī)器人）

本文目錄一覽：

• 1、有哪些人工智能安全風(fēng)險(xiǎn)？
• 2、電銷(xiāo)機(jī)器人會(huì)涉及違法嗎？
• 3、谷歌能夠自動(dòng)打電話的AI，被稱贊通過(guò)圖靈測(cè)試的Duplex，為什么背后卻是真人在偽裝？
• 4、人工智能真的會(huì)危害人類(lèi)嗎？
• 5、315之后，騷擾電話沒(méi)有消停的意思，還經(jīng)常接到智能機(jī)器人打的電話，怎么投訴？

有哪些人工智能安全風(fēng)險(xiǎn)？

在分析之前電話機(jī)器人谷歌濫用，讓電話機(jī)器人谷歌濫用我們簡(jiǎn)要介紹一下人工智能的應(yīng)用。人工智能因其在數(shù)據(jù)分析、知識(shí)提取和自主學(xué)習(xí)方面的突出優(yōu)勢(shì)電話機(jī)器人谷歌濫用，被廣泛應(yīng)用于網(wǎng)絡(luò)保護(hù)、數(shù)據(jù)管理、信息審查、智能安全、金融風(fēng)險(xiǎn)控制和輿情監(jiān)測(cè)等領(lǐng)域。在這些領(lǐng)域，往往會(huì)出現(xiàn)一些安全風(fēng)險(xiǎn)，常見(jiàn)風(fēng)險(xiǎn)如下:

1、人工智能安全風(fēng)險(xiǎn)——框架的安全風(fēng)險(xiǎn)

近年來(lái)，著名的深度學(xué)習(xí)框架TensorFlow和Caffe及其依賴庫(kù)多次被發(fā)現(xiàn)存在安全漏洞，被攻擊者利用，導(dǎo)致系統(tǒng)安全問(wèn)題。以生成模型[3]為例。原始工作原理是:將輸入X映射到低維表示的Z編碼器，再映射回高維重構(gòu)的X解碼器，表示如下圖所示:

如果輸入是7，攻擊后的輸出可能是8。如圖所示:

此外，人工智能可以用來(lái)編寫(xiě)計(jì)算機(jī)病毒和木馬。原始的惡意腳本是手動(dòng)編寫(xiě)的。人工智能技術(shù)可以通過(guò)插入拮抗樣本[4]，繞過(guò)安全檢測(cè)，實(shí)現(xiàn)這些過(guò)程的自動(dòng)化。同樣，人工智能技術(shù)也可以自動(dòng)生成智能僵尸網(wǎng)絡(luò)[5]，它可以在不等待僵尸網(wǎng)絡(luò)控制命令的情況下對(duì)其電話機(jī)器人谷歌濫用他系統(tǒng)進(jìn)行大規(guī)模、自動(dòng)的攻擊，大大提高電話機(jī)器人谷歌濫用了網(wǎng)絡(luò)攻擊的破壞程度。(頁(yè)面)

2、人工智能安全風(fēng)險(xiǎn)——數(shù)據(jù)安全風(fēng)險(xiǎn)

攻擊者可以通過(guò)網(wǎng)絡(luò)的內(nèi)部參數(shù)得到網(wǎng)絡(luò)訓(xùn)練的數(shù)據(jù)集。人工智能技術(shù)還將增強(qiáng)數(shù)據(jù)挖掘能力，提高隱私泄露風(fēng)險(xiǎn)，比如2018年3月的Facebook數(shù)據(jù)泄露事件。

3、人工智能安全風(fēng)險(xiǎn)——算法的安全風(fēng)險(xiǎn)

深度學(xué)習(xí)網(wǎng)絡(luò)目標(biāo)函數(shù)的定義不準(zhǔn)確、不合理或不正確，可能會(huì)導(dǎo)致錯(cuò)誤甚至有害的結(jié)果。錯(cuò)誤的目標(biāo)函數(shù)、代價(jià)過(guò)高的目標(biāo)函數(shù)以及表達(dá)能力有限的網(wǎng)絡(luò)都可能導(dǎo)致網(wǎng)絡(luò)產(chǎn)生錯(cuò)誤的結(jié)果。例如，2018年3月，一輛優(yōu)步自動(dòng)駕駛汽車(chē)發(fā)生事故，機(jī)器人視覺(jué)系統(tǒng)未能及時(shí)識(shí)別突然出現(xiàn)在道路上的行人，導(dǎo)致行人發(fā)生碰撞并死亡。算法的偏差和人工智能的不可解釋性也是主要問(wèn)題。在美國(guó)，人工智能算法被用來(lái)預(yù)測(cè)罪犯，一些列表顯示許多無(wú)辜的人受到了傷害，其中大部分是黑人，甚至系統(tǒng)的開(kāi)發(fā)者也沒(méi)有合理的解釋這個(gè)決定。拮抗樣本的存在也會(huì)導(dǎo)致算法的誤判。通過(guò)給下面的圖片添加一點(diǎn)噪聲，人工智能將很有信心地確認(rèn)熊貓是長(zhǎng)臂猿。

4、人工智能安全風(fēng)險(xiǎn)——信息安全風(fēng)險(xiǎn)

有了足夠的訓(xùn)練數(shù)據(jù)，人工智能可以產(chǎn)生用于非法活動(dòng)的虛假信息。比如人工智能面部修飾DeepFakes，以及最近推出的DeepNude。一些罪犯使用假聲音和假視頻進(jìn)行詐騙?，F(xiàn)在谷歌已經(jīng)發(fā)明了一種聊天機(jī)器人，它可以完全愚弄人們?cè)陔娫捝狭奶臁?/p>

以上就是《人工智能安全風(fēng)險(xiǎn)有哪些?安全在這個(gè)行業(yè)竟然這么重要》，在分析之前，讓我們先簡(jiǎn)單介紹一下人工智能的應(yīng)用。人工智能由于其在數(shù)據(jù)分析、知識(shí)提取和自主學(xué)習(xí)方面的突出優(yōu)勢(shì)，如果你想知道更多的人工智能安全的發(fā)展，可以點(diǎn)擊本站的其他文章進(jìn)行學(xué)習(xí)。

電銷(xiāo)機(jī)器人會(huì)涉及違法嗎？

花錢(qián)買(mǎi)賣(mài)號(hào)碼超過(guò)數(shù)量均屬違法行為，如果涉及對(duì)應(yīng)到個(gè)人名稱時(shí)，可能會(huì)涉嫌侵犯公民個(gè)人信息罪，目前獲取號(hào)碼主要有以下幾種方式：

可以根據(jù)各地區(qū)的號(hào)段用軟件或excel自動(dòng)生成號(hào)碼

在企業(yè)信息類(lèi)網(wǎng)站或政府網(wǎng)站獲取企業(yè)工商注冊(cè)時(shí)所留號(hào)碼

用客戶主動(dòng)留在網(wǎng)站上的信息

靠大數(shù)據(jù)主動(dòng)獲取或采集

電銷(xiāo)機(jī)器人本身不違法主要看怎么用，用在什么行業(yè)，同時(shí)電銷(xiāo)機(jī)器人源頭公司也會(huì)設(shè)一些限制，如南極月電話機(jī)器人就會(huì)對(duì)系統(tǒng)設(shè)置每個(gè)號(hào)碼每天撥打次數(shù)和撥打時(shí)間限制，因?yàn)槭峭耆赓M(fèi)對(duì)各個(gè)行業(yè)都監(jiān)控的非常嚴(yán)格，會(huì)根據(jù)國(guó)家政策設(shè)定一些執(zhí)行標(biāo)準(zhǔn)，同時(shí)做為最大的公司，對(duì)行業(yè)的監(jiān)控和信息的掌控也是很強(qiáng)的，所以很難涉及到違法的事情

谷歌能夠自動(dòng)打電話的AI，被稱贊通過(guò)圖靈測(cè)試的Duplex，為什么背后卻是真人在偽裝？

這些所謂的AI，和Engineer.ai一樣，只存在于論文中、Demo中、產(chǎn)品的介紹中。為什么？因?yàn)槁涞靥歉辛恕＞退愎雀?、Facebook這樣的AI重鎮(zhèn)，也遭遇著這樣的情況。

甚至一直以來(lái)，谷歌展現(xiàn)的姿態(tài)，都是完全AI，完全自動(dòng)化，完全不需要人類(lèi)。只是之前官方博客里，有云淡風(fēng)輕提到過(guò)，機(jī)器能夠自主完成大部分任務(wù)，并識(shí)別自己無(wú)法處理的情況，然后讓人類(lèi)來(lái)處理。但現(xiàn)實(shí)呢？這項(xiàng)技術(shù)還很年輕、使用有限。目前谷歌仍在使用人工呼叫來(lái)幫助獲取數(shù)據(jù)、訓(xùn)練AI。

有谷歌鐵桿支持者認(rèn)為，谷歌這樣謹(jǐn)慎而不激進(jìn)地引入Duplex，是明智的。但炫酷的Demo和尷尬的現(xiàn)實(shí)對(duì)比下，無(wú)疑是一記耳光。還有一些公司，遭遇落地骨感的過(guò)程中，也是方法頻出。比如美國(guó)的一家自動(dòng)駕駛貨運(yùn)公司Starsky Robotics，核心目標(biāo)和所有的無(wú)人駕駛公司一樣，致力于讓卡車(chē)自動(dòng)駕駛。

AI可能是泡沫，但別害怕泡沫破滅現(xiàn)在，時(shí)間已是2019年，當(dāng)我們談?wù)揂I，一切都有了根本性的不同。

在競(jìng)爭(zhēng)最激烈的領(lǐng)域，第一階段的戰(zhàn)爭(zhēng)甚至已經(jīng)結(jié)束，曾經(jīng)燦若群星的一眾AI新勢(shì)力，現(xiàn)在層次分明，甚至有公司已無(wú)力參與下一階段競(jìng)爭(zhēng)。還有行業(yè)與行業(yè)的邊界，技術(shù)公司通過(guò)AI線下落地，場(chǎng)景企業(yè)也在加持AI攻堅(jiān)技術(shù)，都說(shuō)AI+，但新增紅利歸屬誰(shuí)，最大紅利誰(shuí)吃掉，勝負(fù)難分。

雖然目前AI發(fā)展存在泡沫，我們不應(yīng)該害怕泡沫的破滅。因?yàn)?，一個(gè)洗牌的時(shí)代已經(jīng)來(lái)臨，深度泛濫、偽AI創(chuàng)業(yè)的公司難有未來(lái)。一個(gè)新的時(shí)代也正在來(lái)臨，落地為王，技術(shù)價(jià)值轉(zhuǎn)換為商業(yè)價(jià)值的公司，一定是未來(lái)。

人工智能真的會(huì)危害人類(lèi)嗎？

1956年，“人工智能”這一學(xué)術(shù)術(shù)語(yǔ)首次被提出，“人工智能”也正式成為了一門(mén)新興學(xué)科。但在隨后的幾十年里，”人工智能“給我們的印象更多地是在實(shí)驗(yàn)室以及電影里。但在2013年前后，以谷歌(微博)、微軟、Facebook為代表的科技巨頭接連入局人工智能領(lǐng)域，再加上鴻海等廠商計(jì)劃利用機(jī)器人工作，“人工智能“逐漸走進(jìn)了我們的生活。

面對(duì)科技界一股前所未有的”人工智能大潮“，馬斯克、蓋茨等科技大佬坐不住了。2014年8月，馬斯克在Twitter發(fā)布一條狀態(tài)：“Bostrom撰寫(xiě)的《超級(jí)智能》一書(shū)值得一讀，我們必須對(duì)人工智能超級(jí)謹(jǐn)慎，它的潛力可能比核彈還危險(xiǎn)?！?比爾?蓋茨 也在最近的一次活動(dòng)上表示，機(jī)器將取代人類(lèi)從事各種工作，如果我們能夠處理得好，它們應(yīng)該能發(fā)揮積極作用。可是數(shù)十年后，人工智能將發(fā)展到足以令人擔(dān)憂的程度。

人工智能的隱患：或沖擊現(xiàn)有社會(huì)體系

2月初，致力于“降低人類(lèi)面臨的現(xiàn)存風(fēng)險(xiǎn)”的生命未來(lái)研究所（Future of Life Institute）的數(shù)百名頂尖科學(xué)家在一封公開(kāi)信中簽名，公開(kāi)信呼吁科技界在推動(dòng)人工智能發(fā)展的同時(shí)，徹底審視人工智能的發(fā)展將對(duì)人類(lèi)社會(huì)產(chǎn)生怎樣的影響。

這封信的作者承認(rèn)，人工智能在語(yǔ)音識(shí)別、圖像分類(lèi)、自動(dòng)駕駛汽車(chē)、機(jī)器翻譯和答疑系統(tǒng)等領(lǐng)域取得了顯著成功，并認(rèn)為這些研究有助于消滅疾病和貧困。但他們堅(jiān)持認(rèn)為，“人工智能系統(tǒng)必須做我們希望它做的事情”，科學(xué)界應(yīng)確立 “有助于最大限度提高人工智能社會(huì)效益”的研究目標(biāo)。

公開(kāi)信強(qiáng)調(diào)，未來(lái)的人工智能可能在計(jì)算機(jī)安全、經(jīng)濟(jì)、法律和哲學(xué)等領(lǐng)域影響社會(huì)，但就是這種無(wú)處不在的潛在性，可以引發(fā)多方面的危機(jī)。例如，科學(xué)家們認(rèn)為，如果未來(lái)經(jīng)濟(jì)的某些部分變得自動(dòng)化，工人以及工人工資會(huì)受到很大影響，人工智能專家們不得不要重視。人工智能應(yīng)該正視下列問(wèn)題：致命的自動(dòng)化武器是否符合人道主義法？ 當(dāng)人工智能系統(tǒng)從監(jiān)控?cái)z像頭、電話線路和電子郵件中收集數(shù)據(jù)時(shí)，如何避免侵犯隱私權(quán)？

來(lái)自英國(guó)牛津大學(xué)的一群學(xué)者去年在一篇博客文章中寫(xiě)道：“當(dāng)一臺(tái)機(jī)器發(fā)生錯(cuò)誤，其錯(cuò)誤方式可能比人的失誤更有戲劇性，可能會(huì)帶來(lái)更多不可預(yù)知的結(jié)果。簡(jiǎn)單算法在很大程度上是可預(yù)測(cè)的，但在不尋常的情況下，它可能作出離奇的決定?！?/p>

與這些比較現(xiàn)實(shí)的問(wèn)題相比，知名科學(xué)家霍金想的更為長(zhǎng)遠(yuǎn)?；艚鹪诮邮蹷BC采訪時(shí)表示，如果技術(shù)具有與人類(lèi)類(lèi)似的能力，“它將脫離控制，并以加速度重新設(shè)計(jì)自己。更可怕的是，由于生物學(xué)意義上的限制，人類(lèi)無(wú)法趕上技術(shù)的發(fā)展速度?！盎艚饘?duì)人類(lèi)的未來(lái)表示擔(dān)憂：“人類(lèi)由于受到緩慢的生物進(jìn)化的限制，無(wú)法與機(jī)器競(jìng)爭(zhēng)，并會(huì)被取代。全人工智能的發(fā)展可能導(dǎo)致人類(lèi)的終結(jié)?！?/p>

從這些科學(xué)家的言論中，我們可以看到，科技界、科學(xué)界對(duì)人工智能的擔(dān)憂主要來(lái)自兩方面：一方面是人工智能對(duì)人類(lèi)工作、生活方式的改變，可能影響到現(xiàn)有的法律體系、道德標(biāo)準(zhǔn)以及利益分配的模式等等，而人類(lèi)做出改變的速度未必能跟的上人工智能的發(fā)展速度，這就會(huì)對(duì)社會(huì)現(xiàn)有的體制造成沖擊，從而引發(fā)混亂；另一方面是，人工智能讓人類(lèi)越來(lái)越缺乏思考，而其自身則有可能越來(lái)越聰明，從而威脅到人類(lèi)的生存。

預(yù)言成真？“毀滅論“有些危言聳聽(tīng)

對(duì)于馬斯克、蓋茨、霍金等人的言論，谷歌董事長(zhǎng)施密特率先發(fā)起反駁。施密特的身份很特殊，作為谷歌的董事長(zhǎng)，他曾親身參與許多世界上最復(fù)雜的人工智能系統(tǒng)的研發(fā)，從自動(dòng)駕駛汽車(chē)到谷歌的預(yù)測(cè)性搜索引擎等，谷歌去年甚至還推出了自己的內(nèi)部機(jī)器人實(shí)驗(yàn)室。施密特認(rèn)為，所有對(duì)機(jī)器將搶走人類(lèi)工作、占領(lǐng)世界的恐懼都毫無(wú)根據(jù)，并且希望人們能夠意識(shí)到：機(jī)器人會(huì)成為我們的朋友。

施密特說(shuō)：“對(duì)于人工智能的擔(dān)憂，都是正常的。但是回顧歷史你會(huì)發(fā)現(xiàn)，這些絕對(duì)是錯(cuò)誤的。我們只是希望能通過(guò)更多機(jī)械化的方式，能讓我們穿上更好的衣服，而且歷史的經(jīng)驗(yàn)已經(jīng)證明，過(guò)去的經(jīng)濟(jì)繁榮時(shí)期，大多數(shù)是因?yàn)椴捎眯录夹g(shù)而引發(fā)的?！?/p>

IBM全球副總裁王陽(yáng)也曾對(duì)騰訊科技表示，當(dāng)科技取得突飛猛進(jìn)的成果時(shí)，總是讓人感到害怕，但真正重要的是掌握技術(shù)的人?！翱偸怯行皭旱娜擞眯录夹g(shù)來(lái)?yè)v蛋”，技術(shù)的發(fā)展是勢(shì)不可擋的，比如在好萊塢大片中，經(jīng)常可以看到邪惡勢(shì)力濫用高科技技術(shù)，但人類(lèi)必須盡快掌握這些以抵抗非正義者的侵略?？傊瑢?duì)于新技術(shù)的發(fā)展，難免會(huì)存在爭(zhēng)論，但科學(xué)的進(jìn)步總歸是為人類(lèi)帶來(lái)更美好的未來(lái)。“

托尼?科恩是英國(guó)利茲大學(xué)自動(dòng)推理教授。他說(shuō)，完全的人工智能“還有很長(zhǎng)的一段路要走，從現(xiàn)在發(fā)展的速度來(lái)看，我認(rèn)為仍然需要幾近上百年。”科恩認(rèn)為，說(shuō)盡管識(shí)別程序和語(yǔ)音識(shí)別取得了長(zhǎng)足進(jìn)步，在開(kāi)放混亂的環(huán)境里，機(jī)器人表現(xiàn)很差，人工智能最終面臨的最大障礙是“機(jī)器畢竟是機(jī)器“。

從多數(shù)的人觀點(diǎn)來(lái)看，“人工智能毀滅人類(lèi)”的論斷似乎有些夸張，現(xiàn)有的科學(xué)技術(shù)只能讓機(jī)器從事一些較為基礎(chǔ)的事情，例如生產(chǎn)線上的一些固定動(dòng)作等等，甚至連無(wú)人駕駛汽車(chē)上的智能系統(tǒng)都并不完善，更談不上人工智能具有思維、情感，能夠?qū)θ祟?lèi)的生存造成威脅。但是有一點(diǎn)卻不能忽視，隨著科學(xué)技術(shù)的進(jìn)步，自動(dòng)化的人工智能會(huì)越來(lái)越多地出現(xiàn)在我們的工作、生活，機(jī)器代替人類(lèi)工作很有可能在不遠(yuǎn)的將來(lái)成為現(xiàn)實(shí)。

無(wú)人駕駛汽車(chē)算是最接近我們的一種人工智能，但除了技術(shù)因素外，它還面臨很多挑戰(zhàn)。例如，谷歌無(wú)人駕駛汽車(chē)出了車(chē)禍，造成了嚴(yán)重的后果，是車(chē)主、谷歌，還是驅(qū)動(dòng)汽車(chē)的算法、感應(yīng)器以及所有控制系統(tǒng)來(lái)負(fù)責(zé)交通事故？很遺憾，現(xiàn)有的法律系統(tǒng)未能跟上現(xiàn)代社會(huì)、企業(yè)或機(jī)器人發(fā)展的步伐，根本給不出明確的答案。

我們還應(yīng)該想到，當(dāng)機(jī)器人讓大批工人失業(yè)時(shí)，我們?cè)撛趺崔k？當(dāng)機(jī)器人誤操作引發(fā)事故，現(xiàn)有法律如何厘清責(zé)任？當(dāng)黑客借助人工智能犯罪時(shí)，我們又該如何防范？這些都應(yīng)該是我們現(xiàn)在需要正視的問(wèn)題。

315之后，騷擾電話沒(méi)有消停的意思，還經(jīng)常接到智能機(jī)器人打的電話，怎么投訴？

沒(méi)有用的，因?yàn)檫@些服務(wù)器都不是在國(guó)內(nèi)的，一般都是在越南了，柬埔寨了這些三不管?chē)?guó)家。你投訴也沒(méi)有用的，不過(guò)倒是有個(gè)辦法你給客服打電話設(shè)置你的手機(jī)呼叫之前需要播數(shù)字驗(yàn)證，他們就沒(méi)法打了，壞處就是可能你朋友也不會(huì)給你打。。。我覺(jué)得還是淡定面對(duì)吧，大家都是一天十幾個(gè)騷擾的接，都木有辦法。