磐石之心

對于人工智能，知名物理學家霍金曾多次表達自己的擔憂。他曾呼吁全球都要警惕具有獨立意識的人工智能可能毀掉人類。而特斯拉的創(chuàng)始人埃隆·馬斯克也曾警告，人工智能可能會將人類變成瀕危物種。

此外，國內的騰訊公司也在最近提出“科技向善”，認為人工智能時代，科技企業(yè)必須守住底線，要用“善心”利用人工智能技術。

然而搜狗的王小川則認為，人工智能永遠都不會超過人類，同時還大肆鼓吹“被人工智能搶走工作是一件很快樂的事?！?/p>

就在幾天前，搜狗發(fā)布AI變聲功能，并將此應用到搜狗輸入法中。此舉引發(fā)了網(wǎng)友對人工智能侵犯人類安全和隱私的廣泛擔憂。

助長詐騙犯罪

5月24日，搜狗CEO王小川在極客公園rebuild大會上現(xiàn)場演示了其智能語音模擬系統(tǒng)，將自己的聲音模擬成高曉松和東北妹子的聲音。

而且搜狗宣布，這種“AI變聲”技術已經(jīng)被應用到擁有數(shù)億用戶的搜狗輸入法中。消息一出，便引發(fā)了微博上的廣泛熱議，其中談論最多的就是這個技術是不是會助長電信詐騙。

“突然間感到一絲不安全?！比A爾街見聞APP。

“小心被壞人用來搞電信詐騙?！背馑龠M化。

“周知，以后收到馬云的電話，請小心，謝謝?！彼南?。

“這東西有意義么？就算真的有用，有必要向民間開放技術么？” Enzo-四敢怪杰。

對于AI變聲被用在電信詐騙的擔憂并非沒有道理。

首先，電信詐騙帶來的損失十分巨大，讓人觸目驚心。

2018年全國公安機關電信詐騙案件立案69萬起，共造成經(jīng)濟損失222億元。

另外，通過模仿人聲實施詐騙早已出現(xiàn)。

2016年央視曾報道，一種新型電信詐騙，打電話能模仿親人的聲音。而中科院研究員在這期節(jié)目中，解釋了這個詐騙的技術原理，就是通過錄制目標人的10-50句聲音，然后通過軟件生成目標人的聲音。

搜狗官方這樣解釋自己的AI變聲：“搜狗做到的是語音變聲領域最難的技術，通過在語音表征學習、遷移學習技術取得的重大突破，可以把任意人音色變聲成特定人音色（Any-to-One），從實用程度到技術難度都是最高等級。”

這意味著，任何人只要拿到目標人的一段聲紋，都可以將自己的聲音轉變?yōu)閷Ψ降穆曇簟１热?，詐騙分子將自己的聲音轉變?yōu)槟銉鹤拥穆曇?，向你求助，從而實施詐騙。

因此，搜狗將這樣的技術向4億多輸入法用戶開放，即使還未“將轉換成任意人聲音”功能開放，也會導致網(wǎng)友的深深不安。

為了好玩，就不顧風險么？

搜狗王小川在演講中說，將AI變聲技術應用到輸入法中，主要是為了“好玩”。因為，它可以仿一些其他人的聲音去工作。

聽到這里，我有些渾身發(fā)汗。難道，搜狗為了輸入法更好玩，就不顧這個技術的風險么？

這讓我不由得想到搜狗已經(jīng)被腰斬的股價和比較差勁的2019年第一季度財報。

搜狗股價已經(jīng)跌至4.4美元，跌破發(fā)行價的同時，距離最高價已經(jīng)跌去了3/4。

股價的下跌與當前整體市場環(huán)境比較差有一定關系，但更重要的是其越來越差的財報數(shù)據(jù)。

2019年第一季度，搜狗交上了一份虧損的財報，同時獲取流量的成本占比大幅提升。而關乎未來的人工智能收入大幅下降了34%，技術研發(fā)投入同比下降12%。

顯然，投資者已經(jīng)對搜狗的未來失去了希望?；蛟S為了提振投資者對搜狗在人工智能技術上的信心，才將可能存在風險的AI變聲技術急切地用在搜狗輸入法之上。

另有媒體報道稱，搜狗的AI變聲技術不是“實時”變聲，只是對你錄制好的語音進行音色轉換。

就在王小川在rebuild大會上公開推介這一技術之前，科大訊飛董事長劉慶峰在其公司新品發(fā)布會上展示了類似技術，而且比搜狗的更加先進，是“實時變聲”。

無需提前錄制，劉慶峰在臺上說什么，現(xiàn)場就立刻以另一種聲音傳達出來，僅有零點幾秒的延遲。

但是，劉慶峰特別強調，他們的實時變聲技術只是展示，并不會對外公開，更不會應用到訊飛輸入法等軟硬件產(chǎn)品中，因為他一直堅持認為“人工智能要持續(xù)發(fā)展，最核心的是它的價值觀如何陽光健康與人為善?！?/p>

呼吁科技向善！

雖然霍金教授、馬斯克關于人工智能的預言遭遇許多質疑和反對之聲，但是我們不能忽視人工智能可能帶來的負面影響，更不能為了短期利益而濫用人工智能技術。

谷歌曾投資過一家名為波士頓動力的人形機器人公司，但是沒過多久便將其賣掉。因為谷歌在買入該公司后，才發(fā)現(xiàn)這家公司研發(fā)的人形機器人實在是太過強大，很可能對人類產(chǎn)生威脅。谷歌不想成為它的助推者。

在許多科幻影片中，人工智能打造的機器人被壞人利用、操縱，然后攻擊人類，人類根本無還手之力。

這些看似遙遠的預測，其實早已發(fā)生在我們的身邊。

比如，網(wǎng)絡攝像頭公司因為技術不成熟，或技術漏洞，而導致大量使用該產(chǎn)品的用戶在家里的隱私視頻被公然傳到網(wǎng)上。

一些內容平臺、短視頻平臺利用人類對色情、八卦、暴力等內容的貪婪，以“算法之名”刻意推薦此類內容給用戶，搶占用戶的上網(wǎng)時常以播放廣告牟利。他們其實已經(jīng)將用戶牢牢的控制在自己的平臺上，把用戶變成了自己的奴隸。

這些其實都是在利用技術犯罪，都違背了“科技向善”。這個世界需要科技，但不需要假科技之名而侵害人類利益的AI狂熱分子。