無(wú)人駕駛汽車(chē)撞人：算法失控惹的禍？
編者按：人們通過(guò)編寫(xiě)代碼，創(chuàng )造出一個(gè)新的世界后，出現了新的危機——自己寫(xiě)的代碼，自己卻看不懂了，而且也不可預測 美能達C221S提示E301代碼怎么解決。近日，《衛報》發(fā)表了一篇文章，詳細介紹了這一趨勢背后的問(wèn)題。作者為，安德魯·史密斯（Andrew Smith），其《Totally Wired: The Rise and Fall of Joshua Harris and the Great Dotcom Swindle》一書(shū)將于明年2月出版。
一名女性被自動(dòng)駕駛汽車(chē)撞死，凸顯了一場(chǎng)正在蔓延的技術(shù)危機，因為堆積在代碼上的代碼創(chuàng )造了“一個(gè)沒(méi)有人完全理解的世界” 美能達C221S提示E301代碼怎么解決。
2018年3月18日，是科技行業(yè)極為憂(yōu)慮的一天 美能達C221S提示E301代碼怎么解決。那天晚上，一輪新月幾乎沒(méi)有給亞利桑那州坦佩昏暗的道路增加任何光線(xiàn)，從而讓一輛經(jīng)過(guò)特別改裝的Uber沃爾沃XC90檢測到前方有物體。作為開(kāi)發(fā)自動(dòng)駕駛汽車(chē)這個(gè)現代淘金熱的一部分，這輛SUV已經(jīng)自動(dòng)駕駛了19分鐘，期間沒(méi)有來(lái)自后備駕駛員的任何干預。一系列雷達和激光雷達傳感器使得機載算法能夠計算出前方有物體，考慮到他們車(chē)輛的穩定速度為43英里/小時(shí)，物體在6秒鐘路程之外——假設它保持靜止不動(dòng)。但是道路上的物體很少保持靜止不動(dòng)，所以更多的算法會(huì )接入一個(gè)可識別的機械和生物實(shí)體的數據庫，尋找一個(gè)可以推斷出這個(gè)物體可能行為的匹配方案。
一開(kāi)始，計算設備一片空白；幾秒鐘后，它決定處理迎面而來(lái)另一輛汽車(chē)，它預計它能開(kāi)走，所以不需要特別行動(dòng) 美能達C221S提示E301代碼怎么解決。直到最后一秒鐘，它才發(fā)現了一個(gè)清晰的標識——這是一個(gè)騎自行車(chē)的女人，手把上掛著(zhù)的購物袋，毫無(wú)疑問(wèn)，她認為沃爾沃會(huì )像任何普通車(chē)輛一樣繞過(guò)她。被禁止獨自采取規避動(dòng)作的計算設備突然將控制權交還給了人類(lèi)，但是人類(lèi)沒(méi)有注意但是人類(lèi)沒(méi)有注意到。49歲的伊萊恩·赫茨伯格（Elaine Herzberg）遭到撞擊致死，這讓技術(shù)團體中更多的反思者提出了兩個(gè)令人不安的問(wèn)題：這種算法悲劇不可避免嗎？如果我們習慣于這樣的事件，我們是否應該做好準備？
“在某些方面，我們已經(jīng)失去了代理權 美能達C221S提示E301代碼怎么解決。當程序傳入代碼，代碼傳入算法，然后算法開(kāi)始創(chuàng )建新算法時(shí)，它離人類(lèi)越來(lái)越遠。軟件被發(fā)布到一個(gè)沒(méi)有人能完全理解的代碼世界中。”
這些話(huà)聽(tīng)起來(lái)令人震驚，尤其是對于艾倫·厄爾曼（Ellen Ullman）來(lái)說(shuō)，自20世紀70年代以來(lái)，其一直是一名杰出的專(zhuān)業(yè)程序員，也是為數不多的公開(kāi)寫(xiě)代碼過(guò)程的人之一 美能達C221S提示E301代碼怎么解決。
“人們會(huì )說(shuō)，‘Facebook怎么樣——他們創(chuàng )建和使用算法，并且可以改變它們 美能達C221S提示E301代碼怎么解決。’但是它不是這樣工作的。他們只是啟動(dòng)算法，學(xué)習、進(jìn)行改變和并讓代碼自己運行。Facebook定期干預它們的運行，但是他們真的沒(méi)有控制它們。特定的程序不僅僅是獨立運行的，它們還會(huì )調用庫、深度操作系統等等......”
算法是什么 美能達C221S提示E301代碼怎么解決？
現在，很少有比算法更經(jīng)常被熱烈討論的主題了 美能達C221S提示E301代碼怎么解決。但什么是算法呢？事實(shí)上，自20世紀90年代中期，互聯(lián)網(wǎng)、特別是搜索引擎興起以來(lái)，算法已經(jīng)發(fā)生了有趣的變化。從根本上來(lái)說(shuō)，算法是一件小而簡(jiǎn)單的事情；是一種用于自動(dòng)處理數據的規則。如果 a 發(fā)生了，那么做 b；如果沒(méi)有，那就做 c。這是傳統計算的“如果/那么/否則”邏輯。如果用戶(hù)自稱(chēng)18歲，允許他們進(jìn)入網(wǎng)站；如果沒(méi)有，就給出“對不起，你必須18歲才能進(jìn)入”的提示。從本質(zhì)上講，計算機程序就是這種算法的捆綁包，一種處理數據的配方。在微觀(guān)層面上，沒(méi)有比這更簡(jiǎn)單的了。如果計算機看起來(lái)在表演魔術(shù)，那是因為它們速度快，而不是智能。
近年來(lái)，出現了一個(gè)更具預示性和模糊性的含義，用“算法”一詞來(lái)表示任何大型、復雜的決策軟件系統；根據給定的一組標準(或“規則”)獲取一系列輸入數據并快速評估的任何方法 美能達C221S提示E301代碼怎么解決。這已經(jīng)徹底改變了醫學(xué)、科學(xué)、交通、通信等領(lǐng)域，使得人們很容易理解多年來(lái)占據主導地位的烏托邦式計算觀(guān)。算法以各種方式改善了我們的生活。
自從2016年以來(lái)，我們才開(kāi)始對新的算法現實(shí)進(jìn)行更細致的考慮 美能達C221S提示E301代碼怎么解決。如果我們傾向于用幾乎圣經(jīng)式的術(shù)語(yǔ)來(lái)討論算法，作為擁有自己生活的獨立實(shí)體，那是因為我們被鼓勵這樣看待它們。Facebook和谷歌這樣的公司已經(jīng)出售并捍衛了它們的算法，這是一種客觀(guān)的承諾，能夠用數學(xué)上的超然和沒(méi)有模糊的情感來(lái)衡量一系列的條件。難怪這種算法決策已經(jīng)擴展到貸款/保釋/福利/大學(xué)名額/工作面試以及幾乎任何需要選擇的事情。
我們不再如此溫順地接受這種算法的推銷(xiāo) 美能達C221S提示E301代碼怎么解決。在2016年出版的《Weapons of Math Destruction》一書(shū)中——作者是曾經(jīng)是數學(xué)天才的凱茜·奧尼爾（Cathy O'Neil），其離開(kāi)華爾街去教書(shū)、寫(xiě)作和運營(yíng)優(yōu)秀的數學(xué)博客——毫無(wú)疑問(wèn)地證明，算法非但不會(huì )消除人類(lèi)偏見(jiàn)，反而會(huì )放大和鞏固這些偏見(jiàn)。畢竟，軟件是由極其富裕的白人和亞洲人編寫(xiě)的，這將不可避免地反映他們的假設。偏見(jiàn)并不是為了傷害，不像人類(lèi)，我們不能輕易地要求算法看門(mén)人解釋它的決定。奧尼爾呼吁對直接影響公眾的任何系統進(jìn)行“算法審計”，這是一個(gè)明智的想法，但對科技行業(yè)來(lái)說(shuō)，因為算法是公司銷(xiāo)售的產(chǎn)品；它們最不愿意做的事情就是提高透明度。
好消息是這場(chǎng)戰斗正在進(jìn)行 美能達C221S提示E301代碼怎么解決。壞消息是，與接下來(lái)的事情相比，它看起來(lái)已經(jīng)很古怪了。人工智能的遙遠承諾和威脅引起了如此多的關(guān)注，以至于幾乎沒(méi)有人注意到我們進(jìn)入了算法革命的新階段，這可能同樣令人擔憂(yōu)和困惑——幾乎沒(méi)有人提出質(zhì)疑。
奧尼爾和其他人標記的算法是不透明的，但是可以預測的：他們做的是他們編程要做的事情 美能達C221S提示E301代碼怎么解決。熟練的編程人員原則上可以檢查和挑戰他們的基礎。我們中的一些人夢(mèng)想有一支公民軍隊來(lái)做這項工作，類(lèi)似于支持該領(lǐng)域專(zhuān)業(yè)人員的業(yè)余天文學(xué)家網(wǎng)絡(luò )。使這一切成為可能的立法似乎不可避免。
我們可以稱(chēng)這些算法為“愚蠢的”，因為它們是根據人類(lèi)定義的參數來(lái)工作的 美能達C221S提示E301代碼怎么解決。結果的質(zhì)量取決于編程的思想和技巧。另一個(gè)極端是人工智能的遙遠夢(mèng)想——類(lèi)人的人工智能，或稱(chēng) AGI。一臺適當智能的機器將能夠根據我們自己的直覺(jué)(我們可能認為這是經(jīng)驗和知識的廣泛積累)來(lái)質(zhì)疑自己計算的質(zhì)量。為了更好地理解這一點(diǎn)，谷歌的DeepMind部門(mén)因創(chuàng )建了一個(gè)能夠掌握街機游戲的程序而受到了應有的稱(chēng)贊，該程序只是從一個(gè)旨在獲得最高分數的指令開(kāi)始。這種技術(shù)被稱(chēng)為“強化學(xué)習”，因為一臺計算機可以快速玩數百萬(wàn)場(chǎng)游戲來(lái)學(xué)習是什么產(chǎn)生分數。有人稱(chēng)這種能力形式為“狹義上的人工智能”，但在這里，“智能”一詞被廣泛使用，就像Facebook使用“朋友”一樣——意味著(zhù)比現在更安全、更容易理解的東西。為什么？因為這臺機器沒(méi)有根據場(chǎng)景來(lái)說(shuō)明它在做什么，也不能做其他任何事情。最重要的是，它也不能將知識從一個(gè)游戲轉移到另一個(gè)游戲(所謂的“轉移學(xué)習”)，這使得它的聰明程度連蹣跚學(xué)步的孩子，甚至烏賊都不如。我們不妨稱(chēng)石油井架或蚜蟲(chóng)是“智能”的。在某些特定的專(zhuān)業(yè)任務(wù)上，計算機已經(jīng)大大優(yōu)于我們，但是，與我們的一般能力相抗衡的那一天可能還有一段路要走——如果這種情況真的發(fā)生的話(huà)。
這就是問(wèn)題所在 美能達C221S提示E301代碼怎么解決。在“愚蠢”的固定算法和真正的人工智能之間，存在著(zhù)一個(gè)問(wèn)題重重的中轉站，我們幾乎沒(méi)有一個(gè)想法，幾乎沒(méi)有爭論，更不用說(shuō)在目標、道德、安全、最佳實(shí)踐方面達成一致了。如果我們周?chē)乃惴ㄟ€不智能，也就是說(shuō)能夠獨立地說(shuō)“計算/行動(dòng)過(guò)程看起來(lái)不正確：我會(huì )再做一次”，它們仍然開(kāi)始從它們的環(huán)境中學(xué)習。一旦一個(gè)算法開(kāi)始學(xué)習，我們就不再確切知道它的規則和參數是什么了。在這一點(diǎn)上，我們不能確定它將如何與其他算法、現實(shí)世界或我們互動(dòng)。在那些“愚蠢”的固定算法——復雜、不透明并且已經(jīng)習慣于實(shí)時(shí)監控的地方——原則上是可以預測和質(zhì)疑的，而這些算法卻不是。在“訓練”了一段時(shí)間后，我們不再知道它們是什么：它們有可能變得不穩定。
這些算法本身并不新鮮 美能達C221S提示E301代碼怎么解決。大約五年前，當時(shí)我在為《衛報》撰寫(xiě)一篇關(guān)于股票市場(chǎng)高頻交易（HFT）的文章，我第一次遇到了它們。我發(fā)現了一個(gè)不同尋常的現象：一個(gè)人造的數字生態(tài)系統，分布在數十億美元的數據農場(chǎng)中，黑匣子像忍者一樣蜷縮著(zhù)，這就是股票市場(chǎng)的現狀。一旦有了實(shí)際的交易平臺，所有的行動(dòng)都轉移到了一個(gè)中央服務(wù)器上，在這個(gè)服務(wù)器上，靈活的、掠奪性的算法依靠笨拙的機構算法，引誘它們通過(guò)欺騙市場(chǎng)狀況來(lái)低價(jià)出售和高價(jià)購買(mǎi)。人類(lèi)HFT交易者(雖然沒(méi)有人在積極交易)稱(chēng)這些大型、緩慢的參與者為“鯨魚(yú)”，他們大多屬于共同基金和養老基金——即公眾。對于大多數HFT來(lái)說(shuō)，“鯨魚(yú)”現在是主要的利潤來(lái)源。本質(zhì)上，這些算法試圖智勝對方；它們正在以光速進(jìn)行隱形戰斗，每秒10000次下訂單和取消訂單，或者將如此多的訂單投入到系統中，以至于整個(gè)市場(chǎng)都震動(dòng)了——所有這些都超出了人類(lèi)的監督或控制范圍。
沒(méi)有人會(huì )對這種不穩定感到驚訝 美能達C221S提示E301代碼怎么解決。2010年發(fā)生了一場(chǎng)“閃電崩盤(pán)”，在此期間，市場(chǎng)經(jīng)歷了5分鐘的自由落體，然后5分鐘又恢復了——沒(méi)有明顯的原因。我去芝加哥見(jiàn)了一個(gè)叫埃里克·亨薩德（Eric Hunsader）的人，他驚人的編程技能讓他能夠比監管者更詳細地看到市場(chǎng)數據，他告訴我，到2014年，“迷你閃電崩盤(pán)”每周都會(huì )發(fā)生。甚至他也不能證明確切的原因，但是他和他的工作人員已經(jīng)開(kāi)始給他們看到的一些“算法”命名，就像麥田怪圈獵人給在英國夏天發(fā)現的地層命名一樣，稱(chēng)它們?yōu)椤癢ild Thing”、“Zuma”、 “The Click” 或者是“Disruptor”.。
邁阿密大學(xué)專(zhuān)攻復雜性的物理學(xué)家尼爾·約翰遜（Neil Johnson）對股票市場(chǎng)波動(dòng)進(jìn)行了研究 美能達C221S提示E301代碼怎么解決。“太迷人了，”他告訴我。“我的意思是，人們多年來(lái)一直模糊地談?wù)撚嬎銠C系統的生態(tài)，比如蠕蟲(chóng)病毒等等。但是我們可以研究一個(gè)真正的工作系統。更大的問(wèn)題是，我們不知道它是如何工作的，也不知道它會(huì )產(chǎn)生什么。”這種態(tài)度似乎是“眼不見(jiàn)，心不煩”。
重要的是，約翰遜關(guān)于這一主題的論文發(fā)表在《自然》雜志上，用“從混合人機階段到新的全機階段的突然系統轉變，其特征是持續、超快且頻繁的黑天鵝事件”，描述了股票市場(chǎng) 美能達C221S提示E301代碼怎么解決。根據科學(xué)歷史學(xué)家喬治·戴森（George Dyson）的說(shuō)法，情況很復雜。只要讓黑匣子用少量的錢(qián)嘗試不同的東西，如果可行，就會(huì )加強這些規則。我們知道已經(jīng)做到了。然后，會(huì )有一些沒(méi)有人知道規則是什么的規則：算法創(chuàng )建自己的規則——你讓它們像自然進(jìn)化生物體一樣進(jìn)化。非金融行業(yè)觀(guān)察家開(kāi)始假設一場(chǎng)災難性的全球“閃電式崩盤(pán)”，而增長(cháng)最快的市場(chǎng)領(lǐng)域成為從波動(dòng)中獲利的工具。羅伯特·哈里斯（Robert Harris）在他2011年的小說(shuō)《恐懼指數》（The Fear Index）中，想象了通用人工智能的出現的背后，正是這種數字化的滲透。令我驚訝的是，沒(méi)有一個(gè)科學(xué)家會(huì )斷然排除這種可能性。
如果不是因為一個(gè)簡(jiǎn)單的事實(shí)，所有這些都可以被認為是高級金融學(xué)術(shù)語(yǔ) 美能達C221S提示E301代碼怎么解決。過(guò)去持有這種技術(shù)的智慧首先被色情業(yè)采用，然后被其他人采用。但是21世紀的色情就是金融，所以當我認為我看到了類(lèi)似HFT的算法在其他地方引發(fā)問(wèn)題的跡象時(shí)，我再次打電話(huà)給尼爾·約翰遜。
“你說(shuō)得對，”他告訴我：一種新形式的算法正在走向世界，它具有“重寫(xiě)自己代碼的能力”，此時(shí)它就像“遺傳算法” 美能達C221S提示E301代碼怎么解決。他認為他在Facebook的實(shí)際調查中看到了他們的證據(“我的賬戶(hù)被攻擊了四次，”他補充道)。如果是這樣的話(huà)，算法會(huì )在那里進(jìn)行競爭和調整，就像在股票市場(chǎng)一樣。“畢竟，Facebook只是一個(gè)大算法，”約翰遜說(shuō)。
“我認為這正是Facebook面臨的問(wèn)題 美能達C221S提示E301代碼怎么解決。他們可以有簡(jiǎn)單的算法在別人頁(yè)面上的照片中識別我的臉，從我的個(gè)人資料中獲取數據，并將我們聯(lián)系在一起。這是一個(gè)非常簡(jiǎn)單的具體算法。但問(wèn)題是，數十億這樣的算法在宏觀(guān)層面上協(xié)同工作會(huì )產(chǎn)生什么影響？你無(wú)法從微觀(guān)規則中預測群體層面的學(xué)習行為。所以Facebook會(huì )聲稱(chēng)他們確切知道微觀(guān)層面的情況，他們可能是對的。但是在群體水平上會(huì )發(fā)生什么呢？這就是問(wèn)題所在。”
為了強調這一點(diǎn)，約翰遜和邁阿密大學(xué)的一些同事發(fā)表了一篇論文，其目的是從數學(xué)上證明試圖在社交媒體上聯(lián)系人們不可避免地會(huì )分化整個(gè)社會(huì ) 美能達C221S提示E301代碼怎么解決。他認為Facebook和其他人應該用氣候科學(xué)家模擬氣候變化或天氣模式的方式來(lái)模擬(或讓他們模擬)他們算法的效果。
奧尼爾說(shuō)，她有意識地將這種自適應形式的算法排除在《Weapons of Math Destruction》之外 美能達C221S提示E301代碼怎么解決。在一個(gè)錯綜復雜的算法環(huán)境中，什么都不清楚，將責任分配給特定的代碼段變得極其困難。她解釋說(shuō)，這使得它們更容易被忽視或忽略，因為它們和它們的確切影響更難識別，然后她建議，如果我想在“野外”看到它們，我應該問(wèn)問(wèn)亞馬遜上的閃電崩盤(pán)會(huì )是什么樣子。
“我也一直在尋找這些算法，”她說(shuō)，“我一直在想：‘哦，大數據還沒(méi)有到達那里 美能達C221S提示E301代碼怎么解決。但是最近，一位亞馬遜書(shū)店的朋友告訴我，像他這樣的人，那里的定價(jià)情況變得多么瘋狂。你經(jīng)常會(huì )看到有人在Twitter上說(shuō)‘嘿，你可以在亞馬遜上花4萬(wàn)美元買(mǎi)一條奢華的紗線(xiàn)。’每當我聽(tīng)到這種事情，我就會(huì )想:‘??！那一定相當于一場(chǎng)閃電崩盤(pán)！’”
亞馬遜上異常事件的軼事證據很多，一篇2016年的學(xué)術(shù)論文聲稱(chēng):“出現了一些例子，其中競爭的算法定價(jià)軟件以意想不到的方式相互作用，產(chǎn)生了不可預測的價(jià)格，以及一些算法被有意設計來(lái)實(shí)施定價(jià) 美能達C221S提示E301代碼怎么解決。”同樣，問(wèn)題是如何在混亂的算法環(huán)境中分配責任，簡(jiǎn)單的因果關(guān)系要么不適用，要么幾乎不可能追蹤。就像在金融領(lǐng)域一樣，否認性被融入了這個(gè)體系。
現實(shí)生活中的危險
當安全受到威脅時(shí)，這真的很重要 美能達C221S提示E301代碼怎么解決。當一名司機被撞死后，美國航空航天局的專(zhuān)家花了六個(gè)月的時(shí)間檢查其操作系統中的數百萬(wàn)行代碼，沒(méi)有找到司機家人認為已經(jīng)發(fā)生的事情的證據，但制造商堅決否認汽車(chē)是自動(dòng)加速的。只有當一對嵌入式軟件專(zhuān)家花了20個(gè)月的時(shí)間深入研究代碼時(shí)，他們才能夠證明這個(gè)情況，揭示出程序員稱(chēng)之為“意大利面條代碼”的扭曲群體，充滿(mǎn)了推搡和爭斗的算法，產(chǎn)生了異常、不可預知的輸出。目前正在測試的無(wú)人駕駛汽車(chē)可能包含1億行代碼，并且，考慮到?jīng)]有程序員能夠預測現實(shí)世界道路上的所有可能情況，他們必須不斷學(xué)習和接收更新。在這樣一個(gè)流動(dòng)的代碼環(huán)境中，我們如何避免沖突，尤其是當算法還必須要保護自己免受黑客攻擊時(shí)？
20年前，喬治·戴森在他的經(jīng)典著(zhù)作《機器中的達爾文》（Darwin Among the Machines）中預見(jiàn)了今天發(fā)生的許多事情 美能達C221S提示E301代碼怎么解決。他告訴我，問(wèn)題是我們正在構建超出我們智力控制能力的系統。我們相信，如果一個(gè)系統是確定性的(按照固定的規則行事，這是算法的定義)，它是可預測的——并且，可預測的可以被控制。但這兩個(gè)假設都是錯誤的。
“這是一個(gè)緩慢進(jìn)行的獨立過(guò)程，”他說(shuō) 美能達C221S提示E301代碼怎么解決。“20年前，我癡迷的東西已經(jīng)完全占領(lǐng)了今天的世界，它們是多細胞的、轉移的數字有機體，就像我們在生物學(xué)上看到的一樣，你可以在人們的iPhone上運行所有這些代碼，總的來(lái)說(shuō)，它就像一個(gè)多細胞生物。”
“有一個(gè)叫做阿什比定律（Ashby’s law）的舊定律，它說(shuō)控制系統必須和它控制的系統一樣復雜，我們現在正全速運行，在這種巨大的推動(dòng)下，制造自動(dòng)駕駛汽車(chē)的軟件必須有一個(gè)完整的模型，幾乎從定義上來(lái)說(shuō)，我們不會(huì )理解它 美能達C221S提示E301代碼怎么解決。就像我們了解的任何模型都會(huì )像撞上消防車(chē)一樣。”
與我們的舊電子機械系統不同，這些新算法也不可能徹底測試 美能達C221S提示E301代碼怎么解決。除非而且直到我們有超智能機器來(lái)為我們做這件事，否則我們將會(huì )面臨走鋼絲的情形。
戴森質(zhì)疑我們是否會(huì )允許自動(dòng)駕駛汽車(chē)在城市街道上自由行動(dòng)，而新南威爾士大學(xué)人工智能教授托比·沃爾什（Toby Walsh）從技術(shù)角度解釋了為什么會(huì )有這種情況，他13歲時(shí)編寫(xiě)了他的第一個(gè)程序，并在十幾歲時(shí)經(jīng)營(yíng)了一家初級的計算公司 美能達C221S提示E301代碼怎么解決。
“沒(méi)有人知道如何編寫(xiě)一段代碼來(lái)識別停車(chē)標志 美能達C221S提示E301代碼怎么解決。我們花了數年時(shí)間試圖在人工智能領(lǐng)域做這種事情，但失敗了！由于我們的愚蠢，它被耽擱了，因為我們不夠聰明，無(wú)法學(xué)會(huì )如何解決這個(gè)問(wèn)題。當你編程時(shí)，你會(huì )發(fā)現你必須學(xué)會(huì )如何將問(wèn)題分解成足夠簡(jiǎn)單的部分，每個(gè)部分都可以對應于“給機器的一條計算機指令”。我們只是不知道如何處理非常復雜的問(wèn)題，比如識別停車(chē)標志或者將句子從英語(yǔ)翻譯成俄語(yǔ)——這超出了我們的能力范圍。我們所知道的是如何編寫(xiě)一個(gè)更通用的算法，在給出足夠多的例子的情況下，該算法可以學(xué)習如何做到這一點(diǎn)。”
因此，當前的重點(diǎn)是機器學(xué)習 美能達C221S提示E301代碼怎么解決。我們現在知道，在亞利桑那州被Uber的自動(dòng)駕駛汽車(chē)撞到的行人赫茨伯格死了，因為算法在對她進(jìn)行正確分類(lèi)時(shí)搖擺不定。這是編程不良、算法訓練不足還是我們技術(shù)的局限性？真正的問(wèn)題是我們可能永遠不會(huì )知道。
“我們最終將完全放棄編寫(xiě)算法，”沃爾什繼續說(shuō)道，“因為這些機器將能夠比以往做得更好 美能達C221S提示E301代碼怎么解決。從這個(gè)意義上說(shuō)，軟件工程也許是一個(gè)垂死的職業(yè)。它將被比我們做得更好的機器所取代。”
沃爾什認為，這使得公眾了解編程變得更加重要，而不是更少，因為我們越疏遠編程，就越覺(jué)得它是超出我們影響能力的魔法 美能達C221S提示E301代碼怎么解決。當在這篇文章前面給出的“算法”的定義時(shí)，他發(fā)現它并不完整，并評論道:“我認為問(wèn)題是算法現在意味著(zhù)任何大型復雜的決策軟件系統，以及它所嵌入的更大的環(huán)境，這使得它們更加不可預測。”一個(gè)令人不寒而栗的想法確實(shí)存在。因此，他認為倫理是科技行業(yè)的新領(lǐng)域，預見(jiàn)到“哲學(xué)的黃金時(shí)代”——網(wǎng)絡(luò )安全專(zhuān)家普渡大學(xué)的尤金·斯帕福德（Eugene Spafford）贊同這一觀(guān)點(diǎn)。
“哪里有選擇，哪里就有道德 美能達C221S提示E301代碼怎么解決。我們傾向于希望有一個(gè)我們可以詢(xún)問(wèn)或指責的機構，這對于算法來(lái)說(shuō)是非常困難的。到目前為止，這是對這些系統的批評之一，因為我們不可能回去分析為什么會(huì )做出一些決定，因為內部選擇的數量如此之多，以至于我們如何達到這一點(diǎn)可能不是我們可以再創(chuàng )造出來(lái)的，從而來(lái)證明無(wú)可置疑的罪責。”
相反的觀(guān)點(diǎn)是，一旦一個(gè)程序出錯，整個(gè)程序都可以被重寫(xiě)或更新，這樣就不會(huì )再發(fā)生這種情況——不像人類(lèi)，人類(lèi)重復錯誤的傾向無(wú)疑會(huì )讓未來(lái)的智能機器變得更加麻煩 美能達C221S提示E301代碼怎么解決。盡管如此，從長(cháng)遠來(lái)看，自動(dòng)化應該更安全，但我們現有的侵權法體系需要證明意圖或疏忽，需要重新考慮。狗對咬你不負法律責任；它的主人可能會(huì )，但只有當狗的行為被認為是可預見(jiàn)的時(shí)候。在算法環(huán)境中，許多意想不到的結果對人類(lèi)來(lái)說(shuō)可能是不可預見(jiàn)的——這是一個(gè)有可能成為無(wú)賴(lài)憲章的特征，在這個(gè)特征中，故意混淆變得更容易，也更有價(jià)值。制藥公司多年來(lái)一直受益于復雜性的掩蓋，但在這里，后果可能會(huì )更嚴重，也更難逆轉。
軍事賭注
然而，商業(yè)、社交媒體、金融和運輸在未來(lái)可能會(huì )看起來(lái)無(wú)足輕重 美能達C221S提示E301代碼怎么解決。如果軍方不再像過(guò)去那樣推動(dòng)創(chuàng )新，它仍然是科技最重要的采納者。因此，科學(xué)家和科技工作者的關(guān)注與自主武器正在向戰場(chǎng)方向發(fā)展并不奇怪，這相當于一種算法軍備競賽。一名機器人神槍手目前監管著(zhù)非軍事區，雖然它的制造商三星否認它有自主能力，但這一說(shuō)法卻遭到廣泛質(zhì)疑。俄羅斯、中國和美國都聲稱(chēng)處于發(fā)展一群協(xié)調的武器化無(wú)人駕駛飛機的不同階段，而后者則計劃在戰場(chǎng)上盤(pán)旋數日，觀(guān)察，然后選擇自己的目標。一群谷歌員工已經(jīng)辭職，數千人質(zhì)疑科技巨擘向五角大樓的Maven項目“算法戰爭”項目提供機器學(xué)習軟件——管理層最終對此做出了回應，同意不再續簽Maven合同，并發(fā)布使用其算法的道德準則。在撰寫(xiě)本報告時(shí)，包括亞馬遜和微軟在內的競爭對手都拒絕這樣做。
英國蘭卡斯特大學(xué)的露西·蘇克曼（Lucy Suchman）與人合寫(xiě)了一封由技術(shù)研究人員寫(xiě)給谷歌的公開(kāi)信，要求他們反思將工作軍事化的熱潮 美能達C221S提示E301代碼怎么解決。她說(shuō)，科技公司的動(dòng)機很容易理解：軍事合同總是有利可圖的。五角大樓方面，一個(gè)龐大的傳感器和監視系統網(wǎng)絡(luò )已經(jīng)超越了任何使用如此獲取的數據的能力。
他們被數據淹沒(méi)了，因為他們有新的方法來(lái)收集和存儲數據，但是他們不能處理數據 美能達C221S提示E301代碼怎么解決。所以這基本上是無(wú)用的——除非有神奇的事情發(fā)生。我認為他們招募大數據公司是一種神奇的思維方式，從某種意義上說(shuō):“這里有一些神奇的技術(shù)可以解釋這一切。”
薩奇曼還提供了關(guān)于Maven的令人毛骨悚然的統計數據 美能達C221S提示E301代碼怎么解決。根據2003年至2013年對巴基斯坦無(wú)人駕駛飛機襲擊的分析，不到2%的以這種方式死亡的人被確認為對美國構成明顯威脅的“高價(jià)值”目標。在20 %的地區被認為是非戰斗人員，超過(guò)75 %的人不知道。即使這些數字是以2倍或3倍或4倍的系數計算出來(lái)的，它們也會(huì )讓任何理智的人停下來(lái)。
“所以，我們有這種非常粗糙的識別技術(shù)，Maven項目打算做的就是自動(dòng)化 美能達C221S提示E301代碼怎么解決。在這一點(diǎn)上，它變得更不負責，也更容易受到質(zhì)疑。這真是個(gè)糟糕的主意。”
加州大學(xué)圣地亞哥分校的蘇克曼的同事莉莉·伊拉尼（Lilly Irani）提醒我們，信息以光速在算法系統中傳播，沒(méi)有人類(lèi)的監督 美能達C221S提示E301代碼怎么解決。 她建議，技術(shù)討論通常被用作避免責任的煙幕。
“當我們談?wù)撍惴〞r(shí)，有時(shí)我們談?wù)摰氖枪倭胖髁x 美能達C221S提示E301代碼怎么解決。 選擇算法的設計者和政策專(zhuān)家被認為是客觀(guān)的，在過(guò)去，人們不得不為他們的過(guò)失承擔責任。 科技公司表示，他們只是在提高 Maven的準確性——正確的人會(huì )被殺害，而不是錯誤的人。他們說(shuō)，世界另一邊的人更容易被殺，而且美國軍方能夠確定懷疑是什么樣的，這一政治假設沒(méi)有受到質(zhì)疑。 因此，技術(shù)問(wèn)題被用來(lái)解決一些實(shí)際上是政治問(wèn)題的東西。 選擇使用算法自動(dòng)化某些類(lèi)型的決定也是政治性的。”
現代戰爭的法律慣例雖然可能并不完美，但它們對所做出的決定負有人類(lèi)的責任 美能達C221S提示E301代碼怎么解決。 至少，算法戰爭以我們可能會(huì )變得后悔的方式攪渾了水。 近日在日內瓦召開(kāi)的聯(lián)合國常規武器公約會(huì )議上，一群政府專(zhuān)家正在辯論這個(gè)問(wèn)題。
尋找解決方案
解決方案是存在的，或者可以在這里描述的大多數問(wèn)題中找到解決辦法，但不能不鼓勵大型技術(shù)公司將社會(huì )健康置于與它們的收入相當的地位 美能達C221S提示E301代碼怎么解決。 從長(cháng)遠來(lái)看，更為嚴重的是，鑒于我們日益依賴(lài)的算法系統的規模、復雜性和相互依賴(lài)性，目前的編程方法已不再適合我們的目的。 聯(lián)邦航空管理局在商業(yè)航空方面采用的一個(gè)解決辦法是，記錄和評估所有方案的內容，并隨后對這種詳細程度的更新進(jìn)行記錄和評估，以便事先充分了解算法的相互作用，但這在很大程度上是不切實(shí)際的。 航空航天工業(yè)采用了一種相對較新的方法，稱(chēng)為基于模型的編程，在這種方法中，機器可以完成大部分的編碼工作，并且能夠在進(jìn)行的過(guò)程中進(jìn)行測試。
然而，基于模型的編程可能不是一些人所希望的靈丹妙藥 美能達C221S提示E301代碼怎么解決。 它不僅使人類(lèi)進(jìn)一步遠離這個(gè)過(guò)程，而且物理學(xué)家約翰遜為國防部進(jìn)行了一項研究，發(fā)現“極端行為不能從代碼本身推斷出來(lái)”，甚至在使用這種技術(shù)建造的龐大而復雜的系統中也是如此。 一種叫做 TLA + 的新編程語(yǔ)言可以使用數學(xué)證明一個(gè)軟件系統沒(méi)有 bug，但是這需要具有高級數學(xué)技能的程序員。 大量的“算力”被用于尋找方法，追蹤意外的算法行為回到引起它的特定代碼行。 沒(méi)有人知道是否會(huì )找到一個(gè)解決方案，但是在侵略性的阿爾戈斯被設計成沖突和 / 或適應的地方，沒(méi)有一種解決方案。
當我們等待解決方案的時(shí)候，我們可以采取預防措施 美能達C221S提示E301代碼怎么解決。英國定量分析專(zhuān)家、股票市場(chǎng)高頻交易的直言不諱的批評家保羅·威爾莫特（Paul Wilmott）自嘲地建議“學(xué)會(huì )射擊、制作果醬和編織”。更為實(shí)際的是，軟件安全專(zhuān)家斯佩弗(Spafford)建議，讓科技公司對其產(chǎn)品的行為負責，無(wú)論是否能夠識別出具體的流氓代碼，或證明其疏忽。 他指出，受人尊敬的計算機機械協(xié)會(huì )(Association for Computing Machinery)根據醫學(xué)希波克拉底誓詞（Hippocratic oath）更新了其道德守則，指示計算機專(zhuān)業(yè)人士不要傷害它們，并考慮其工作的更廣泛影響。
“現在，這甚至影響了選舉 美能達C221S提示E301代碼怎么解決。我是說(shuō)，到底發(fā)生了什么？我認為最科學(xué)的事情是軟件工程師被訓練編寫(xiě)程序來(lái)做優(yōu)化的事情——而且有充分的理由，因為你經(jīng)常在飛機重量分配或者最省油的速度方面進(jìn)行優(yōu)化：在通常情況下，能預期的優(yōu)化是有意義的。但在不尋常的情況下，情況并非如此，我們需要問(wèn):‘一旦這個(gè)算法開(kāi)始與他人互動(dòng)，它會(huì )發(fā)生什么最糟糕的事情？’問(wèn)題是我們對這個(gè)概念連一個(gè)字都沒(méi)有，更不用說(shuō)研究它的科學(xué)了。”
他停頓了一會(huì )兒，試圖繞過(guò)這個(gè)問(wèn)題 美能達C221S提示E301代碼怎么解決。
“問(wèn)題是，優(yōu)化都是關(guān)于最大化或最小化一些東西，用計算機術(shù)語(yǔ)來(lái)說(shuō)是一樣的 美能達C221S提示E301代碼怎么解決。那么，優(yōu)化的反面是什么，即最不優(yōu)化的情況，我們如何識別和衡量它？我們需要問(wèn)的問(wèn)題是:“在我認為我正在優(yōu)化的系統中，什么是最極端的行為？”
又一次短暫的沉默，以他有一絲驚訝的聲音結束 美能達C221S提示E301代碼怎么解決。
“基本上，我們需要一門(mén)新的科學(xué)，”他說(shuō) 美能達C221S提示E301代碼怎么解決。