大眾一般認(rèn)為，新技術(shù)的研發(fā)是難度最大的，應(yīng)用及監(jiān)管與研發(fā)相比難度就會(huì)低很多。但對于將深遠(yuǎn)影響人類社會(huì)運(yùn)營方式的人工智能來說，情況或許正好相反。

人工智能的潛在缺陷與控制

目前基于人工智能所開發(fā)的自動(dòng)控制、模式識別和機(jī)器學(xué)習(xí)系統(tǒng)，其實(shí)都是人工智能領(lǐng)域非常初級的部分，往往需要研發(fā)團(tuán)隊(duì)針對實(shí)際應(yīng)用場景設(shè)置重要先決條件，以降低人工智能系統(tǒng)的判別難度并提高準(zhǔn)確率。

當(dāng)各種極客型的技術(shù)人員大開腦洞采用人工智能技術(shù)研發(fā)各種黑科技時(shí)，他們的關(guān)注范圍是非常聚焦的，即按照最優(yōu)條件下設(shè)想人工智能的應(yīng)用范圍和場景，較少考慮相關(guān)技術(shù)在復(fù)雜條件甚至人為濫用的情況下面臨的困境。這往往也為人工智能潛在的不當(dāng)使用埋下了伏筆。

人工智能作為信息化系統(tǒng)，一定會(huì)受到自身設(shè)計(jì)的局限和開發(fā)質(zhì)量的影響。再加上人工智能在識別和判斷時(shí)需要基于人工設(shè)置和歷史數(shù)據(jù)，通過精心設(shè)計(jì)的訓(xùn)練過程才能得到基于概率的判別結(jié)果。所以對于人工智能系統(tǒng)，在特定前提或應(yīng)用場景下作出錯(cuò)誤決策是100%會(huì)出現(xiàn)的。

作為政府和監(jiān)管部門，面臨的第一個(gè)重要問題就是系統(tǒng)錯(cuò)誤決策所引起的財(cái)產(chǎn)損失甚至人身傷亡該如何判定責(zé)任與承擔(dān)賠償，甚至要能夠提出合理的原則，區(qū)分哪些錯(cuò)誤決策是小概率事件本身引發(fā)的，哪些錯(cuò)誤決策是由于系統(tǒng)設(shè)計(jì)、訓(xùn)練數(shù)據(jù)和訓(xùn)練過程存在問題所導(dǎo)致的。

2016年2月14日，上路試驗(yàn)已經(jīng)六年的谷歌自動(dòng)駕駛汽車第一次由于系統(tǒng)“誤判”導(dǎo)致了交通事故。谷歌公司表示自動(dòng)駕駛汽車在這次輕微車禍中承擔(dān)“部分責(zé)任”。由此可見，當(dāng)時(shí)的谷歌自動(dòng)駕駛系統(tǒng)在特定場景下觸發(fā)了一個(gè)錯(cuò)誤決策。

可以想象，當(dāng)自動(dòng)駕駛汽車全面行駛在大街小巷時(shí)，系統(tǒng)的微小錯(cuò)誤導(dǎo)致的責(zé)任事故會(huì)基于巨大的汽車保有量而放大成為一個(gè)引人注目的數(shù)字。由此而引起的責(zé)任劃定和賠償也會(huì)由于人工智能和人類行為的混合作用而變得異常復(fù)雜。

另一個(gè)廣為人知的應(yīng)用缺陷就是公平性問題。2016年哈佛大學(xué)肯尼迪學(xué)院發(fā)布的分析報(bào)告指出，目前針對犯罪傾向性預(yù)測的人工智能系統(tǒng)，無論技術(shù)人員如何調(diào)整機(jī)器學(xué)習(xí)的策略和算法，人種膚色都成為無法抹去的高優(yōu)先識別變量。人工智能系統(tǒng)評估結(jié)果出現(xiàn)了明顯的對黑人群體的偏見，這是現(xiàn)階段人工智能技術(shù)手段無法避免的，也是人工智能系統(tǒng)廣泛應(yīng)用于現(xiàn)有社會(huì)環(huán)境并為社會(huì)大眾所接受的一個(gè)重要的障礙。

在以上問題沒有經(jīng)過實(shí)踐驗(yàn)證的法律支持和監(jiān)管框架管理下，人工智能的全面應(yīng)用很有可能帶來相關(guān)領(lǐng)域社會(huì)活動(dòng)的混亂并造成意想不到的后果。

逐步建立的人工智能監(jiān)管

美國政府對于人工智能的廣泛應(yīng)用和相關(guān)監(jiān)管框架一直保持關(guān)注，并在特定領(lǐng)域開始小范圍的實(shí)踐。

以人工智能領(lǐng)域目前相對成熟且應(yīng)用前景廣闊的自動(dòng)駕駛為例，企業(yè)能夠盡快推進(jìn)自動(dòng)駕駛技術(shù)開發(fā)的重要原因，是在制度方面得到了美國政府的大力支持。

2012年5月，美國內(nèi)華達(dá)州汽車管理局為谷歌自動(dòng)駕駛汽車發(fā)放了美國首張自動(dòng)駕駛車輛許可證，此前內(nèi)華達(dá)州議會(huì)通過了允許自動(dòng)駕駛車輛上路的法條。八個(gè)月后谷歌又在加利福尼亞州取得了許可證。

隨之而來，奧迪和豐田也先后在美國的一些州拿到了實(shí)驗(yàn)許可證并開展公路測試。一時(shí)間，美國成為各國企業(yè)爭先開展自動(dòng)駕駛的試驗(yàn)田，加速了自動(dòng)駕駛技術(shù)的成熟。

雖然美國交通管理部門積極配合自動(dòng)駕駛技術(shù)的測試和路試，但是對于正式的應(yīng)用許可還是采用非常審慎的態(tài)度。2014年10月，加州車輛管理局同時(shí)頒發(fā)了29張自動(dòng)駕駛汽車公共道路測試許可證，分別給了谷歌、戴姆勒、大眾三家公司，獲得許可的條件之一是人可以隨時(shí)干預(yù)汽車駕駛，以確保在人工智能廣泛測試和安全性之間取得平衡。

加州車輛管理局2015年12月提出了一項(xiàng)監(jiān)管草案，要求所有自動(dòng)駕駛汽車的駕駛座上必須始終乘坐一名擁有駕照的人士，并要求汽車在設(shè)計(jì)方面必須擁有方向盤、油門踏板、制動(dòng)踏板等傳統(tǒng)機(jī)動(dòng)車具備的基本操控裝置，以便具有駕駛資質(zhì)的人在無人駕駛汽車失靈時(shí)可隨時(shí)接管汽車的操作。

在草案細(xì)則中，加州還規(guī)定了自動(dòng)駕駛的三年試用期。消費(fèi)者可以通過租賃的方式從制造商處獲得自動(dòng)駕駛汽車，但制造商需要跟蹤記錄消費(fèi)者的駕駛情況，把汽車性能指標(biāo)和駕駛記錄遞交機(jī)動(dòng)車輛管理局。

可以看到，美國的交通部門在放行自動(dòng)駕駛技術(shù)時(shí)是逐步進(jìn)行，并盡量確保過渡階段監(jiān)管規(guī)則的連續(xù)性。盡管谷歌等自動(dòng)駕駛技術(shù)公司向公眾抱怨，政府過于嚴(yán)厲的監(jiān)管和相對謹(jǐn)慎的態(tài)度阻礙了自動(dòng)駕駛技術(shù)向?qū)嵱盟降目焖侔l(fā)展，但這是監(jiān)管部門職責(zé)所在，他們必須保護(hù)公眾在享受新技術(shù)成果的同時(shí)，避免潛在技術(shù)缺陷導(dǎo)致的傷害。

今年1月，美國運(yùn)輸部長Anthony Foxx表示，將在六個(gè)月內(nèi)出臺自動(dòng)駕駛汽車指導(dǎo)原則。美國高速公路交通安全管理局(NTHSA)也表示，為了加速自動(dòng)駕駛汽車的發(fā)展，該機(jī)構(gòu)將放棄一些目前針對自動(dòng)駕駛汽車的安全要求。

收益和風(fēng)險(xiǎn)前瞻

2016年5月3日，白宮的副首席技術(shù)官埃德·費(fèi)爾頓宣布，白宮將組織一系列有關(guān)人工智能收益與風(fēng)險(xiǎn)的研討，“為人工智能的未來而準(zhǔn)備”。此次人工智能領(lǐng)域的系列研討包括以下內(nèi)容：

• 2016年5月24日，西雅圖：與人工智能相關(guān)的法律與監(jiān)管事務(wù);
• 2016年6月7日，華盛頓：人工智能與社會(huì)福利;
• 2016年6月28日，匹茲堡：人工智能的安全與控制;
• 2016年7月7日，紐約：近期的人工智能技術(shù)對社會(huì)和經(jīng)濟(jì)的影響。

此次人工智能領(lǐng)域的研討，一方面涵蓋了從立法到監(jiān)管原則的確定，為政府全面管理人工智能確立法理依據(jù)和管理邊界;另一方面，也將深入探討人工智能有可能存在的缺陷以及相應(yīng)的安全控制原則。此外，研討視角不僅面向具體的監(jiān)管框架，同時(shí)還包含了對就業(yè)、社會(huì)福利、經(jīng)濟(jì)發(fā)展的長遠(yuǎn)影響的分析。

從此次人工智能的研討主題來看，美國政府的決策機(jī)構(gòu)已經(jīng)在思考人工智能的全面應(yīng)用對于社會(huì)整體運(yùn)行的沖擊與改變。例如，人類是否有可能在某些領(lǐng)域?yàn)E用人工智能技術(shù)，比如刑事司法、勞動(dòng)雇傭等領(lǐng)域。

在支撐人工智能技術(shù)廣泛收集公眾和個(gè)人信息時(shí)，又存在著數(shù)據(jù)所有權(quán)和應(yīng)用范圍的邊界：哪些組織和企業(yè)可以搜集個(gè)人信息;使用個(gè)人信息時(shí)，使用的機(jī)構(gòu)應(yīng)該承擔(dān)什么樣的義務(wù)?通過嚴(yán)格清晰的數(shù)據(jù)擁有和使用責(zé)任的界定，促使利用人工智能和大數(shù)據(jù)工具的人控制他們的決策行為，以符合法律與社會(huì)的基本準(zhǔn)則。

需要強(qiáng)調(diào)的是，這次研討并不是政府為主發(fā)一家之言，而是白宮科技政策辦公室牽頭，分別由西雅圖大學(xué)、計(jì)算研究協(xié)會(huì)、卡耐基梅隆大學(xué)和紐約大學(xué)信息法律研究所等高校和研究機(jī)構(gòu)組織，多所一流大學(xué)和企業(yè)研究人士共同參與的研討會(huì)。這一系列高規(guī)格人工智能研討結(jié)果，將作為美國政府制定人工智能立法和監(jiān)管原則的重要來源。

中國人工智能的管理現(xiàn)狀

中國政府在最近幾年一直大力推進(jìn)人工智能產(chǎn)業(yè)的發(fā)展，重心仍然放在鼓勵(lì)技術(shù)研發(fā)方面。對于人工智能技術(shù)應(yīng)用所帶來的產(chǎn)業(yè)與社會(huì)轉(zhuǎn)型沖擊，以及監(jiān)管方面的及時(shí)調(diào)整和跟進(jìn)，目前還缺乏整體認(rèn)識和積極部署。可以說，政府還沒有意識到自身應(yīng)該如何參與到人工智能的發(fā)展，以及相應(yīng)的法律法規(guī)、監(jiān)管體系和管理架構(gòu)應(yīng)該如何進(jìn)行調(diào)整，以適應(yīng)新的社會(huì)需求與技術(shù)現(xiàn)實(shí)。

還是以自動(dòng)駕駛應(yīng)用為例，目前國內(nèi)自動(dòng)駕駛技術(shù)多被作為科研項(xiàng)目進(jìn)行測試。相關(guān)的法律法規(guī)和監(jiān)管問題，在企業(yè)多次推動(dòng)下并沒有明確的進(jìn)展。比如，中國企業(yè)在國內(nèi)進(jìn)行公路自動(dòng)駕駛測試時(shí)，還無法為測試車輛懸掛測試牌照。2015年12月百度首次自動(dòng)駕駛汽車的路測過程中，由于交管部門沒有任何有關(guān)自動(dòng)駕駛測試的指導(dǎo)規(guī)定，百度公司只能安排駕駛員坐在方向盤后面，而交管部門也默認(rèn)該車為有人駕駛而未加干涉。

2016年全國“兩會(huì)”期間，全國政協(xié)委員、百度公司董事長兼首席執(zhí)行官李彥宏提議，中國應(yīng)盡快組織開展關(guān)于無人車牌照發(fā)放、行駛規(guī)定、事故認(rèn)責(zé)等方面的研究。他還建議盡快修訂和完善無人駕駛相關(guān)的法律法規(guī)，為無人駕駛汽車的研發(fā)、測試和商業(yè)化應(yīng)用提供制度保障。

但在2016年5月23日由國家發(fā)改委、科技部、工信部、中央網(wǎng)信辦制定印發(fā)的《“互聯(lián)網(wǎng)+”人工智能三年行動(dòng)實(shí)施方案》中，政府還是側(cè)重于打造平臺、培育企業(yè)、構(gòu)建市場、激勵(lì)創(chuàng)新等方面。雖然文中也談到了資金支持、標(biāo)準(zhǔn)體系建設(shè)、知識產(chǎn)權(quán)保護(hù)、人才培養(yǎng)、國際合作等方面，但對于監(jiān)管原則、監(jiān)管體系和相關(guān)監(jiān)管機(jī)構(gòu)的建設(shè)則基本沒有提及。

可以預(yù)見，現(xiàn)有的法律法規(guī)未必適應(yīng)未來的人工智能新型應(yīng)用模式，會(huì)對人工智能的快速發(fā)展構(gòu)成阻礙，但在出現(xiàn)人工智能應(yīng)用的重大缺陷或者安全隱患時(shí)，也沒有相關(guān)法規(guī)和條例指導(dǎo)政府機(jī)構(gòu)合理合法地規(guī)避人工智能的發(fā)展風(fēng)險(xiǎn)。這將導(dǎo)致新技術(shù)應(yīng)用與推廣過程中付出不必要的成本，甚至?xí)蛞瓘U食，阻礙人工智能行業(yè)的發(fā)展。

人工智能概念股：埃斯頓、科大智能、漢王科技、江南化工、華東數(shù)控、和而泰、中科曙光、永創(chuàng)智能、北京君正、通富微電、永創(chuàng)智能、勁拓股份。