日前，哈工大朱曉蕊教授等人在中國工程院院刊《信息與電子工程前沿》（英文）（Frontiers of Information Technology & Electronic Engineering，F(xiàn)ITEE）上發(fā)表了一篇題為《針對無人機(jī)系統(tǒng)安全的新型層級式軟件架構(gòu)》（A new hierarchical software architecture towards safety-critical aspects of a drone system）的論文，提出一種覆蓋底層源代碼到上層用戶任務(wù)代碼的新型層級式軟件架構(gòu)，能夠有效地提高無人機(jī)系統(tǒng)安全性與可靠性。

  目前，對于基礎(chǔ)技術(shù)日趨成熟的無人機(jī)領(lǐng)域來說，無人機(jī)系統(tǒng)的安全性還是一個欠缺關(guān)注的研究方向，然而，這一研究方向?qū)τ跓o人機(jī)未來發(fā)展而言至關(guān)重要。因而，朱曉蕊教授等人在這一方向上的研究頗具前瞻性，其工作成果也獨具開創(chuàng)性意義。雷鋒網(wǎng) AI 科技評論借此機(jī)會拜訪了朱曉蕊教授，深入探討了其開啟這項工作的背景、研究歷程以及對于無人機(jī)領(lǐng)域的一些思考。

  朱曉蕊，教授、博士生導(dǎo)師，哈爾濱工業(yè)大學(xué)(深圳)，主要研究方向為移動機(jī)器人技術(shù)與系統(tǒng)。近年來作為負(fù)責(zé)人先后承擔(dān)國家重點研發(fā)計劃、國家科技支撐計劃、國家自然基金重點項目等多項國家級前沿課題，其中考古發(fā)掘現(xiàn)場預(yù)探測系統(tǒng)于 2012 年獲得國家科技進(jìn)步二等獎;有關(guān)移動機(jī)器人控制、定位和制圖等相關(guān)成果先后發(fā)表在國際頂級期刊和旗艦會議上。曾任深圳大疆科技首席科學(xué)家、創(chuàng)始董事；孵化知名激光雷達(dá)廠商深圳速騰聚創(chuàng)并任首席科學(xué)家、聯(lián)合創(chuàng)始人。 曾多次組織全球機(jī)器人領(lǐng)域的旗艦國際會議，并于 2012 年開始擔(dān)任 IEEE 國際機(jī)器人與自動化學(xué)會的產(chǎn)業(yè)活動委員會和會員活動委員會執(zhí)委；2014 年曾擔(dān)任被譽為國際機(jī)器人行業(yè)最高獎項的國際機(jī)器人發(fā)明與創(chuàng)業(yè)獎現(xiàn)場評委，同年被國際機(jī)器人與自動化學(xué)會選為國際事務(wù)委員會主席；2015 年在國際機(jī)器人旗艦會議 ICRA2015 上被評為 Notable Women in Robotics；2016 年與北京大學(xué)高文院士和香港中文大學(xué)（深圳）徐揚生院士/校長共同發(fā)起全球人工智能與機(jī)器人峰會（GAIR）并任歷屆組委會主席、程序委員會主席。系統(tǒng)安全會成為無人機(jī)等小型智能系統(tǒng)未來的重要問題

  實際上，在無人機(jī)系統(tǒng)安全這個項目之前，朱曉蕊教授的研究方向主要是無人機(jī)控制和導(dǎo)航，而之所以轉(zhuǎn)到無人機(jī)系統(tǒng)安全的研究則源自于她與耶魯大學(xué)邵中教授一次對話中受到的啟發(fā)：系統(tǒng)安全會成為無人機(jī)等小型智能系統(tǒng)未來的一個重要問題。

  2014 年底，朱曉蕊教授在與來自耶魯大學(xué)的邵中教授進(jìn)行學(xué)術(shù)交流的過程中，了解到邵中教授一直在進(jìn)行安全操作系統(tǒng)方面的研究，并在這個領(lǐng)域處于國際最前沿。而當(dāng)時還在專注于無人機(jī)控制、導(dǎo)航研究的朱曉蕊教授，意識到她此前所做的這些研究工作實際上都已經(jīng)趨向成熟，正在思考無人機(jī)未來的研究方向，邵中教授的這一研究方向則帶給了她一個新的研究思路。朱曉蕊教授在采訪中分享到：「他正在做這項工作就提醒了我，無人機(jī)這類小型智能系統(tǒng)的安全問題，會成為未來一個比較重要的問題 」。

  然而，當(dāng)時甚至是現(xiàn)在，無人機(jī)領(lǐng)域?qū)τ诎踩詥栴}的關(guān)注度都比較少。對此，朱曉蕊教授指出：「需要注意的一點是我們研究的基本上是小型飛行器，而小型飛行器和大型飛行器的區(qū)別是非常大的。光就安全性而言，大型飛行器很早就按照 Safety Critical System 啟用了標(biāo)準(zhǔn)度很高的 系統(tǒng)安全驗證，雖然在安全驗證方面的人力、物力的耗費量都非常巨大，但是它們的一個小小的安全問題就可能帶來非常嚴(yán)重的后果，因而即便投入巨大，大家也不得不關(guān)注這一問題。然而對于小型飛行器的安全驗證問題，目前領(lǐng)域內(nèi)國際上只有極少數(shù)研究者開始嘗試去做這些事情，因為這是一個全新的東西，一切都從新開始?！?/p>

  正是基于上面的兩點考量，朱曉蕊教授決心要成為「第一批吃螃蟹的人」，與邵中教授開啟了無人機(jī)系統(tǒng)安全的研究項目。

  「當(dāng)無人機(jī)這類智能系統(tǒng)進(jìn)入到民用領(lǐng)域后，就不可避免地走向小型化，就會在片上資源方面犧牲掉很多的性能，因此直接將大型飛行器的安全驗證系統(tǒng)移植到小型飛行器上是不可行的，所以我們就需要設(shè)計一個新的軟件架構(gòu)，既保證小型飛行器理論驗證消耗不會那么高，又能夠保障系統(tǒng)的安全性。傳統(tǒng)而言，新系統(tǒng)研發(fā)是通過反復(fù)地模擬和實際測試來確保系統(tǒng)可靠性和安全性的。但是這種方式從嚴(yán)格意義上是無法完全保證安全性的，會出現(xiàn)看似隨機(jī)的一些故障，甚至引起飛機(jī)墜毀現(xiàn)象?！?/p>

  同時，為了促成雙方正式將無人機(jī)系統(tǒng)安全項目提上重要日程，朱曉蕊教授和邵中教授也特地正式申請了國際合作項目。

  打開無人機(jī)底層操作系統(tǒng)和上層系統(tǒng)之間的「隔板」

  按照朱曉蕊教授的說法，研究上層系統(tǒng)的人通常并不關(guān)注底層系統(tǒng)的細(xì)節(jié)，只在需要的時候直接使用底層系統(tǒng)，而反過來，研究操作系統(tǒng)的人往往也很少考慮上層系統(tǒng)的情況。因此，無人機(jī)等智能系統(tǒng)的上層系統(tǒng)和底層操作系統(tǒng)之間相當(dāng)于存在一塊「隔板」，二者間往往只存在最基本的互動。

  「這樣的話，這兩個方向的研究者在進(jìn)行安全測試時，往往只測試各自系統(tǒng)內(nèi)的交互情況，然而這樣僅僅只能確保系統(tǒng)內(nèi)的安全性，而不能保證上層系統(tǒng)在跟底層操作系統(tǒng)做交互的時候不會出現(xiàn)問題。因此，我們合作這個項目的思路就是要將這兩個系統(tǒng)中間的這塊隔板打開，將二者作為一個整體來設(shè)計軟件架構(gòu)，從而完全保證無人機(jī)系統(tǒng)的安全性?！?/p>

  對于這項工作成果在保障無人機(jī)整體安全性上的具體工作原理，朱曉蕊教授介紹道：「我們將所有算法形成的代碼設(shè)計成分層結(jié)構(gòu)，同時設(shè)計好層與層之間的交互架構(gòu)，然后使用形式化驗證的方法去檢測層與層之間交互的正確性?！?/p>

  形式化驗證是采用邏輯來驗證程序可靠性的一種方法，即用邏輯的方法將一段程序證明一遍，證明它能得到預(yù)期的結(jié)果并且沒有出現(xiàn)錯誤，例如，歐美國家就將這種驗證方法廣泛地應(yīng)用于一些大型飛行器中，由于這些設(shè)備的系統(tǒng)一旦出現(xiàn)出現(xiàn)錯誤，導(dǎo)致的后果會非常嚴(yán)重，同時研究者又無法對其進(jìn)行一遍一遍的測試，因而形式化驗證是可以選擇的非常不錯的方法。

  因此，朱曉蕊教授項目組的這項研究成果不僅以實現(xiàn)上層系統(tǒng)和底層操作系統(tǒng)的層級式互動的方式來保障系統(tǒng)整體的安全性，更從邏輯層面避免了人為測試中所存在的偶然性，保障了安全性和可靠性。而同時從這兩個方面著手展開（小型）無人機(jī)系統(tǒng)安全測試工作的，朱曉蕊教授等人是首創(chuàng)者。

  「道阻且長」的交叉學(xué)科合作之路

  實際上，無人機(jī)系統(tǒng)安全這個合作項目在 2014 年底就啟動了，然而一直到現(xiàn)在才出成果，朱曉蕊教授表示背后的原因主要有兩點：

  一是合作項目的人員投入以及相關(guān)人員的時間投入都非常緊缺。一般而言，朱曉蕊和邵中兩位教授每年大概各自投入 1 到 2 名研究生，再加上學(xué)生推進(jìn)相關(guān)研究工作的時間有限，因而整個研究的推進(jìn)節(jié)奏是比較慢的。

  二是交叉學(xué)科之間對于彼此學(xué)科的理解難度以及研究理念上的差異?！高@也是我們在合作研究中遇到的一個比較大的挑戰(zhàn)，我和邵中老師以及我們各自的學(xué)生，研究方向其實是不同的，我們是典型的交叉研究領(lǐng)域，因此我這邊的學(xué)生需要去了解很多操作系統(tǒng)方面的東西，邵中老師的學(xué)生同樣也需要重新理解上層系統(tǒng)的相關(guān)知識，所以他們彼此都要花很多時間去學(xué)習(xí)這些知識，這中間其實也耗費了非常多的時間。」

  此外，朱曉蕊教授還提到了她這邊存在的一個比較嚴(yán)峻的問題，就是在現(xiàn)行的培養(yǎng)體制下，一方面是由于研究生培養(yǎng)年限比較短，另一方面則是因為學(xué)生對于新事物的熱情和好奇心也不夠，畏難心理比較明顯，因此她這邊參與項目的學(xué)生更替很快，這樣的話，輪到下一批加入的學(xué)生，他們又要去學(xué)習(xí)操作系統(tǒng)方面的知識，這就又需要耗費一個周期的時間了。

  談及至此，朱曉蕊教授也就目前國內(nèi)高校學(xué)生存在的一些問題提出了兩點自己的期望：

  第一是增強自身對學(xué)術(shù)科研的熱愛和好奇心，減少學(xué)術(shù)功利性?！笇嶋H上現(xiàn)在很多學(xué)生不是因為熱愛才去做科研，所以他們往往會以企業(yè)需要求職者擁有怎樣的技能為衡量標(biāo)準(zhǔn)來做項目，功利性比較強。這樣的心態(tài)一方面讓他們在遇到困難時就會產(chǎn)生畏難心理，另一方面他們一旦拿到比較好的 offer 就傾向于選擇去就業(yè)，這些因素都會導(dǎo)致他們無法進(jìn)行深度科研?！?/p>

  第二是要有自己的獨立思考和判斷能力，不要盲目跟風(fēng)追熱點?！脯F(xiàn)在很多學(xué)生都在跟熱點做研究，我覺得最關(guān)鍵的原因是他們沒有判斷力，無法獨立思考目前領(lǐng)域發(fā)展中重要的方向，同時也缺乏對自己的判斷和思考，因此跟熱點是一種相對來說比較安全的方式。但是現(xiàn)在以及未來，整個社會的變化都非常快，因此現(xiàn)在即便是熱點，過段時間說不定就冷掉了，而一些冷門的方向說不定到某個時間就發(fā)展起來了?！?/p>

  也正是基于這種期望，朱曉蕊教授在日常教學(xué)中也始終堅持引導(dǎo)學(xué)生樹立正確的研究思路：「所以我也一再地跟我的學(xué)生強調(diào)，我要教給他們的是一套系統(tǒng)的做科學(xué)研究的方法論，是怎樣從零或一個 idea 開始做出一套有說服力的成果的方法，讓他們最終在畢業(yè)答辯的時候能夠自信地將自己做出來的這些成果講給別人聽，而不是說一定局限在課題所涉及的特定研究領(lǐng)域。」

  下一步規(guī)劃：繼續(xù)完善方案、擴(kuò)充科研隊伍

  對于無人機(jī)系統(tǒng)安全研究的這一版研究成果，朱曉蕊教授表示，目前還沒有達(dá)到最理想的狀態(tài)，因此下一步的規(guī)劃還是希望參與研究的學(xué)生能夠再花半年到一年左右的時間，實現(xiàn)該方案的最佳效果。

  「下一步，我們會利用虛擬化技術(shù)來完善無人機(jī)系統(tǒng)安全方案，具體來說就是用虛擬化技術(shù)來將智能系統(tǒng)中對安全重要和對安全沒那么重要的部分隔開來，從而減少不必要的安全驗證消耗 。以無人機(jī)為例，它其中的某些模塊對于安全來說至關(guān)重要，一旦出現(xiàn)問題，可能會直接導(dǎo)致無人機(jī)停止運行（從空中掉下來）；而其中也有部分模塊對安全性而言不那么重要的，例如一些第三方程序，對于飛機(jī)整體的安全性不會造成太大影響，就不需要付出代價去證明這部分模塊的安全性。因此，大概再花一年左右的時間，整個安全方案就比較完整了。」

  同時，朱曉蕊教授希望，這一系統(tǒng)安全性驗證方案不要被局限于無人機(jī)。「它同樣可以給其他小型智能系統(tǒng)包括無人駕駛帶來很大的價值。實際上，這個方案如果應(yīng)用到無人駕駛這些場景中，實現(xiàn)原理其實還是一樣的，只不過需要針對這一套系統(tǒng)進(jìn)行修改和調(diào)整，因此說，我們實際上提出的是一套可以廣泛應(yīng)用的方法論?！?/p>

  而對于目前每年只能各自投入 1 到 2 名學(xué)生的耶魯合作項目來說，人手同樣是一個亟需解決的問題，因此擴(kuò)充科研隊伍同樣也是下一步規(guī)劃中的重要內(nèi)容。

  「本次之所以希望通過媒體來報道這項成果，主要也是有兩個訴求：第一個就是希望更多對這項研究感興趣的人能夠加入到我們的研究隊伍中來，從而更快地推進(jìn)項目進(jìn)度；第二個就是希望我們在無人機(jī)系統(tǒng)安全方面的這項研究成果能給相關(guān)領(lǐng)域研究者帶來一些啟發(fā)，啟發(fā)他們?nèi)ネ诰蝾I(lǐng)域內(nèi)目前還未受到較大關(guān)注但對未來而言至關(guān)重要的研究方向?！?/p>

  對于無人機(jī)領(lǐng)域的一些思考

  學(xué)界和業(yè)界應(yīng)該怎么分工？

  朱曉蕊教授認(rèn)為，學(xué)界和業(yè)界由于各自的性質(zhì)以及承擔(dān)的社會責(zé)任不同，分工也不盡相同，如果二者能夠各司其職，形成一個非常良性、平衡的合作狀態(tài)，對于無人機(jī)以及整個人工智能領(lǐng)域的發(fā)展會大有裨益。

  「對于學(xué)界而言，首先一定要做一些超前的事情，在一些業(yè)界乃至整個研究領(lǐng)域還沒有關(guān)注到的問題上，先要嘗試著去開展研究工作，所有的研究工作往往在獲得成功之前都要經(jīng)歷一個漫長的過程，所以，學(xué)界應(yīng)該充當(dāng)這個引路者的角色；其次，我認(rèn)為學(xué)界的價值是提出一些能夠?qū)I(yè)界具有啟發(fā)性意義的新的 idea，正如我之前所提到的，我們的研究實際上更像是提出了某一套具有普遍適應(yīng)性的新方法，業(yè)界可以借鑒，并在我們的新思路和新方法上進(jìn)行完善，從而最終與真正的應(yīng)用場景實現(xiàn)對接。

  而對于業(yè)界來說，他們需要做的便是將學(xué)界提出的新方法、新成果落地到各個細(xì)分應(yīng)用場景中，并利用其豐富的人力、物力資源來推進(jìn)某項成果不斷完善和升華，最終對整個社會的實際發(fā)展負(fù)責(zé)?！?/p>

  無人機(jī)領(lǐng)域的最終目標(biāo)為何？

  對于目前無人機(jī)領(lǐng)域的整個發(fā)展情況，朱曉蕊教授還是比較有信心的，她認(rèn)為在技術(shù)層面，無人機(jī)的通用性已經(jīng)做得相對來說比較成熟的，接下來要著重解決的就是產(chǎn)業(yè)化落地的問題。

  「目前就我看來，無人機(jī)領(lǐng)域在基礎(chǔ)技術(shù)方面都不錯，就差在細(xì)分行業(yè)中有針對性地應(yīng)用了。因為不同的細(xì)分行業(yè)對于這些基礎(chǔ)技術(shù)都有特殊且具體的要求，因此我認(rèn)為這其中還有很多可以挖掘的東西。當(dāng)技術(shù)和市場、成本達(dá)到一個平衡的狀態(tài)時，無人機(jī)領(lǐng)域差不多就是一個比較理想的狀態(tài)了。」