「邊緣」運算：讓人工智慧無所不在
作者：José Luis Espinosa，Ubotica Technologies 首席工程師/經理兼 ESI-UCLM 副教授。
我們如何到達今天的人工智慧？
人工智慧最近的崛起是不可否認的，它已經在媒體和一般意識形態中佔有一席之地。 今天很難不聽說它的新應用，包括它在自動駕駛汽車或機器人中的整合、醫療診斷的協助或其他生成系統，例如 諮詢GPT o 達爾·E.
令人驚訝的是，這些系統的基本概念可以追溯到很多年前。 神經網路最早起源於 1943 年 [1]。 然而，正是在過去二十年裡，人工智慧系統的蓬勃發展具備了必要的條件[2]，這要歸功於：
1) 透過使用顯示卡 (GPU)，處理硬體不斷發展，滿足了這些系統必須學習的龐大運算需求。
2）大數據，提供此類技術所需的必要資料量。
3）軟體和深度學習技術的演進。
"人工智慧"在邊緣“
人工智慧技術的發展導致智慧系統的發展越來越強大，但也越來越複雜，因此需要使用高效能係統或雲端運算資源。 但是，當我們受到限製而無法使用這些資源來整合我們的智慧系統時，會發生什麼？ 一個明顯的例子是我們在公司工作的主要領域 烏博蒂卡，它是關於 為部署在太空中的系統提供自主性和智能，這將是目前人類的「最後極限」。
這些限制更嚴格的情況之一是奈米衛星。 這些小型衛星的蓬勃發展得益於不同航太機構的投資，例如 歐空局 或 美國航空航天局 和像這樣的公司 SpaceX公司 由於它們相對較低的成本和它們提供的可能性。 即便如此，這些設備也不具備與大型衛星相同的與地球的通訊能力。
正是在這些情況下，計算才出現“在邊緣“ 將人工智慧演算法的執行直接轉移到捕獲資訊的地方。 這種方法有幾個優點：
1）隱私。 透過在擷取資料的地方執行操作，無需透過網路發送像影像一樣敏感的資訊。
2) 減少延遲。 由於不必發送這些資料並等待接收結果，設備本身就能夠在短時間內做出決定。 例如，如果奈米衛星或漫遊車偵測到障礙物，它可以自主決定避開障礙物的最佳行動方案。
3) 減少所需頻寬。 這對於用於地球觀測的奈米衛星的用例尤其值得注意。 這些設備捕捉大圖像（幾個 GiB），但向地球發送訊息的速度非常低，這使得持續發送訊息以在地面基地進行處理是不可行的。 感謝計算在邊緣”，僅發送處理影像時獲得的資訊將很簡單，例如，由於檢測到火災或任何其他類型的危險事件而發出的緊急情況通知。
在技術層面上需要什麼？
為了應用這個範式，有兩個因素是必要的：
1） 特定嵌入式系統的開發 用於執行人工智慧應用。 儘管這些系統必須具有以下主要特徵： 高運算能力，他們還必須有一個 大小 減少 和 低能耗，被送入太空。 情況是這樣的 我們的 XE2 板，基於 Intel Movidius 開發的 Myriad 設備，我們在 Ubotica 將其用於與航空航天領域和工業 4.0 相關的所有類型的開發和解決方案，但也用於其他非常限制性的情況，例如 偵查保護區內的偷獵者.
2） 使用特定技術 這使得我們能夠在這個硬體中使用人工智慧系統，因為雖然運算能力很高，但由於尺寸和功耗的限制，很難獲得與 GPU 相同的效能。 這就是為什麼在許多情況下會使用更複雜系統中使用的模型的簡化版本，或者透過使用更少的位元來儲存浮點值來降低運算精度（例如，使用 FP16 而不是 FP32）或使用量化技術將可能值的數量減少到一個小集合（甚至整數值）。
在這種背景下我需要做些什麼？
正如我們所看到的，人工智慧“在邊緣「」正在蓬勃發展，已成為一個非常特殊的工作領域。 儘管僅憑硬體或人工智慧領域的知識就可以進入該領域，但我們這些從事該領域工作的人必須轉變為更多學科的背景。
就我的具體情況而言，由於最初專注於人工智慧領域，我有必要學會在設計和訓練智慧系統時考慮硬體限制。 其他專注於硬體的同事必須學會理解智慧型系統的操作，以便能夠在設備中整合和驗證它們。
這與當前歐洲大學學位的強化劃分相衝突，其中優先考慮特定分支的專業化，因此必要的額外培訓通常由學生本人或提供培訓的公司承擔。內部培訓或特定或一般性質的碩士學位，例如 ESI 的 MUII.
因此，我想以我總是對我的同事和學生進行的反思來結束這篇文章，這既是因為可能的多學科性，也是因為新技術的不斷出現，那就是 電腦科學畢業生必須具備的主要能力之一是能夠理解和學習新事物。.
referencias
[1] 麥卡洛克，W.S. 和皮茨，W. (1943)。 對神經活動中固有思想的邏輯演算。 數學生物物理學通報，5, 115-133。 [2] Goodfellow, I.、Bengio, Y. 與 Courville, A. (2016)。 深度學習。 麻省理工學院出版社。
