一種基於服務機器人的視覺系統設計

2021-01-10 電子產品世界

隨著計算機科學和自動控制技術的發展,越來越多的不同種類的智慧機器人出現在工廠、生活當中,機器人視覺系統作為智慧機器人系統中一個重要的子系統,也越來越受到人們的重視。它涉及了圖像處理、模式識別和視覺跟蹤等領域。不同種類的機器人由於工作的重點不一樣,它的視覺系統在軟體或硬體上都有著細微的差別。本文研究基於服務機器人的單目視覺系統。它處理的是二維圖像,是基於對無遮擋物體顏色和形狀的識別以及3D目標物體的平動跟蹤。

本文引用地址:http://www.eepw.com.cn/article/201612/332358.htm

  視覺系統是一個非常複雜的系統,它既要做到圖像的準確採集還要做到對外界變化反應的實時性,同時還需要對外界運動的目標實時跟蹤。因此,視覺系統對硬體和軟體系統都提出了較高的要求。目前比較流行的足球機器人技術,它的視覺系統屬於比較典型的快速識別和反應類型。一般情況下,它是通過彩色標誌定標的方法來達到對隊員和目標的識別,以及通過擴展卡爾曼濾波器的預測功能來實現對目標的跟蹤功能。在硬體上,採用一個現成的攝像機來實現一個機器人的圖像採集系統。

  本系統在設計上採用CMOS圖像傳感器代替CCD類型傳感器進行採集圖像,DSP處理晶片TMS320VC5509A進行圖像處理以及作為CPU控制,在設計過程中,為了直觀顯現機器人視覺系統識別和跟蹤的效果,專門採用了一個TFT格式的液晶來直觀顯示。軟體上,採用了一部分足球機器人的視覺技術來達到對目標的快速識別,通過全局的特徵矩構建的雅可比矩陣達到對目標的自適應跟蹤。

  1 硬體部分設計

  圖1為系統硬體電路的功能模塊框圖

  

  1.1 圖像採集

  視覺鏡頭把外部的圖像信息成像在圖像傳感器的面陣單元上。目前流行的圖像傳感器有面陣CCD(Charged Coupled Device,電荷耦合器件)型和面陣CMOS兩種。相比較CCD型的圖像傳感器,CMOS圖像傳感器的有源像素單元為每一個像素提供了放大器,只需一個單供電低邏輯電平電壓,功耗只相當於CCD的十分之一。CMOS圖像傳感器內部集成了A/D轉換部分,直接輸出數位訊號。基於這些因素,本系統採用了Omnivision公司推出的CMOS彩色圖像傳感器OV7635。

  OV7635的分辨力為640X480,能輸出3種格式的8位數據:YCbCr4:2:2模式、RGB4:2:2模式和RGB原始數據模式。輸出VGA格式最大可達到30fps(fps:每秒幀數)。能工作在逐行掃描下和隔行掃描下。OV7635有主模式和從模式兩種工作模式。在主模式下,同步信號和時鐘不由外圍設備控制。在從模式下,OV7635的場同步信號VSYNC,行同步信號HREF以及系統的晶振頻率XCLK均由外部設備控制。本系統採用的是主模式。OV7635通過I2C總線配置片內寄存器,使其輸出原始數據。系統上電復位後,由DSP晶片的I2C總線信號對CMOS寄存器初始化。然後OV7635就按要求輸出圖像信號。包括行同步信號HREF,場同步信號VSYNC,像素時鐘信號PCLK,數字圖像信號。

  1.2 液晶顯示

  為了很直觀的看到視覺系統對人的識別和跟蹤效果,採用了一片INNOLUX公司的PT035TN01液晶顯示屏。為了不增加對DSP的負擔,同時也為了實時看到對外界目標物體的跟蹤效果,液晶顯示的數據不經由DSP,直接通過傳感器OV7635輸出的圖像數據信號和CPLD控制時序來進行顯示。PT035TN01是3.5英寸TFT格式的液晶,分辨力為320×3(RGB)×240,液晶IF1、IF2兩輸入控制腳對輸入的數據格式進行選擇:串行RGB格式、CCIR601格式、CCIR656格式。液晶的掃描模式有4種。本視覺系統採用的輸入數據格式是CCIR601格式,掃描模式為由上到下和左到右的掃描模式。

  在CCIR601格式下,圖像傳感器輸出的像素時鐘PCLK通過CPLD二分頻作為液晶的工作時鐘,圖像傳感器輸出的行同步信號HREF經過CPLD的處理後作為液晶的行同步信號HIS,這樣,在CPLD控制下,圖像傳感器OV7635輸出的數據信號送入液晶中進行顯示。

  1.3 時序控制

  OV7635輸出的場同步信號VSYNC,行同步信號HREF以及像素時鐘信號PCLK接至CPLD晶片,產生控制信號把OV7635輸出的數據信號存入FIFO幀存儲器AL422B中,以及產生液晶的時鐘和行同步信號控制液晶的顯示。CPLD採用了ALTERA公司的EPM7064晶片。在CPLD中完成了對FIFO的寫控制、通知DSP讀信號、液晶的時鐘信號的產生等功能。

  CPLD接收場同步信號VSYNC,此信號的下降沿表示圖像傳感器輸出一幀的開始,此時CPLD產生WRST負脈衝復位FIFO的寫指針。場同步信號VSYNC下降沿後,判斷行同步信號HREF的上升沿到來,接著利用像素時鐘信號PCLK作為寫時鐘WCK將圖像數據直接存儲到FIFO中,當存到一定的數後,就及時發信號給DSP,以便DSP讀取數據,本系統採用的是一個中斷INT0來通知DSP。此時DSP可以讀數據也可以不讀,視處理的速度來定。讀數據時,可利用RD和片選,產生RCK信號。DSP讀取的速度不能太快,以讀取速度小於寫速度為原則。

  在對液晶的邏輯時序控制上,由於圖像輸出的信號是640×480的像素,而液晶的顯示為320×240的格式。所以利用CPLD把圖像傳感器輸入的像素時鐘信號PCLK進行二分頻產生液晶的時鐘信號控制液晶的顯示,同時對行同步信號進行隔行有效從而達到液晶對圖像的顯示。CPLD中的程序編寫用的採用了硬體描述語言VHDL,在QUARTUSⅡ軟體平臺上進行編寫的。由於在選用晶片時採用的是EPM7064S系列的44腳PLCC封裝的,只能工作在5V電壓情況下,其輸出的高電平信號是5V,必須通過處理才能接入系統中工作在3。3V狀態下的晶片器件。

  1.4 幀存儲器選擇

  幀存儲器有需要外部提供地址線的RAM和不需要外部提供地址線的FIFO,為了簡化CPLD的設計。採用了FIFO的幀存儲器。FIFO又可以分為基於動態存儲的DRAM和基於靜態的SRAM。基於靜態SRAM的優點是不需要刷新電路,但容量小,需要多片才能存儲一幀數據;基於DRAM的優點是容量大,只需一片就能存儲一幀數據,缺點是必須有刷新電路。本設計中採用的是Averlogic公司的大容量FIFO動態存儲晶片AL422B。其刷新電路比較簡單,僅需WCK或RCK提供大於1M的不間斷脈衝即可。AL422B的存儲容量為3MB,由於系統一幀的信息通常包含640×480個彩色像素,每個像素佔用2個字節,可存儲1幀圖像的完整信息,其工作頻率可達50MHz。

  1.5 視頻處理DSP

  在選用DSP時,在兼顧處理速度,存儲容量,現有條件下的加工工藝水平,以及性價比方面,選用了TI公司的144腳封裝的TMS320VC5509A,此晶片的最高工作頻率可達到200MHz,具有很高的處理速度。

  DSP收到來自CPLD的讀通知信號後開始讀取AL422B中的視頻數據。為了方便處理數據,在DSP外圍擴展了一個的SDRAM。晶片採用的是HYNIX公司的HY57V161610E,此晶片的存儲容量為1M×16bits。

  當DSP上電復位後,通過採樣GPIO0~GPIO3的狀態,根據採樣的狀態來進行什麼樣方式的程序裝載。本系統的採用外接的flash存儲晶片的SPI口對DSP進行程序裝載,接著通過DSP的I2C口對圖像傳感器進行寄存器初始化。圖像傳感器開始輸出信號。整個系統開始進入工作。

  DSP作為高速的處理器,主要用於圖像的處理。由於本視覺系統要完成識別和跟蹤功能,數據的處理量是很大的。在完成圖像處理的同時,DSP也作為控制器使用完成對控制器的控制,從而構成視覺跟蹤系統。

  2 軟體部分設計

  由於本系統採用的是顏色和形狀相結合的辦法對無遮擋目標物體的識別。為了達到機器人實時快速的目的,在軟體方法上,主要採用了目前常用的足球機器人的顏色識別方法,目前比較常見是基於閾值向量的顏色判斷法。下面簡述顏色識別原理。

  2.1 色彩空間選擇

  對於採用基於彩色圖像分割的方法識別目標時,首先要選擇合適的顏色空間,常用的顏色空間有RGB、YUV、HSV、CMY等。顏色空間的選擇直接影響到圖像分割和目標識別的效果。

  RGB:是最常用的顏色空間,其中亮度等於R、G、B3個分量之和。RGB顏色空間是不均勻的顏色空間,兩個顏色之間的知覺差異與空間中兩點間的歐氏距離不成線性比例,而且R、G、B值之間的相關性很高,對同一顏色屬性,在不同條件(光源種類、強度和物體反射特性)下,RGB值很分散,對於識別某種特定顏色,很難確定其閾值和其在顏色空間中的分布範圍。因此通常會選擇能從中分離出亮度分量的顏色空間,其中最常見的是YUV和HSV顏色空間。

  HSV:接近人眼感知色彩的方式,H為色調(Hue),S為色飽和度(Saturation),V為亮度(Value)。色調H能準確地反映顏色種類,對外界光照條件變化敏感度低,但是H和S均為R、G、B的非線性變換,存在奇異點,在奇異點附近即使R、G、B的值有很小變化也引起變換值有很大的跳動。

  YUV:RGB顏色空間線性變化為的亮度-色彩空間。是為了解決彩色電視機與黑白電視機的兼容問題而提出的。Y表示亮度(Luminance),UV用來表示色差(Chrominance)。YUV表示法的重要性是它的亮度信號(Y)和色度信號(U、V)是相互獨立的。所謂色差是指基色信號中的3個分量信號(即R、G、B)與亮度信號之差。

  因此,針對以上原因,本系統在採用的是YUV色彩空間。

  YUV格式與RGB存在如下關係:

  

  2.2 閾值確定和色彩判斷

  在確定閾值時,首先通過採集樣本進行訓練,從而得到預定的幾種顏色在YUV空間的分量的上下閾值,如圖2所示。

  

  當一個待判定的像素在色彩空間中的位置落在這個長方體中時,就認為該像素屬於要找的顏色,從而完成對圖像顏色的識別。在Y空間中,Y值表示亮度,因它的變化很大,所以只考慮了U和V的值,在進行顏色判斷時,首先分別建立U、V的閾值向量。

  由於在系統中圖像傳感器的數位訊號是8位,即1Byte,共255Byte,系統最多能判定8種顏色。在顏色識別後進行圖像分割,在圖像分割中採用了種子填充算法,其整個種子的填充是和像素點的顏色同時進行的,一開始不是對所有的像素進行處理,而是分塊進行的,本系統採用的塊是32×24像素,這樣計算量大大減小。當中心點是所要識別的顏色時,就以這個點為種子向四周擴散,並判定周圍像素點的顏色,直到填滿整個塊。在這過程中,同時對目標進行形狀識別。本系統採用了基於全局的特徵向量的識別算法來進行識別。同時也為構建雅可比矩陣得到需要的矩特徵量。圖3為圖像識別分割流程圖。

  

  2.3 視覺跟蹤軟體原理

  當目標物體被識別以後,視覺系統將調整鏡頭使目標位於視野的中心。一旦物體運動,視覺系統將進行對目標物體的跟蹤。

  在機器人視覺跟蹤系統上,採用無定標的視覺跟蹤系統。無定標的視覺跟蹤不需要事先對攝像鏡頭進行定標,而是應用自適應控制方面的原理,在線的實時調整圖像雅可比矩陣。通過二維的圖像特徵信息反饋,這種方式對攝像機模型誤差和機器人模型誤差、圖像誤差、圖像噪聲不敏感。基於圖像跟蹤的視覺跟蹤控制系統,如圖4。

  

  控制量c為機器人頭部的控制系統。首先把目標放在機器人視野的前方採集到期望的圖像,從期望圖像中抽取期望的特徵集,作為視野跟蹤控制系統的期望輸入,從而完成任務需要的視野特徵集定義。在實時控制系統中,由機器人的圖像傳感器獲取實時採樣圖像,從中獲取實時特徵集,這樣構成一個視野反饋,引導機器人完成跟蹤任務。區別於圖像的簡單幾何特徵,本系統選用的視覺特徵集為全局的圖像描述—圖像矩。

  根據矩特徵變化量與相對位姿變化量之間的關係矩陣,即圖像雅可比矩陣,然後利用推導的圖像雅可比矩陣,設計了視覺跟蹤控制器,完成系統對3D目標物體的平動跟蹤。

  3 實驗結果

  圖5為DSP為clkout腳輸出波形,表明DSP的內部時鐘電路工作正常。圖6的圖像傳感器輸出數據波形證明了圖像傳感器工作正常。圖7的DSP採集到的圖像數據,可以確定整個圖像採集硬體電路工作正常。

  

  4 結 論

  針對服務機器人的視覺系統,本文通過構建它的硬體系統和軟體系統完成了整個系統的設計。在硬體系統上,採用了CMOS圖像傳感器,CPLD時序控制,異步動態FIFO的數據緩存,以及高速DSP處理器構成了一個典型的圖像採集系統,並調試輸出了圖像信號。在軟體設計上,採用了足球機器人的彩色識別和彩色分割識別技術去完成視覺系統快速準確的識別,採用基於動態的工作方式以及採用基於圖像的雅可比矩陣的控制原理,去實現自適應補償跟蹤控制系統。

相關焦點

  • 一種基於機器視覺的結構光三維掃描系統
    計算機視覺檢測技術具有操作、維護簡單,測量速度快,精度高,測量範圍廣等眾多無可比擬的優點,被認為是檢測技術領域中最具有發展潛力的技術。機器視覺被稱為自動化的眼睛,在國民經濟、科學研究及國防建設上都有著廣泛的應用。機器視覺不但可以實現無接觸觀測,還可以長時間保持精度,因此,機器視覺系統可以廣泛應用於長時間的、惡劣的環境。 在此探討了線性結構光三維掃描系統的特點。
  • 基於Julius的機器人語音識別系統構建
    本文針對現有機器人平臺,設計一個非特定人的孤立詞語音識別系統。  1 語音識別原理及JuliUS簡介  1.1 基於HMM的語音識別原理  語音識別系統是一種模式識別系統,系統首先對語音信號進行分析,得到語音的特徵參數,然後對這些參數進行處理,形成標準的模板。這個過程稱為訓練或學習。當有測試語音進入系統時,系統將對這些語音信號進行處理,然後進行參考模板的匹配,得出結果。
  • 一種基於STM32的力反饋型康復機器人控制系統設計
    康復醫療機器人不僅是當前機器人研究的前沿,而且是涉及自動控制、計算機、智能儀器、機械學、康復醫學、神經科學等跨學科的研究領域,是一個新興學科。康復醫療機器人的研究具有重要的科學意義。基於上肢康復訓練的要求,筆者研製一種基於STM32的力反饋型上肢康復訓練系統。在設計控制系統時,保證系統的安全性與穩定性是最基本的原則⑷。
  • 工業機器人堆垛視覺系統詳解
    學習就必須依靠自身的器官,除腦以外,最重要的就是我們的眼睛了,(工業)機器人也不例外,要完成正常的生產任務,沒有一套完善的,先進的視覺系統是很難完成指定工作的。本文以工業機器人手部視覺系統為例,詳細講解了視覺系統實現的原理。
  • 3D雙目立體視覺在機器人視覺的應用
    慧眼自動化科技(廣州)有限公司具有專業的機器視覺系統研發技術,為此開發了一套3D雙目視覺軟體系統,該系統搭載兩個工業相機,精確的計算出後底板的六個空間坐標XYZWPR,並將坐標發送給機器人,成功為客戶解決了這一難題。
  • 基於DSP與FPGA的機器人聲控系統設計方案
    1 引言本文引用地址:http://www.eepw.com.cn/article/273867.htm  機器人聽覺系統主要是對人的聲音進行語音識別並做出判斷,然後輸出相應的動作指令控制頭部和手臂的動作,傳統的機器人聽覺系統一般是以PC機為平臺對機器人進行控制,其特點是用一臺計算機作為機器人的信息處理核心通過接口電路對機器人進行控制,雖然處理能力比較強大,語音庫比較完備
  • 基於SC6121晶片的足球機器人紅外線通信系統
    摘要:針對足球機器人的特點,提出一種基於SC6121晶片的紅外線通信系統設計方案,它比以往基於晶片M50462的紅外線通信系統有更多的優點。
  • 讓機器人眼明腦快的奧秘:嵌入式視覺系統
    為了實現這個目標,中科院自動化所高技術創新中心主任原魁研究員率領團隊潛心攻關,長期專注於智慧機器人關鍵技術研究與應用,在高性能嵌入式機器人視覺系統、視覺導引AGV技術、工業機器人自動編程技術等方面取得了突出的創新成效。
  • 首個基於計算機視覺解決圖書館盤點的AI機器人圖書館書童驚豔亮相
    打開APP 首個基於計算機視覺解決圖書館盤點的AI機器人圖書館書童驚豔亮相 工程師青青 發表於 2018-10-01 08:44:00
  • 基於機器視覺的汽車智能駕駛系統
    而機器視覺技術融合三維測量和圖像識別技術於一身。  目前,機器視覺在智慧機器人領域的研究熱火朝天:Klaus Fleischer等人提出的基於機器視覺的城外公路基礎設施固定對象的檢測與跟蹤;D. Brzakovie等人提出道路邊緣檢測在移動機器人導航中應用 ; O.Djekoune等人提出基於神經網絡的視覺引導機器人導航。
  • 基於USB通信的印製電路板AOI視覺檢測系統
    AOI系統按技術劃分為精密機械、電氣控制、視覺系統、軟體系統4大部分組成,其核心是一套基於CMOS或CCD的圖像採集系統、交流伺服控制x、y工作檯及圖像處理軟體系統。圖1為所設計的PCB板AOI檢測系統框圖。
  • 深入了解機器人視覺系統的工作原理和應用
    人類要實現一系列基本活動,如生活、工作、學習必須依靠自己的器官,除了大腦外,最重要的是我們的眼睛,(工業)機器人也不例外,要完成正常的生產任務,沒有一套完美的、先進的視覺系統是很難想像的。機器視覺系統是用機器代替人眼進行各種測量和判斷。它是計算部分的一個重要分支。
  • 基於DSP和FPGA的機器人聲控系統設計與實現
    機器人聽覺系統主要是對人的聲音進行語音識別並做出判斷,然後輸出相應的動作指令控制頭部和手臂的動作,傳統的機器人聽覺系統一般是以pc機為平臺對機器人進行控制,其特點是用一臺計算機作為機器人的信息處理核心通過接口電路對機器人進行控制,雖然處理能力比較強大,語音庫比較完備,系統更新以及功能拓展比較容易,但是比較笨重,不利於機器人的小型化和複雜條件下進行工作,此外功耗大、成本高。
  • 基於單片機及傳感器的機器人設計與實現
    摘要: 本設計基於單片機及多種傳感器,完成了一個自主式移動機器人的製作。單片機作為系統檢測和控制的核心,實現對機器人小車的智能控制。本文針對具有引導線環境下的路徑跟蹤這一熱點問題,基於單片機控制及傳感器原理,通過硬體電路製作和軟體編程,製作了一個機器人,實現了機器人的路徑跟蹤和自動糾偏的功能,並能探測金屬,實時顯示距離。
  • 基於USB通信的印製電路板AOI視覺檢測系統*
    所設計系統成功用於印製電路板AOI視覺檢測系統中。  AOI,也稱為自動視覺檢測,是基於光學原理,綜合採用圖像分析、計算機和自動控制等多種技術,對生產中遇到的缺陷進行檢測和處理,是較新的確認製造缺陷的方法。AOI系統按技術劃分為精密機械、電氣控制、視覺系統、軟體系統4大部分組成,其核心是一套基於CMOS或CCD的圖像採集系統、交流伺服控制x、y工作檯及圖像處理軟體系統。圖1為所設計的PCB板AOI檢測系統框圖。
  • 足球機器人電磁擊球系統設計
    足球機器人在比賽中採用全視覺和無線通信方式,由雙方的主控機控制的足球機器人在特定的場地進行全自主模式比賽,既是一個典型的智能足球機器人系統,又是一個多機器人之間合作和對抗的生動的研究模型。其中的理論技術可應用於國防事業、工業生產、救援、教育等領域,從而有效推動國家科技、經濟和安全等各方面的發展。 機器人踢球和人踢球的最大共同點都是隊員能夠越過對方的阻礙,順利地把球踢進對方的球門。
  • 一種基於Robocup F-180小型組足球機器人的無線通信系統
    摘要:介紹了一種用於Robocup F-180小型組足球機器人比賽的無線通信系統的設計。包括發送端和接收端系統的硬體設計和實現及其軟體設計。給出了一種適應於這套系統的通信協議,包括物理層的編碼設計、糾錯編碼設計和幀結構設計。
  • 分揀 整理 機器人 零件_視覺分揀機器人 - CSDN
    工業機器人配備視覺、力覺、觸覺等傳感器進行測量、識別,判斷作業條件的變化。此外,由於已有的通用晶片在功能和性能上不能完全滿足某些機器人系統在價格、性能、集成度和接口等方面的要求,這就產生了機器人系統對SoC(Systemon Chip)技術的需求,將特定的處理器與所需要的接口集成在一起,可簡化系統外圍電路的設計,縮小系統尺寸,並降低成本。
  • 移動機器人的幾種視覺算法 | 雷鋒網公開課
    ,大家第一印象可能是服務機器人,實際上無人駕駛汽車、可自主飛行的無人機等等都屬於移動機器人範疇。它們能和人一樣能夠在特定的環境下自由行走/飛行,都依賴於各自的定位導航、路徑規劃以及避障等功能,而視覺算法則是實現這些功能關鍵技術。雷鋒網雷鋒網(公眾號:雷鋒網)雷鋒網如果對移動機器人視覺算法進行拆解,你就會發現獲取物體深度信息、定位導航以及壁障等都是基於不同的視覺算法,本期硬創公開就帶大家聊一聊幾種不同但又必不可少的視覺算法組成。
  • 基於ATCA AVP系統的高端機器視覺應用的解決方案
    基於ATCA AVP系統的高端機器視覺應用的解決方案 黃怡暾,凌華科技 發表於 2021-01-15 10:31:10   作者:黃怡暾,凌華科技工業計算機產品部 機器視覺的市場應用日益增加