點擊上方「OpenCV與AI深度學習」，選擇加"星標"或「置頂」
重磅乾貨，第一時間送達
自動駕駛汽車可能仍然難以理解人類和垃圾桶之間的區別，但這並沒有使最先進的物體檢測模型在過去十年中取得的驚人進步相去甚遠。將其與 OpenCV 等庫的圖像處理能力相結合，如今在數小時內構建實時對象檢測系統原型要容易得多。在本指南中，我們將嘗試向您展示如何開發用於簡單對象檢測應用程式的子系統，以及如何將所有這些組合在一起。
我知道你們中的一些人可能會想，為什麼我們要使用Python，在某種程度上,它對於實時應用程式來說不是太慢了嗎。
大多數計算重操作，如預測或圖像處理，都是通過PyTrand和OpenCV來執行的，它們都使用C++在場景後面實現這些操作，因此，如果我們在這裡使用C++或Python，則不會有太大的差別。
輸入的視頻源可以是任何內容，從網絡攝像頭讀取，或解析現有視頻，或從連接到網絡的外部攝像頭。在此示例中，我們將展示如何從 youtube 或網絡攝像頭讀取視頻流。
你們可能不想出去創建新視頻，而是使用許多在線可用的視頻。在這種情況下，你們可以從 youtube 讀取視頻流。
import cv2 import pafy URL = "https://www.youtube.com/watch?v=dQw4w9WgXcQ" play = pafy.new(self._URL).streams[-1] assert play is not None stream = cv2.VideoCapture(play.url)
import cv2stream = cv2.VideoCapture(0)如果你們正在構建將部署在伺服器上的應用程式，攝像機擁有一個自己的 IP 地址，你可以從中訪問視頻流。
import cv2camera_ip = "rtsp://username:password@IP/port"stream = cv2.VideoCapture(camera_ip)
有許多不錯的對象檢測模型，每個模型都有其優點和缺點。為了簡單起見，我們將使用YoloV5，因為它為我們提供了對我們的實時應用程式至關重要的快速應用。你們還可以查看其他模型，例如 FasterRCNN。
我們可以直接從 PyTorch hub 加載模型，第一次運行代碼可能需要幾分鐘，因為它會從網際網路上下載模型，但下次它將直接從磁碟加載。
from torch import hub model = torch.hub.load( \ 'ultralytics/yolov5', \ 'yolov5s', \ pretrained=True)
我們可以說「解析一個視頻流，從一幀開始」。那麼讓我們看看如何對單個幀進行評分和解析。我們用來執行應用的設備對我們的應用速度產生了巨大的影響，現代深度學習模型在使用 GPU 時效果最好，因此如果你們有一個帶有 CUDA 內核的 GPU，它將大大提高您的性能。根據經驗，即使是單個 GPU 的系統也可以達到每秒 45-60 幀，而 CPU 最多只能提供 25-30 幀。
"""The function below identifies the device which is availabe to make the prediction and uses it to load and infer the frame. Once it has results it will extract the labels and cordinates(Along with scores) for each object detected in the frame."""def score_frame(frame, model): device = 'cuda' if torch.cuda.is_available() else 'cpu' model.to(device) frame = [torch.tensor(frame)] results = self.model(frame) labels = results.xyxyn[0][:, -1].numpy() cord = results.xyxyn[0][:, :-1].numpy() return labels, cord
一旦我們對幀進行了評分，在將幀寫入輸出流之前，我們需要在幀上繪製識別的對象及其框。為此，我們可以使用 OpenCV 的圖像處理工具包。
"""The function below takes the results and the frame as input and plots boxes over all the objects which have a score higer than our threshold."""def plot_boxes(self, results, frame): labels, cord = results n = len(labels) x_shape, y_shape = frame.shape[1], frame.shape[0] for i in range(n): row = cord[i] if row[4] < 0.2: continue x1 = int(row[0]*x_shape) y1 = int(row[1]*y_shape) x2 = int(row[2]*x_shape) y2 = int(row[3]*y_shape) bgr = (0, 255, 0) classes = self.model.names label_font = cv2.FONT_HERSHEY_SIMPLEX cv2.rectangle(frame, \ (x1, y1), (x2, y2), \ bgr, 2) cv2.putText(frame,\ classes[labels[i]], \ (x1, y1), \ label_font, 0.9, bgr, 2) return frame
現在我們將它們整合到一個調用函數中，在循環中執行整個操作，讓我們回顧一下我們的主要功能必須執行以成功運行應用程式的步驟。
"""The Function below oracestrates the entire operation and performs the real-time parsing for video stream."""def __call__(self): player = self.get_video_stream() assert player.isOpened() x_shape = int(player.get(cv2.CAP_PROP_FRAME_WIDTH)) y_shape = int(player.get(cv2.CAP_PROP_FRAME_HEIGHT)) four_cc = cv2.VideoWriter_fourcc(*"MJPG") out = cv2.VideoWriter(out_file, four_cc, 20, \ (x_shape, y_shape)) ret, frame = player.read() while rect: start_time = time() results = self.score_frame(frame) frame = self.plot_boxes(results, frame) end_time = time() fps = 1/np.round(end_time - start_time, 3) print(f"Frames Per Second : {fps}") out.write(frame) ret, frame = player.read()你們應該將所有這些組件打包到一個類中，該類可以與你們希望將輸出流寫入其中的 URL 和輸出文件一起調用。最終效果如下：
當然，生產級實時應用程式比這複雜得多，但本文並不打算教授這一點。它是為了展示 Python 的驚人力量，它使我們能夠在數小時內構建如此複雜的應用程式原型。
Github代碼連結：https://github.com/akash-agni
QQ學習交流群
覺得有用，麻煩給個贊和在看