目标跟踪学习笔记_1(opencv中meanshift和camshift例子的应用)

  1 #include "StdAfx.h"
  2 
  3 #include "opencv2/video/tracking.hpp"
  4 #include "opencv2/imgproc/imgproc.hpp"
  5 #include "opencv2/highgui/highgui.hpp"
  6 
  7 
  8 #include <iostream>
  9 #include <ctype.h>
 10 
 11 using namespace cv;
 12 using namespace std;
 13 
 14 Mat image;
 15 
 16 bool backprojMode = false; //表示是否要进入反向投影模式，ture表示准备进入反向投影模式
 17 bool selectObject = false;//代表是否在选要跟踪的初始目标，true表示正在用鼠标选择
 18 int trackObject = 0; //代表跟踪目标数目
 19 bool showHist = true;//是否显示直方图
 20 Point origin;//用于保存鼠标选择第一次单击时点的位置
 21 Rect selection;//用于保存鼠标选择的矩形框
 22 int vmin = 10, vmax = 256, smin = 30;
 23 
 24 void onMouse( int event, int x, int y, int, void* )
 25 {
 26     if( selectObject )//只有当鼠标左键按下去时才有效，然后通过if里面代码就可以确定所选择的矩形区域selection了
 27     {
 28         selection.x = MIN(x, origin.x);//矩形左上角顶点坐标
 29         selection.y = MIN(y, origin.y);
 30         selection.width = std::abs(x - origin.x);//矩形宽
 31         selection.height = std::abs(y - origin.y);//矩形高
 32 
 33         selection &= Rect(0, 0, image.cols, image.rows);//用于确保所选的矩形区域在图片范围内
 34     }
 35 
 36     switch( event )
 37     {
 38     case CV_EVENT_LBUTTONDOWN:
 39         origin = Point(x,y);
 40         selection = Rect(x,y,0,0);//鼠标刚按下去时初始化了一个矩形区域
 41         selectObject = true;
 42         break;
 43     case CV_EVENT_LBUTTONUP:
 44         selectObject = false;
 45         if( selection.width > 0 && selection.height > 0 )
 46             trackObject = -1;
 47         break;
 48     }
 49 }
 50 
 51 void help()
 52 {
 53     cout << "\nThis is a demo that shows mean-shift based tracking\n"
 54         "You select a color objects such as your face and it tracks it.\n"
 55         "This reads from video camera (0 by default, or the camera number the user enters\n"
 56         "Usage: \n"
 57         "    ./camshiftdemo [camera number]\n";
 58 
 59     cout << "\n\nHot keys: \n"
 60         "\tESC - quit the program\n"
 61         "\tc - stop the tracking\n"
 62         "\tb - switch to/from backprojection view\n"
 63         "\th - show/hide object histogram\n"
 64         "\tp - pause video\n"
 65         "To initialize tracking, select the object with mouse\n";
 66 }
 67 
 68 const char* keys = 
 69 {
 70     "{1|  | 0 | camera number}"
 71 };
 72 
 73 int main( int argc, const char** argv )
 74 {
 75     help();
 76 
 77     VideoCapture cap; //定义一个摄像头捕捉的类对象
 78     Rect trackWindow;
 79     RotatedRect trackBox;//定义一个旋转的矩阵类对象
 80     int hsize = 16;
 81     float hranges[] = {0,180};//hranges在后面的计算直方图函数中要用到
 82     const float* phranges = hranges;
 83     CommandLineParser parser(argc, argv, keys);//命令解析器函数
 84     int camNum = parser.get<int>("1");     
 85 
 86     cap.open(camNum);//直接调用成员函数打开摄像头
 87 
 88     if( !cap.isOpened() )
 89     {
 90         help();
 91         cout << "***Could not initialize capturing...***\n";
 92         cout << "Current parameter‘s value: \n";
 93         parser.printParams();
 94         return -1;
 95     }
 96 
 97     namedWindow( "Histogram", 0 );
 98     namedWindow( "CamShift Demo", 0 );
 99     setMouseCallback( "CamShift Demo", onMouse, 0 );//消息响应机制
100     createTrackbar( "Vmin", "CamShift Demo", &vmin, 256, 0 );//createTrackbar函数的功能是在对应的窗口创建滑动条，滑动条Vmin,vmin表示滑动条的值，最大为256
101     createTrackbar( "Vmax", "CamShift Demo", &vmax, 256, 0 );//最后一个参数为0代表没有调用滑动拖动的响应函数
102     createTrackbar( "Smin", "CamShift Demo", &smin, 256, 0 );//vmin,vmax,smin初始值分别为10,256,30
103 
104     Mat frame, hsv, hue, mask, hist, histimg = Mat::zeros(200, 320, CV_8UC3), backproj;
105     bool paused = false;
106 
107     for(;;)
108     {
109         if( !paused )//没有暂停
110         {
111             cap >> frame;//从摄像头抓取一帧图像并输出到frame中
112             if( frame.empty() )
113                 break;
114         }
115 
116         frame.copyTo(image);
117 
118         if( !paused )//没有按暂停键
119         {
120             cvtColor(image, hsv, CV_BGR2HSV);//将rgb摄像头帧转化成hsv空间的
121 
122             if( trackObject )//trackObject初始化为0,或者按完键盘的‘c‘键后也为0，当鼠标单击松开后为-1
123             {
124                 int _vmin = vmin, _vmax = vmax;
125 
126                 //inRange函数的功能是检查输入数组每个元素大小是否在2个给定数值之间，可以有多通道,mask保存0通道的最小值，也就是h分量
127                 //这里利用了hsv的3个通道，比较h,0~180,s,smin~256,v,min(vmin,vmax),max(vmin,vmax)。如果3个通道都在对应的范围内，则
128                 //mask对应的那个点的值全为1(0xff)，否则为0(0x00).
129                 inRange(hsv, Scalar(0, smin, MIN(_vmin,_vmax)),
130                     Scalar(180, 256, MAX(_vmin, _vmax)), mask);
131                 int ch[] = {0, 0};
132                 hue.create(hsv.size(), hsv.depth());//hue初始化为与hsv大小深度一样的矩阵，色调的度量是用角度表示的，红绿蓝之间相差120度，反色相差180度
133                 mixChannels(&hsv, 1, &hue, 1, ch, 1);//将hsv第一个通道(也就是色调)的数复制到hue中，0索引数组
134 
135                 if( trackObject < 0 )//鼠标选择区域松开后，该函数内部又将其赋值1
136                 {
137                     //此处的构造函数roi用的是Mat hue的矩阵头，且roi的数据指针指向hue，即共用相同的数据，select为其感兴趣的区域
138                     Mat roi(hue, selection), maskroi(mask, selection);//mask保存的hsv的最小值
139 
140                     //calcHist()函数第一个参数为输入矩阵序列，第2个参数表示输入的矩阵数目，第3个参数表示将被计算直方图维数通道的列表，第4个参数表示可选的掩码函数
141                     //第5个参数表示输出直方图，第6个参数表示直方图的维数，第7个参数为每一维直方图数组的大小，第8个参数为每一维直方图bin的边界
142                     calcHist(&roi, 1, 0, maskroi, hist, 1, &hsize, &phranges);//将roi的0通道计算直方图并通过mask放入hist中，hsize为每一维直方图的大小
143                     normalize(hist, hist, 0, 255, CV_MINMAX);//将hist矩阵进行数组范围归一化，都归一化到0~255
144 
145                     trackWindow = selection;
146                     trackObject = 1;//只要鼠标选完区域松开后，且没有按键盘清0键‘c‘，则trackObject一直保持为1，因此该if函数只能执行一次，除非重新选择跟踪区域
147 
148                     histimg = Scalar::all(0);//与按下‘c‘键是一样的，这里的all(0)表示的是标量全部清0
149                     int binW = histimg.cols / hsize;  //histing是一个200*300的矩阵，hsize应该是每一个bin的宽度，也就是histing矩阵能分出几个bin出来
150                     Mat buf(1, hsize, CV_8UC3);//定义一个缓冲单bin矩阵
151                     for( int i = 0; i < hsize; i++ )//saturate_case函数为从一个初始类型准确变换到另一个初始类型
152                         buf.at<Vec3b>(i) = Vec3b(saturate_cast<uchar>(i*180./hsize), 255, 255);//Vec3b为3个char值的向量
153                     cvtColor(buf, buf, CV_HSV2BGR);//将hsv又转换成bgr
154 
155                     for( int i = 0; i < hsize; i++ )
156                     {
157                         int val = saturate_cast<int>(hist.at<float>(i)*histimg.rows/255);//at函数为返回一个指定数组元素的参考值
158                         rectangle( histimg, Point(i*binW,histimg.rows),    //在一幅输入图像上画一个简单抽的矩形，指定左上角和右下角，并定义颜色，大小，线型等
159                             Point((i+1)*binW,histimg.rows - val),
160                             Scalar(buf.at<Vec3b>(i)), -1, 8 );
161                     }
162                 }
163 
164                 calcBackProject(&hue, 1, 0, hist, backproj, &phranges);//计算直方图的反向投影，计算hue图像0通道直方图hist的反向投影，并让入backproj中
165                 backproj &= mask;
166 
167                 //opencv2.0以后的版本函数命名前没有cv两字了，并且如果函数名是由2个意思的单词片段组成的话，且前面那个片段不够成单词，则第一个字母要
168                 //大写，比如Camshift，如果第一个字母是个单词，则小写，比如meanShift，但是第二个字母一定要大写
169                 meanShift(backproj, trackWindow,               //trackWindow为鼠标选择的区域，TermCriteria为确定迭代终止的准则
170                     TermCriteria( CV_TERMCRIT_EPS | CV_TERMCRIT_ITER, 10, 1 ));//CV_TERMCRIT_EPS是通过forest_accuracy,CV_TERMCRIT_ITER
171                 if( trackWindow.area() <= 1 )                                                  //是通过max_num_of_trees_in_the_forest  
172                 {
173                     int cols = backproj.cols, rows = backproj.rows, r = (MIN(cols, rows) + 5)/6;
174                     trackWindow = Rect(trackWindow.x - r, trackWindow.y - r,
175                         trackWindow.x + r, trackWindow.y + r) &
176                         Rect(0, 0, cols, rows);//Rect函数为矩阵的偏移和大小，即第一二个参数为矩阵的左上角点坐标，第三四个参数为矩阵的宽和高
177                 }
178 
179                 if( backprojMode )
180                     cvtColor( backproj, image, CV_GRAY2BGR );//因此投影模式下显示的也是rgb图？
181                 //ellipse( image, trackBox, Scalar(0,0,255), 3, CV_AA );//跟踪的时候以椭圆为代表目标
182                 rectangle(image,Point(trackWindow.x,trackWindow.y),Point(trackWindow.x+trackWindow.width,trackWindow.y+trackWindow.height),Scalar(0,0,255),-1,CV_AA);
183             }
184         }
185 
186         //后面的代码是不管pause为真还是为假都要执行的
187         else if( trackObject < 0 )//同时也是在按了暂停字母以后
188             paused = false;
189 
190         if( selectObject && selection.width > 0 && selection.height > 0 )
191         {
192             Mat roi(image, selection);
193             bitwise_not(roi, roi);//bitwise_not为将每一个bit位取反
194         }
195 
196         imshow( "CamShift Demo", image );
197         imshow( "Histogram", histimg );
198 
199         char c = (char)waitKey(10);
200         if( c == 27 )              //退出键
201             break;
202         switch(c)
203         {
204         case ‘b‘:             //反向投影模型交替
205             backprojMode = !backprojMode;
206             break;
207         case ‘c‘:            //清零跟踪目标对象
208             trackObject = 0;
209             histimg = Scalar::all(0);
210             break;
211         case ‘h‘:          //显示直方图交替
212             showHist = !showHist;
213             if( !showHist )
214                 destroyWindow( "Histogram" );
215             else
216                 namedWindow( "Histogram", 1 );
217             break;
218         case ‘p‘:       //暂停跟踪交替
219             paused = !paused;
220             break;
221         default:
222             ;
223         }
224     }
225     return 0;
226 }