surf特征+FLANN特征匹配+knn筛选匹配点+单应性矩阵映射
using namespace cv;
using namespace std;
int main( )
{
Mat img_1 = imread( "C:\\temp\\PyramidPattern.jpg", CV_LOAD_IMAGE_GRAYSCALE );
Mat img_2 = imread( "C:\\temp\\PyramidPatternTest.bmp", CV_LOAD_IMAGE_GRAYSCALE );
if( !img_1.data || !img_2.data )
{ return -1; }
//-- Step 1: Detect the keypoints using SURF Detector
int minHessian = 400;
SurfFeatureDetector detector( minHessian );
vector<KeyPoint> keypoints_1, keypoints_2;
detector.detect( img_1, keypoints_1 );
detector.detect( img_2, keypoints_2 );
//-- Step 2: Calculate descriptors (feature vectors)
SurfDescriptorExtractor extractor;
Mat descriptors_1, descriptors_2;
extractor.compute( img_1, keypoints_1, descriptors_1 );
extractor.compute( img_2, keypoints_2, descriptors_2 );
//-- Step 3: Matching descriptor vectors using FLANN matcher
FlannBasedMatcher matcher;
vector< DMatch > matches;
vector<vector<DMatch>> m_knnMatches;
matches.clear();
const float minRatio=1.f / 1.5f;
matcher.knnMatch(descriptors_1,descriptors_2,m_knnMatches,2);
for (int i=0; i<m_knnMatches.size(); i++)
{
const DMatch& bestMatch=m_knnMatches[i][0];
const DMatch& betterMatch=m_knnMatches[i][1];
float distanceRatio=bestMatch.distance/betterMatch.distance;
if (distanceRatio<minRatio)
{
matches.push_back(bestMatch);
}
}
vector< DMatch > good_matches;
if(!matches.size())
{
cout<<"matches is empty! "<<endl;
return -1;
}
else if (matches.size()<4)
{
cout<<matches.size()<<" points matched is not enough "<<endl;
}
else //单应性矩阵的计算最少得使用4个点
{
for( int i = 0; i < matches.size(); i++ )
{
good_matches.push_back(matches[i]);
}
Mat img_matches;
drawMatches( img_1, keypoints_1, img_2, keypoints_2,
good_matches, img_matches, Scalar::all(-1), Scalar::all(-1),
vector<char>(), DrawMatchesFlags::NOT_DRAW_SINGLE_POINTS );
//☆★☆★☆★☆★☆★☆★☆★☆★☆★☆★☆★☆★☆★☆★☆★☆★
//-- Localize the object from img_1 in img_2
vector<Point2f> obj;
vector<Point2f> scene;
for( int i = 0; i < good_matches.size(); i++ )
{
//-- Get the keypoints from the good matches
obj.push_back( keypoints_1[ good_matches[i].queryIdx ].pt );
scene.push_back( keypoints_2[ good_matches[i].trainIdx ].pt );
}
Mat H = findHomography( obj, scene, CV_RANSAC );
//-- Get the corners from the image_1 ( the object to be "detected" )
vector<Point2f> obj_corners(4);
obj_corners[0]=cvPoint(0,0);
obj_corners[1]=cvPoint( img_1.cols, 0 );
obj_corners[2]=cvPoint(img_1.cols,img_1.rows);
obj_corners[3]=cvPoint(0,img_1.rows);
vector<Point2f> scene_corners(4);
perspectiveTransform( obj_corners, scene_corners, H);
for( int i = 0; i < 4; i++ )
{
/* 作用和perspectiveTransform一样
double x = obj_corners[i].x;
double y = obj_corners[i].y;
double Z = 1./( H.at<double>(2,0)*x + H.at<double>(2,1)*y + H.at<double>(2,2) );
double X = ( H.at<double>(0,0)*x + H.at<double>(0,1)*y + H.at<double>(0,2) )*Z;
double Y = ( H.at<double>(1,0)*x + H.at<double>(1,1)*y + H.at<double>(1,2) )*Z;
scene_corners[i] = cvPoint( cvRound(X) + img_1.cols, cvRound(Y) );*/
scene_corners[i].x+=img_1.cols;
}
line( img_matches, scene_corners[0], scene_corners[1], Scalar(0, 255, 0), 2 );
line( img_matches, scene_corners[1], scene_corners[2], Scalar( 0, 255, 0), 2 );
line( img_matches, scene_corners[2], scene_corners[3], Scalar( 0, 255, 0), 2 );
line( img_matches, scene_corners[3], scene_corners[0], Scalar( 0, 255, 0), 2 );
imshow( "Good Matches & Object detection", img_matches );
}
waitKey(0);
return 0;
}
附带一些知识点:
图像特征:
1.边界
2.角点(兴趣点)
3.斑点(兴趣区域)
角点是图像的一个局部特征,常用的有harris角点,其算法是一种直接基于灰度图像的,稳定性高,尤其对L型角点检测精度高,但由于采用了高斯滤波,运算速度相对较慢,角点信息有丢失和位置偏移的现象,而且角点提取有聚簇现象。具体在OpenCV中的实现就是使用函数cornerHarris。
除了Harris角点检测,还有Shi-Tomasi角点检测,goodFeaturesToTrack角点检测,将找到的点再用FindCornerSubPix()来找出强特征点。也可以自己制作角点检测的函数,需要用到cornerMinEigenVal函数和minMaxLoc函数,最后的特征点选取,判断条件要根据自己的情况编辑。如果对特征点,角点的精度要求更高,可以用cornerSubPix函数将角点定位到子像素。
OpenCV仿射变换、投影变换的重要函数
estimateRigidTransform():计算多个二维点对或者图像之间的最优仿射变换矩阵 (2行x3列),H可以是部分自由度,比如各向一致的切变。
getAffineTransform():计算3个二维点对之间的仿射变换矩阵H(2行x3列),自由度为6.
warpAffine():对输入图像进行仿射变换
findHomography: 计算多个二维点对之间的最优单映射变换矩阵 H(3行x3列) ,使用最小均方误差或者RANSAC方法 。
getPerspectiveTransform():计算4个二维点对之间的透射变换矩阵 H(3行x3列)
warpPerspective(): 对输入图像进行透射变换
perspectiveTransform():对二维或者三维矢量进行透射变换,也就是对输入二维坐标点或者三维坐标点进行投射变换。
estimateAffine3D:计算多个三维点对之间的最优三维仿射变换矩阵H (3行x4列)
transform():对输入的N维矢量进行变换,可用于进行仿射变换、图像色彩变换.
findFundamentalMat:计算多个点对之间的基矩阵H。
cvStereoCalibrate():中T类型要求了3*1,对与其他形参float和double都支持
cvStereoRectigy():只支持double类型
cvStereoRectifyUncalibrated():立体校正算法Hartley算法效果和F矩阵及图像数量有关,
ps:
【如果用cvStereoCalibrate()函数计算处理的F矩阵效果和Bouguet算法(cvStereoRectigy())效果一样】
【如果用cvFindFundamentalMat()函数计算F矩阵,没有Bougut算法好】
【用Hartley算法(cvStereoRectifyUncalibrated())校正时,别忘了实现要用cvUndistortPoints()去除相机畸变,Bouguet算法(cvStereoRectigy())没有这个要求,实际上它在函数内部校正了相机的畸变。】
Q&A:
问题1:如何计算3个二维点对之间的仿射变换矩阵?
答:使用getAffineTransform()。
问题2:如何计算多个二维点对之间的仿射变换矩阵(使用误差最小准则 )?
答:使用estimateRigidTransform()。
问题3:如何计算多个二维点对之间的投影变换矩阵(使用误差最小准则 )
答:findHomography()。
问题4:如何计算4个二维点对之间的透射变换?
答:使用getPerspectiveTransform()。
问题5:如何计算多个三维点对之间的仿射变换?
答:使用estimateAffine3D。
问题6:如何对输入图像进行仿射变换?
答:使用warpAffine()。
问题7:如何对输入图像进行透射变换?
答:使用perspectiveTransform()。
问题8:如何对输入的二维点对进行仿射变换?
答:使用transform()。
问题9:如何对输入的三维点对进行投影变换?
答:使用perspectiveTransform()。
注意:
1. 使用findHomography接口获取两张图之间的单应性矩阵H,获得的结果不具有可逆性。举例来说,两张图M1和M2,那么调用findHomography(M1, M2, CV_RANSAC, 4)得到的矩阵H12和findHomography(M2, M1, CV_RANSAC, 4)得到的矩阵H21不具有可逆关系,即:H12的逆不等于H21,H12和H21的逆存在一定的误差,这个误差的产生是因为这个单应性矩阵的求取本身就是采用了RANSAC算法,得到的估算矩阵,是个估算值,所以存在误差。