简单易学的机器学习算法——SVD奇异值分解

时间:2022-05-04
本文章向大家介绍简单易学的机器学习算法——SVD奇异值分解,主要内容包括一、SVD奇异值分解的定义、二、SVD奇异值分解与特征值分解的关系、三、SVD奇异值分解的作用和意义、五、实验的仿真、基本概念、基础应用、原理机制和需要注意的事项等,并结合实例形式分析了其使用技巧,希望通过本文能帮助到大家理解应用这部分内容。

一、SVD奇异值分解的定义

二、SVD奇异值分解与特征值分解的关系

    特征值分解与SVD奇异值分解的目的都是提取一个矩阵最重要的特征。然而,特征值分解只适用于方阵,而SVD奇异值分解适用于任意的矩阵,不一定是方阵。

三、SVD奇异值分解的作用和意义   

五、实验的仿真

    我们在手写体上做实验,原始矩阵为

原始矩阵

对应的图像为

对应图像

经过SVD分解后的奇异值矩阵为

部分奇异值矩阵

取前14个非零奇异值

前14个非零奇异值

还原原始矩阵B,还原后的图像为

还原后的图像

对比图像

对比图像

MATLAB代码

%% 测试奇异值分解过程
load data.mat;%该文件是做好的一个手写体的图片
B = zeros(28,28);%将行向量重新转换成原始的图片

for i = 1:28
    j = 28*(i-1)+1;
    B(i,:) = A(1,j:j+27);
end

%进行奇异值分解
[U S V] = svd(B);

%选取前面14个非零奇异值
for i = 1:14
    for j = 1:14
        S_1(i,j) = S(i,j);
    end
end

%左奇异矩阵
for i = 1:28
    for j = 1:14
        U_1(i,j) = U(i,j);
    end
end

%右奇异矩阵
for i = 1:28
    for j = 1:14
        V_1(i,j) = V(i,j);
    end
end

B_1 = U_1*S_1*V_1';

%同时输出两个图片
subplot(121);imshow(B);
subplot(122);imshow(B_1);

$(".MathJax").remove();