diff --git a/function.py b/function.py index e3c9529..9ce8bed 100644 --- a/function.py +++ b/function.py @@ -39,60 +39,47 @@ name = "严锡好" - int: 预测的分类标签。 """ -# 这里写自己的代码实现 -def mahalanobis_distance(x1, x2, cov_inv, mean): - """ - 计算两点之间的马氏距离。 - - Args: - x1 (numpy array): 第一个点。 - x2 (numpy array): 第二个点。 - cov_inv (numpy array): 协方差矩阵的逆矩阵。 - mean (numpy array): 数据集的均值。 - - Returns: - float: 两点之间的马氏距离。 - """ - delta = x1 - x2 - dist = np.dot(delta, np.dot(cov_inv, delta.T)) # 使用 dot 函数进行矩阵乘法 - return np.sqrt(dist) -def classify0(inX, dataSet, labels, k=3, cov_inv=None, mean=None): +def classify0(inX, dataSet, labels, k=3): """ 使用马氏距离的 KNN 分类算法。 - + Args: - inX (numpy array): 输入待分类的样本。 - dataSet (numpy array): 训练数据集。 - labels (list or numpy array): 训练集对应的标签。 - k (int): kNN 算法参数,默认值为 3。 - cov_inv (numpy array): 协方差矩阵的逆矩阵,如果为 None,则需要重新计算。 - mean (numpy array): 数据集的均值,如果为 None,则需要重新计算。 - + - inX (numpy array): 输入待分类的样本。 + - dataSet (numpy array): 训练数据集。 + - labels (list or numpy array): 训练集对应的标签。 + - k (int): kNN 算法参数,默认值为 3。 + Returns: - int: 预测的分类标签。 + - int: 预测的分类标签。 """ - if cov_inv is None or mean is None: # 如果没有提供协方差逆矩阵或均值,则计算它们 - cov_matrix = np.cov(dataSet, rowvar=False) - mean = np.mean(dataSet, axis=0) - cov_inv = np.linalg.inv(cov_matrix + np.eye(cov_matrix.shape[0]) * 1e-5) # 加上一个小的单位矩阵以避免奇异矩阵 + # 计算样本数量和特征数量 + numSamples, numFeatures = dataSet.shape - # 使用向量化操作计算所有样本与待分类样本之间的马氏距离 - diff = dataSet - mean # 预先计算所有样本与均值的差 - dist = np.sum(diff * cov_inv[None, :, :] * diff[:, None, :], axis=2) + # 计算马氏距离 + # 首先计算训练集的均值和协方差矩阵 + meanVals = np.mean(dataSet, axis=0) + covMat = np.cov(dataSet, rowvar=False) - # 获取距离最近的 k 个样本的索引 - sortedDistIndices = np.argsort(dist)[:, :k] + # 计算待分类样本与训练集中每个样本的马氏距离 + inXMinusMean = inX - meanVals + dist = np.sqrt(np.dot(inXMinusMean.T, np.linalg.inv(covMat)).dot(inXMinusMean)) - # 使用 defaultdict 来简化类别计数逻辑 - classCount = defaultdict(int) - for idx in sortedDistIndices: - classCount[labels[idx]] += 1 + # 获取距离最近的k个样本的索引 + sortedDistIndices = np.argsort(dist) + classCount = {} - # 选择出现次数最多的标签作为预测标签 + # 遍历距离最近的k个样本 + for i in range(k): + voteIlabel = labels[sortedDistIndices[i]] + # 统计每个类别的票数 + classCount[voteIlabel] = classCount.get(voteIlabel, 0) + 1 + + # 选择票数最多的类别作为预测标签 sortedClassCount = sorted(classCount.items(), key=lambda x: x[1], reverse=True) return sortedClassCount[0][0] + def load_data(file_path): """ 加载 TSV 格式数据文件。 @@ -102,26 +89,13 @@ def load_data(file_path): labels = data[:, -1].astype(int) return features, labels -def prepare_data(dataSet): - """ - 计算训练数据集的协方差矩阵的逆矩阵和均值。 - - Args: - dataSet (numpy array): 训练数据集。 - - Returns: - tuple: 包含均值和协方差矩阵的逆矩阵的元组。 - """ - cov_matrix = np.cov(dataSet, rowvar=False) - mean = np.mean(dataSet, axis=0) - cov_inv = np.linalg.inv(cov_matrix + np.eye(cov_matrix.shape[0]) * 1e-5) - return mean, cov_inv if __name__ == "__main__": + # 以下代码可用于测试,可自行随意修改 train_file = "datingTrainSet2.tsv" train_data, train_labels = load_data(train_file) - mean, cov_inv = prepare_data(train_data) # 预先计算均值和协方差逆矩阵 + # 测试一个样本 test_sample = np.array([65915, 3.868359, 0.128078]) - predicted_label = classify0(test_sample, train_data, train_labels, k=3, cov_inv=cov_inv, mean=mean) + predicted_label = classify0(test_sample, train_data, train_labels) print(f"The predicted label for the test sample is: {predicted_label}") \ No newline at end of file