diff --git a/function.py b/function.py index 7e9a95a..d831ec0 100644 --- a/function.py +++ b/function.py @@ -1,59 +1,65 @@ # function.py import numpy as np - -""" -挑战说明: -- 自行编写实现 KNN 分类算法。 -- 函数输入: 待分类的样本 inX, 训练数据集 dataSet, 训练集对应的标签 labels。 -- 函数返回: 预测的分类标签。 - -注意事项: -- 可以自行导入其他库,需要在 requirements.txt 添加依赖,若未在 requirements.txt 中添加使用到的依赖,则无法自动评测,成绩为零。 -- 在 function.py 中实现 KNN 分类算法。 -- 自动评测脚本仅会加载 classify0 函数,请勿修改函数名。 -- 训练集在本目录下的 datingTrainSet2.tsv 中。 -- 评测数据集在本目录下的 datingTestSet2.tsv 中。 - -挑战环境: -- CPU: Intel Xeon(R) CPU E3-1231 v3 @ 3.40GHz -- OS: Ubuntu 22.04.4 LTS -- Python: 3.10.12 -- numpy: 2.1.1 -""" - +import os """ 请在这里填写学号和姓名,不填写即成绩无效。 """ id = "202210423102" -name = "test_周佳成" +name = "周佳成" +import numpy as np -""" -参数说明: -- inX (numpy array): 输入待分类的样本。 -- dataSet (numpy array): 训练数据集。 -- labels (list or numpy array): 训练集对应的标签。 -- k (int): kNN 算法参数,请**自行设置默认值**,评测时仅会使用其默认值,不修改默认值将**无法通过**评测,**成绩为零**。 -返回值: -- int: 预测的分类标签。 -""" - - -# 这里写自己的代码实现 -def classify0(inX, dataSet, labels, k=0): +def mahalanobis_distance(x1, x2, cov_inv, mean): """ - KNN 分类算法。 + 计算两点之间的马氏距离。 + + Args: + x1 (numpy array): 第一个点。 + x2 (numpy array): 第二个点。 + cov_inv (numpy array): 协方差矩阵的逆矩阵。 + mean (numpy array): 数据集的均值。 + + Returns: + float: 两点之间的马氏距离。 + """ + delta = x1 - x2 + dist = delta @ cov_inv @ delta.T + return np.sqrt(dist) + +def classify0(inX, dataSet, labels, k=3): + """ + 使用马氏距离的 KNN 分类算法。 Args: - inX (numpy array): 输入待分类的样本。 - dataSet (numpy array): 训练数据集。 - labels (list or numpy array): 训练集对应的标签。 - - k (int): kNN 算法参数,请**自行设置默认值**,评测时仅会使用其默认值,不修改默认值将**无法通过**评测,**成绩为零**。 + - k (int): kNN 算法参数,默认值为 3。 Returns: - int: 预测的分类标签。 """ + # 计算训练数据集的协方差矩阵和均值 + cov_matrix = np.cov(dataSet, rowvar=False) + mean = np.mean(dataSet, axis=0) + cov_inv = np.linalg.inv(cov_matrix + np.eye(cov_matrix.shape[0]) * 1e-5) # 加上一个小的单位矩阵以避免奇异矩阵 + + # 计算待分类样本与训练集中每个样本的马氏距离 + distances = np.array([mahalanobis_distance(inX, x, cov_inv, mean) for x in dataSet]) + + # 获取距离最近的 k 个样本的索引 + sortedDistIndices = distances.argsort()[:k] + + # 获取这些样本对应的标签 + classCount = {} + for i in sortedDistIndices: + voteLabel = labels[i] + classCount[voteLabel] = classCount.get(voteLabel, 0) + 1 + + # 选择出现次数最多的标签作为预测标签 + sortedClassCount = sorted(classCount.items(), key=lambda x: x[1], reverse=True) + return sortedClassCount[0][0] def load_data(file_path): @@ -68,9 +74,10 @@ def load_data(file_path): if __name__ == "__main__": # 以下代码可用于测试,可自行随意修改 - train_file = "datingTrainSet2.tsv" - train_data, train_labels = load_data(train_file) - print(classify0([65915, 3.868359, 0.128078], train_data, train_labels)) + # 测试一个样本 + test_sample = np.array([65915, 3.868359, 0.128078]) + predicted_label = classify0(test_sample, train_data, train_labels) + print(f"The predicted label for the test sample is: {predicted_label}") \ No newline at end of file