generated from LufsX/Challenge-kNN
114 lines
3.5 KiB
Python
114 lines
3.5 KiB
Python
# function.py
|
|
import numpy as np
|
|
|
|
"""
|
|
挑战说明:
|
|
- 自行编写实现 KNN 分类算法。
|
|
- 函数输入: 待分类的样本 inX, 训练数据集 dataSet, 训练集对应的标签 labels。
|
|
- 函数返回: 预测的分类标签。
|
|
|
|
注意事项:
|
|
- 可以自行导入其他库，需要在 requirements.txt 添加依赖，若未在 requirements.txt 中添加使用到的依赖，则无法自动评测，成绩为零。
|
|
- 在 function.py 中实现 KNN 分类算法。
|
|
- 自动评测脚本仅会加载 classify0 函数，请勿修改函数名。
|
|
- 训练集在本目录下的 datingTrainSet2.tsv 中。
|
|
- 评测数据集在本目录下的 datingTestSet2.tsv 中。
|
|
|
|
挑战环境:
|
|
- CPU: Intel Xeon(R) CPU E3-1231 v3 @ 3.40GHz
|
|
- OS: Ubuntu 22.04.4 LTS
|
|
- Python: 3.10.12
|
|
- numpy: 2.1.1
|
|
"""
|
|
|
|
|
|
"""
|
|
请在这里填写学号和姓名，不填写即成绩无效。
|
|
"""
|
|
id = "202210423130"
|
|
name = "董秋"
|
|
|
|
|
|
"""
|
|
参数说明:
|
|
- inX (numpy array): 输入待分类的样本。
|
|
- dataSet (numpy array): 训练数据集。
|
|
- labels (list or numpy array): 训练集对应的标签。
|
|
返回值:
|
|
- int: 预测的分类标签。
|
|
"""
|
|
|
|
|
|
# 这里写自己的代码实现
|
|
import operator
|
|
from collections import Counter
|
|
def classify0(inX, dataSet, labels, k=1):
|
|
"""
|
|
KNN 分类算法。
|
|
|
|
Args:
|
|
- inX (numpy array): 输入待分类的样本。
|
|
- dataSet (numpy array): 训练数据集。
|
|
- labels (list or numpy array): 训练集对应的标签。
|
|
- k (int): KNN 算法参数，请自行设置默认值，评测时仅会使用其默认值。
|
|
|
|
Returns:
|
|
- int: 预测的分类标签。
|
|
"""
|
|
inX = np.atleast_2d(inX)
|
|
|
|
# 计算训练数据集的均值向量
|
|
meanVec = np.mean(dataSet, axis=0)
|
|
|
|
# 计算训练数据集的协方差矩阵
|
|
covMat = np.cov(dataSet.T)
|
|
|
|
# 检查协方差矩阵是否可逆（理论上应该是可逆的，除非数据有问题）
|
|
if np.linalg.det(covMat) == 0:
|
|
raise ValueError("Covariance matrix is singular and cannot be inverted.")
|
|
|
|
# 计算协方差矩阵的逆矩阵
|
|
invCovMat = np.linalg.inv(covMat)
|
|
|
|
# 计算输入样本与每个训练样本之间的马氏距离
|
|
distances = []
|
|
for x_train in dataSet:
|
|
diff = inX - x_train # 计算差值向量
|
|
diff_T = diff.T # 转置差值向量（虽然这里diff是二维的，但转置是为了保持公式的一致性）
|
|
mahalanobis_dist = np.sqrt(np.dot(np.dot(diff_T, invCovMat), diff)) # 计算马氏距离
|
|
distances.append(mahalanobis_dist[0, 0]) # 将距离添加到列表中（注意取标量值）
|
|
|
|
# 将距离列表转换为NumPy数组以便排序
|
|
distances = np.array(distances)
|
|
|
|
# 按照距离排序，并获取最近的k个点的索引
|
|
sortedDistIndicies = distances.argsort()
|
|
|
|
# 使用Counter来统计每个类别的计数，这样可以直接得到最频繁的类别
|
|
classCount = Counter(labels[sortedDistIndicies[:k]])
|
|
|
|
# 返回出现次数最多的类别的标签
|
|
return classCount.most_common(1)[0][0]
|
|
|
|
|
|
|
|
|
|
def load_data(file_path):
|
|
"""
|
|
加载 TSV 格式数据文件。
|
|
"""
|
|
data = np.loadtxt(file_path, delimiter="\t")
|
|
features = data[:, :-1]
|
|
labels = data[:, -1].astype(int)
|
|
return features, labels
|
|
|
|
|
|
if __name__ == "__main__":
|
|
# 以下代码可用于测试，可自行随意修改
|
|
|
|
train_file = "datingTrainSet2.tsv"
|
|
|
|
train_data, train_labels = load_data(train_file)
|
|
|
|
print(classify0([65915, 3.868359, 0.128078], train_data, train_labels))
|