generated from LufsX/Challenge-kNN
108 lines
3.0 KiB
Python
108 lines
3.0 KiB
Python
# function.py
|
|
import numpy as np
|
|
|
|
"""
|
|
挑战说明:
|
|
- 自行编写实现 KNN 分类算法。
|
|
- 输入: 待分类的样本 inX, 训练数据集 dataSet, 训练集对应的标签 labels。
|
|
- 输出: 预测的分类标签。
|
|
|
|
注意事项:
|
|
- 可以自行导入其他库，需要在 requirements.txt 添加依赖，若未在 requirements.txt 中添加使用到的依赖，则无法自动评测，成绩为零。
|
|
- 在 function.py 中实现 KNN 分类算法。
|
|
- 自动评测脚本仅会加载 classify0 函数，请勿修改函数名。
|
|
- 训练集在本目录下的 datingTrainSet2.tsv 中。
|
|
- 评测数据集在本目录下的 datingTestSet2.tsv 中。
|
|
|
|
挑战环境:
|
|
- Ubuntu 22.04.04 LTS
|
|
- Python 3.10.12
|
|
"""
|
|
|
|
|
|
"""
|
|
请在这里填写学号和姓名，不填写即成绩无效。
|
|
"""
|
|
id = "202210423xxx"
|
|
name = "向兴宇"
|
|
|
|
|
|
"""
|
|
参数说明:
|
|
- inX (numpy array): 输入待分类的样本。
|
|
- dataSet (numpy array): 训练数据集。
|
|
- labels (list or numpy array): 训练集对应的标签。
|
|
返回值:
|
|
- int: 预测的分类标签。
|
|
"""
|
|
|
|
|
|
# 这里写自己的代码实现
|
|
def classify0(inX, dataSet, labels, k=8):
|
|
"""
|
|
KNN 分类算法。
|
|
|
|
Args:
|
|
- inX (numpy array): 输入待分类的样本。
|
|
- dataSet (numpy array): 训练数据集。
|
|
- labels (list or numpy array): 训练集对应的标签。
|
|
|
|
Returns:
|
|
- int: 预测的分类标签。
|
|
"""
|
|
# 计算数据集的协方差矩阵的逆
|
|
VI = np.linalg.inv(np.cov(dataSet.T))
|
|
|
|
# 计算 inX 与数据集的差值
|
|
diff = dataSet - inX
|
|
|
|
# 使用矩阵运算计算马氏距离
|
|
distances = np.sqrt(np.sum(diff @ VI * diff, axis=1))
|
|
|
|
# 对距离排序，获取前 k 个最近的样本索引
|
|
sortedDistIndices = np.argsort(distances)
|
|
|
|
# 统计前 k 个样本的标签
|
|
classCount = np.bincount(labels[sortedDistIndices[:k]])
|
|
|
|
# 返回出现次数最多的标签
|
|
return np.argmax(classCount)
|
|
|
|
|
|
def load_data(file_path):
|
|
"""
|
|
加载 TSV 格式数据文件。
|
|
"""
|
|
data = np.loadtxt(file_path, delimiter="\t")
|
|
features = data[:, :-1]
|
|
labels = data[:, -1].astype(int)
|
|
return features, labels
|
|
|
|
|
|
if __name__ == "__main__":
|
|
# 以下代码可用于测试，可自行随意修改
|
|
|
|
# 加载训练集和测试集
|
|
train_file = "datingTrainSet2.tsv"
|
|
test_file = "datingTestSet2.tsv"
|
|
|
|
train_data, train_labels = load_data(train_file)
|
|
test_data, test_labels = load_data(test_file)
|
|
|
|
for j in range(20):
|
|
correct = 0
|
|
total = len(test_data)
|
|
|
|
for i in range(total):
|
|
# 获取测试数据中的每个样本
|
|
result = classify0(test_data[i], train_data, train_labels, k=j + 1)
|
|
if result == test_labels[i]:
|
|
correct += 1
|
|
# else:
|
|
# print(
|
|
# f"第 {i+1} 次测试错误，数据 {test_data[i]} 被分类到 {result} 实际是 {test_labels[i]}"
|
|
# )
|
|
if correct >= 96:
|
|
print(f"KNN 分类算法，k={j+1}")
|
|
print(f"{correct}% 正确率")
|