generated from LufsX/Challenge-kNN
126 lines
3.6 KiB
Python
126 lines
3.6 KiB
Python
# function.py
|
|
import numpy as np
|
|
import pandas as pd
|
|
from sklearn.preprocessing import StandardScaler
|
|
|
|
"""
|
|
挑战说明:
|
|
- 自行编写实现 KNN 分类算法。
|
|
- 函数输入: 待分类的样本 inX, 训练数据集 dataSet, 训练集对应的标签 labels。
|
|
- 函数返回: 预测的分类标签。
|
|
|
|
注意事项:
|
|
- 可以自行导入其他库，需要在 requirements.txt 添加依赖，若未在 requirements.txt 中添加使用到的依赖，则无法自动评测，成绩为零。
|
|
- 在 function.py 中实现 KNN 分类算法。
|
|
- 自动评测脚本仅会加载 classify0 函数，请勿修改函数名。
|
|
- 训练集在本目录下的 datingTrainSet2.tsv 中。
|
|
- 评测数据集在本目录下的 datingTestSet2.tsv 中。
|
|
|
|
挑战环境:
|
|
- CPU: Intel Xeon(R) CPU E3-1231 v3 @ 3.40GHz
|
|
- OS: Ubuntu 22.04.4 LTS
|
|
- Python: 3.10.12
|
|
- numpy: 2.1.1
|
|
"""
|
|
|
|
|
|
"""
|
|
请在这里填写学号和姓名，不填写即成绩无效。
|
|
"""
|
|
id = "202210423213"
|
|
name = "熊浩燃"
|
|
|
|
|
|
"""
|
|
参数说明:
|
|
- inX (numpy array): 输入待分类的样本。
|
|
- dataSet (numpy array): 训练数据集。
|
|
- labels (list or numpy array): 训练集对应的标签。
|
|
- k (int): kNN 算法参数，请**自行设置默认值**，评测时仅会使用其默认值，不修改默认值将**无法通过**评测，**成绩为零**。
|
|
返回值:
|
|
- int: 预测的分类标签。
|
|
"""
|
|
|
|
|
|
# 这里写自己的代码实现
|
|
def classify0(inX, dataSet, labels, k=3):
|
|
"""
|
|
KNN 分类算法，使用马氏距离。
|
|
|
|
Args:
|
|
- inX (numpy array): 输入待分类的样本。
|
|
- dataSet (numpy array): 训练数据集。
|
|
- labels (list or numpy array): 训练集对应的标签。
|
|
- k (int): kNN 算法参数，默认值为 3。
|
|
|
|
Returns:
|
|
- int: 预测的分类标签。
|
|
"""
|
|
# 标准化数据
|
|
scaler = StandardScaler()
|
|
dataSet = scaler.fit_transform(dataSet)
|
|
inX = scaler.transform([inX])[0]
|
|
|
|
# 计算协方差矩阵的逆
|
|
cov_matrix = np.cov(dataSet, rowvar=False)
|
|
inv_cov_matrix = np.linalg.inv(cov_matrix)
|
|
|
|
# 计算马氏距离
|
|
diff = dataSet - inX
|
|
distances = np.sqrt(np.sum(diff @ inv_cov_matrix * diff, axis=1))
|
|
|
|
# 按距离排序并返回 k 个最近的标签
|
|
sorted_indices = distances.argsort()
|
|
nearest_labels = [labels[i] for i in sorted_indices[:k]]
|
|
|
|
# 找出出现次数最多的标签
|
|
label_counts = np.bincount(nearest_labels)
|
|
return label_counts.argmax()
|
|
|
|
def load_data(file_path):
|
|
"""
|
|
加载 TSV 格式数据文件。
|
|
"""
|
|
data = pd.read_csv(file_path, sep='\t', header=None).values
|
|
features = data[:, :-1]
|
|
labels = data[:, -1].astype(int)
|
|
return features, labels
|
|
|
|
def find_best_k(X_train, y_train):
|
|
"""
|
|
寻找最佳 k 值。
|
|
"""
|
|
best_k = 1
|
|
best_accuracy = 0
|
|
|
|
for k in range(1, 21):
|
|
# 使用 classify0 进行预测
|
|
y_pred = [classify0(x, X_train, y_train, k) for x in X_train]
|
|
accuracy = np.mean(y_pred == y_train)
|
|
|
|
if accuracy > best_accuracy:
|
|
best_accuracy = accuracy
|
|
best_k = k
|
|
|
|
return best_k, best_accuracy
|
|
|
|
if __name__ == "__main__":
|
|
train_file = "datingTestSet2.tsv"
|
|
X, y = load_data(train_file)
|
|
|
|
# 标准化特征
|
|
scaler = StandardScaler()
|
|
X = scaler.fit_transform(X)
|
|
|
|
# 寻找最佳 k 值
|
|
best_k, best_accuracy = find_best_k(X, y)
|
|
|
|
# 输出最佳 k 值和对应的准确率
|
|
print(f"最佳 k 值: {best_k}, 准确率: {best_accuracy:.2f}")
|
|
|
|
# 进行预测
|
|
sample = np.array([65915, 3.868359, 0.128078])
|
|
sample = scaler.transform([sample])[0] # 标准化样本
|
|
predicted_label = classify0(sample, X, y, best_k)
|
|
print(f"预测结果: {predicted_label}")
|