generated from LufsX/Experiment-kNN
This commit is contained in:
+25
-20
@@ -1,20 +1,22 @@
|
||||
import numpy as np
|
||||
import os
|
||||
from sklearn.preprocessing import StandardScaler
|
||||
|
||||
|
||||
"""
|
||||
实验说明:
|
||||
- 自行编写实现数据加载与 kNN 的手写数字分类算法。
|
||||
- 函数输入: 待分类的样本 input_vector, 训练数据集 dataSet, 训练集对应的标签 labels。
|
||||
- 自行编写实现数据加载与kNN的手写数字分类算法。
|
||||
- 函数输入: 待分类的样本input_vector, 训练数据集dataSet, 训练集对应的标签labels。
|
||||
- 函数返回: 预测的分类标签。
|
||||
|
||||
注意事项:
|
||||
- 在 function.py 中实现 kNN 分类算法。
|
||||
- 可以自行导入其他库,需要在 requirements.txt 添加依赖,若未在 requirements.txt 中添加使用到的依赖,则无法自动评测,成绩为零。
|
||||
- 自动评测脚本仅会加载 classify 和 load_data 函数,请勿修改函数名。
|
||||
- 在function.py中实现kNN分类算法。
|
||||
- 可以自行导入其他库,需要在requirements.txt添加依赖,若未在requirements.txt中添加使用到的依赖,则无法自动评测,成绩为零。
|
||||
- 自动评测脚本仅会加载classify和load_data函数,请勿修改函数名。
|
||||
- 训练集和测试集需手动下载解压,并放入当前目录下。
|
||||
|
||||
测评环境:
|
||||
- CPU: Intel Xeon(R) CPU E3-1231 v3 @ 3.40GHz
|
||||
- CPU: Intel Xeon(R) CPU E3 - 1231 v3 @ 3.40GHz
|
||||
- OS: Ubuntu 22.04.4 LTS
|
||||
- Python: 3.10.12
|
||||
- numpy: 2.1.1
|
||||
@@ -28,34 +30,35 @@ id = "202210423117"
|
||||
name = "程悦"
|
||||
|
||||
|
||||
def classify(input_vector, dataSet, labels, k=2):
|
||||
def classify(input_vector, dataSet, labels, k = 2):
|
||||
"""
|
||||
KNN 分类算法。
|
||||
KNN分类算法。
|
||||
|
||||
Args:
|
||||
- input_vector (numpy array): 输入待分类的样本。
|
||||
- dataSet (numpy array): 训练数据集。
|
||||
- labels (list or numpy array): 训练集对应的标签。
|
||||
- k (int): kNN 算法参数,请**自行设置默认值**,评测时仅会使用其默认值,不修改默认值将**无法通过**评测,**成绩为零**。
|
||||
- k (int): kNN算法参数,请**自行设置默认值**,评测时仅会使用其默认值,不修改默认值将**无法通过**评测,**成绩为零**。
|
||||
|
||||
Returns:
|
||||
- int: 预测的分类标签。
|
||||
"""
|
||||
sigma = 1.0
|
||||
dataSet_size = dataSet.shape[0]
|
||||
# 计算欧氏距离
|
||||
# 计算马氏距离
|
||||
cov_matrix = np.cov(dataSet.T)
|
||||
inv_cov_matrix = np.linalg.inv(cov_matrix)
|
||||
diff_mat = np.tile(input_vector, (dataSet_size, 1)) - dataSet
|
||||
sq_diff_mat = diff_mat ** 2
|
||||
sq_distances = sq_diff_mat.sum(axis = 1)
|
||||
distances = np.sqrt(sq_distances)
|
||||
distances = []
|
||||
for i in range(dataSet_size):
|
||||
distance = np.sqrt(np.dot(np.dot(diff_mat[i], inv_cov_matrix), diff_mat[i].T))
|
||||
distances.append(distance)
|
||||
distances = np.array(distances)
|
||||
# 对距离进行排序
|
||||
sorted_indices = distances.argsort()
|
||||
class_count = {}
|
||||
for i in range(k):
|
||||
vote_label = labels[sorted_indices[i]]
|
||||
# 计算权重,这里使用高斯核函数
|
||||
weight = np.exp(- sq_distances[sorted_indices[i]] / (2 * sigma ** 2))
|
||||
class_count[vote_label] = class_count.get(vote_label, 0)+ weight
|
||||
class_count[vote_label] = class_count.get(vote_label, 0) + 1
|
||||
sorted_class_count = sorted(class_count.items(), key = lambda x: x[1], reverse = True)
|
||||
return sorted_class_count[0][0]
|
||||
|
||||
@@ -63,7 +66,7 @@ def classify(input_vector, dataSet, labels, k=2):
|
||||
def img_to_vector(filename):
|
||||
"""
|
||||
将二值图像转换为向量。
|
||||
该部分应为 load_dataset 函数的辅助子函数,可单独在这里实现,也可直接集成至 load_dataset 函数中。
|
||||
该部分应为load_dataset函数的辅助子函数,可单独在这里实现,也可直接集成至load_dataset函数中。
|
||||
|
||||
Args:
|
||||
- filename (str): 图像文件路径。
|
||||
@@ -99,11 +102,13 @@ def load_dataset(directory):
|
||||
label = int(file.split('_')[0])
|
||||
labels.append(label)
|
||||
data_set.append(img_to_vector(os.path.join(root, file)))
|
||||
return np.array(data_set).reshape(len(data_set), -1), np.array(labels)
|
||||
data_set = np.array(data_set).reshape(len(data_set), - 1)
|
||||
scaler = StandardScaler()
|
||||
data_set = scaler.fit_transform(data_set)
|
||||
return data_set, np.array(labels)
|
||||
|
||||
|
||||
if __name__ == "__main__":
|
||||
# 以下代码可用于测试,可自行随意修改
|
||||
train_data, train_labels = load_dataset("trainingDigits")
|
||||
|
||||
test_data = (
|
||||
|
||||
Reference in New Issue
Block a user