generated from LufsX/Experiment-kNN
129 lines
4.0 KiB
Python
129 lines
4.0 KiB
Python
import numpy as np
|
|
import os
|
|
from collections import Counter
|
|
from sklearn.preprocessing import MinMaxScaler
|
|
|
|
"""
|
|
请在这里填写学号和姓名，不填写即成绩无效。
|
|
"""
|
|
id = "202210423210"
|
|
name = "陈宇杰"
|
|
|
|
"""
|
|
函数名称: load_data
|
|
功能: 加载训练数据集和测试数据集。
|
|
参数:
|
|
- directory (str): 包含手写数字图像的文件夹路径。
|
|
返回值:
|
|
- dataSet (numpy array): 训练数据集或测试数据集，shape 为 (m, 1024)。
|
|
- labels (numpy array): 训练集或测试集对应的标签，shape 为 (m,)。
|
|
"""
|
|
def load_data(directory):
|
|
file_list = os.listdir(directory)
|
|
data_matrix = []
|
|
labels = []
|
|
|
|
for file_name in file_list:
|
|
file_path = os.path.join(directory, file_name)
|
|
# 读取txt文件并将其转化为向量
|
|
vector = img_to_vector(file_path)
|
|
data_matrix.append(vector)
|
|
# 假设文件名格式为：{数字}_某些字符.txt，提取数字作为标签
|
|
label = int(file_name.split('_')[0])
|
|
labels.append(label)
|
|
|
|
return np.array(data_matrix), np.array(labels)
|
|
|
|
"""
|
|
函数名称: img_to_vector
|
|
功能: 将32x32的二值图像转换为1x1024的向量。
|
|
参数:
|
|
- file_path (str): 图像文件的路径。
|
|
返回值:
|
|
- vector (numpy array): 转换后的1x1024的向量。
|
|
"""
|
|
def img_to_vector(file_path):
|
|
vector = np.zeros((1, 1024))
|
|
with open(file_path, 'r') as f:
|
|
lines = f.readlines()
|
|
for i in range(32):
|
|
for j in range(32):
|
|
vector[0, 32 * i + j] = int(lines[i][j])
|
|
return vector
|
|
|
|
"""
|
|
函数名称: classify
|
|
功能: 使用kNN算法对输入样本进行分类。
|
|
参数:
|
|
- input_vector (numpy array): 输入待分类的样本，shape 为 (1024,)。
|
|
- dataSet (numpy array): 训练数据集，shape 为 (m, 1024)。
|
|
- labels (list or numpy array): 训练集对应的标签，shape 为 (m,)。
|
|
- k (int): kNN 算法的参数，默认值为3。
|
|
返回值:
|
|
- int: 预测的分类标签。
|
|
"""
|
|
def classify(input_vector, dataSet, labels, k=3):
|
|
# 计算欧氏距离
|
|
distances = np.linalg.norm(dataSet - input_vector, axis=1)
|
|
# 获取距离最近的k个样本的标签
|
|
nearest_neighbors = np.argsort(distances)[:k]
|
|
nearest_labels = labels[nearest_neighbors]
|
|
|
|
# 确保 nearest_labels 是一维的，转换为 Python 列表
|
|
nearest_labels = nearest_labels.flatten().tolist()
|
|
|
|
# 投票，返回出现次数最多的标签
|
|
most_common = Counter(nearest_labels).most_common(1)
|
|
return most_common[0][0]
|
|
|
|
"""
|
|
函数名称: normalize_data
|
|
功能: 对数据进行归一化处理，将特征缩放到相同范围，通常是 [0, 1]。
|
|
参数:
|
|
- dataSet (numpy array): 需要归一化的训练数据集或测试数据集。
|
|
返回值:
|
|
- normalized_dataSet (numpy array): 归一化后的数据集。
|
|
"""
|
|
def normalize_data(dataSet):
|
|
# 将数据集 reshape 成二维数组
|
|
num_samples = dataSet.shape[0]
|
|
dataSet_reshaped = dataSet.reshape(num_samples, -1)
|
|
|
|
# 对数据进行归一化处理
|
|
scaler = MinMaxScaler()
|
|
return scaler.fit_transform(dataSet_reshaped)
|
|
|
|
"""
|
|
实验主程序:
|
|
- 加载训练集和测试集。
|
|
- 测试 kNN 算法的分类效果，并计算分类精度。
|
|
"""
|
|
def main():
|
|
# 加载训练集和测试集
|
|
training_data, training_labels = load_data('trainingDigits')
|
|
test_data, test_labels = load_data('testDigits')
|
|
|
|
# 归一化数据
|
|
training_data = normalize_data(training_data)
|
|
test_data = normalize_data(test_data)
|
|
|
|
# 测试 kNN 算法
|
|
total_tests = len(test_data)
|
|
correct_predictions = 0
|
|
|
|
for i in range(total_tests):
|
|
test_sample = test_data[i]
|
|
prediction = classify(test_sample, training_data, training_labels, k=3)
|
|
actual_label = test_labels[i]
|
|
|
|
print(f"测试样本 {i+1}: 预测值 = {prediction}, 实际值 = {actual_label}")
|
|
|
|
if prediction == actual_label:
|
|
correct_predictions += 1
|
|
|
|
accuracy = correct_predictions / total_tests * 100
|
|
print(f"\n分类精度: {accuracy:.2f}%")
|
|
|
|
if __name__ == '__main__':
|
|
main()
|