人工智能实战 第6次作业 郑浩

项目	内容
这个作业属于哪个课程	人工智能实战 2019（北京航空航天大学）
这个作业的要求在哪里	人工智能实战第六次作业（个人）
我在这个课程的目标是	了解人工智能的基础理论知识，锻炼实践能力
这个作业在哪个具体方面帮助我实现目标	了解参数的影响，学习调参
作业正文	见下文
其他参考文献	无

1.作业要求

• 将模型准确度调整至>97%
• 整理形成博客，博客中给出参数列表和对应值
• 给出最终的loss下降曲线
• 给出最终准确度结果

2.参数调节

• 调节learning rate

n_hidden1=64，n_hidden2=32，m_epoch = 2，batch_size = 10

learning_rate | accuracy rate |

• | - |
  0.1 | 0.9634 |
  0.15 | 0.9648 |
  0.2 | 0.9665 |
  0.25 | 0.9612 |
  0.3 | 0.9623 |
  0.4 | 0.9622 |

可见，准确率大概在learning rate=0.2时最大。

• 调节batch_size

n_hidden1=64，n_hidden2=32，m_epoch = 2，learning_rate=0.2

batch_size | accuracy rate |

• | - |
  5 | 0.9595 |
  8 | 0.9626 |
  10 | 0.9653 |
  13 | 0.9632 |
  15 | 0.9606 |
  20 | 0.9623 |

可见，准确率大概在batch_size=10时最大。

• 调节n_hidden1、n_hidden2

learning_rate=0.2，m_epoch = 2，batch_size = 10

n_hidden1 | n_hidden2 | accuracy rate |

• | - | - |
  32 | 16 | 0.9587 |
  64 | 16 | 0.9644 |
  64 | 32 | 0.9665 |
  128 | 16 | 0.961 |
  128 | 32 | 0.9631 |
  128 | 64 | 0.963 |

可见，准确率大概在n_hidden1=64，n_hidden2=32时最大。

• 调节m_epoch

n_hidden1=64，n_hidden2=32，batch_size = 10，learning_rate=0.2

m_epoch | accuracy rate |

• | - |
  2 | 0.9636 |
  5 | 0.9682 |
  10 | 0.971 |
  15 | 0.9727 |
  20 | 0.9783 |

可见，m_epoch越大，准确率越高。这里取到20。

3.结果

learning_rate=0.2，batch_size = 10，n_hidden1=64，n_hidden2=32，m_epoch=20

Loss曲线：

得到的准确率：

rate=9783 / 10000 = 0.9783