为什么要 Jython

现在有许多语言实现了 Java VM. 下面的这些介绍将 Jython 其他的语言实现中区分开来:

• 动态地编译成 Java 字节码
• 扩展Java原有Class的能力
• 能创建多中类型的程序
• 具有Bean的属性
• Python 的语法

为什么 Jython 做得非常好?

• Prototyping
• Java investigation

  •     >>> from java.util import Date
    
            >>> d = Date()
    
            >>> print d
    
            Sat Jan 08 16:26:16 CST 2005
    
            >>> from java.util import Random
    
            >>> print dir(Random)
    
            ['__init__', 'nextBoolean', 'nextBytes', 'nextDouble', 'nextFloat',
    
            'nextGaussian', 'nextInt', 'nextLong', 'seed', 'setSeed']
    
            >>>
    
            

• Making bean properties accessible

  •     >>> print Date().time
    
            1105500911121
    
            

• Glues together libraries already written in Java
• Excellent embedded scripting language
  • Object Domain UML Tool

  • PushToTest

  • Drools

Python & Jython 的区别

Python

• C
• Multi-platform
• Compiles to .pyc
• Extend with C

• GIL ¹

• Python Garbage Collection

Jython

• 100% Java
• Any JVM (currently 1.1+)
• Compiles to .class
• Extend with Java
• Truly multi-threaded
• Java garbage collection

介绍

组合优化算法用于解决在一个解空间非常大的情况下快速地求解近似解。这类算法可用于资源管理，操作管理，质量控制等等问题，并且可以在有效的时间里给出一个足够好的近似解。

常见的启发算法有：simulated annealing, tabu search, harmony search, scatter search, genetic algorithms, ant colony optimization等等。在这篇文章中，我们将讨论simulated annealing（模拟退火算法）和他在解决TSP（旅行商）问题中的实际应用。

背景

模拟退火算法来源于固体退火原理，将固体加温至充分高，再让其徐徐冷却，加温时，固体内部粒子随温升变为无序状，内能增大，而徐徐冷却时粒子渐趋有序，在每个温度都达到平衡态，最后在常温时达到基态，内能减为最小。所以，模拟退火算法的目标就是通过一个目标函数来随机搜索。（这也是所有启发搜索算法的一个共性）

模拟退火算法的优势在于能够有效地避免局部最优问题。在这里，我们现在讨论的这个算法并不总是拒绝使总体目标函数值上升（变差）的结果，而是依据这样一个概率函数：

P = exp (-∆f/T)

T代表温度控制参数（类比问题），∆f是新参数的结果和当前最优解的差值。

这个概率函数是由Metropolis准则而得来的。

旅行商问题

旅行商问题就是指旅行商按一定的顺序访问N个城市的每个城市,使得每个城市都能被访问且仅能被访问一次,最后回到起点,而使花费的代价最小。

为了解决该问题，我们需要了解下面两个问题:

1 产生新解的策略: 我们将随机交换已有解中的任意2个城市的顺序，来产生新的访问顺序（新解）。
2 目标函数 (用于求最小值): 按照对所有城市的访问顺序来求解路径的长度。

代码的使用

TravellingSalesmanProblem.cs是最要的类. 调用Anneal()方法将计算出访问各个城市的最短路径。

            TravellingSalesmanProblem problem = new TravellingSalesmanProblem();
            problem.FilePath = "Cities.txt";
            problem.Anneal();

下面的代码说明了模拟退火算法的基本流程:

 1        /**//// <summary>
 2        /// Annealing Process
 3        /// </summary>
 4        public void Anneal()
 5        {
 6            int iteration = -1;
 7
 8            double temperature = 10000.0;
 9            double deltaDistance = 0;
10            double coolingRate = 0.9999;
11            double absoluteTemperature = 0.00001;
12
13            LoadCities();
14
15            double distance = GetTotalDistance(currentOrder);
16
17            while (temperature > absoluteTemperature)
18            {
19                nextOrder = GetNextArrangement(currentOrder);
20
21                deltaDistance = GetTotalDistance(nextOrder) - distance;
22
23                //if the new order has a smaller distance
24                //or if the new order has a larger distance but satisfies Boltzman condition then accept the arrangement
25                if ((deltaDistance < 0) || (distance > 0 && Math.Exp(-deltaDistance / temperature) > random.NextDouble()))
26                {
27                    for (int i = 0; i < nextOrder.Count; i++)
28                        currentOrder[i] = nextOrder[i];
29
30                    distance = deltaDistance + distance;
31                }
32
33                //cool down the temperature
34                temperature *= coolingRate;
35
36                iteration++;
37            }
38
39            shortestDistance = distance;
40        }

1 介绍

在上一篇文章中，我们已经看到了一个简单的关于ANN实际应用程序，这篇文章中，我将简单地介绍一下ANN的最最基础的知识以及上一篇文章中的程序原理的说明。

2 ANN的最最基础的知识

ANN算法起源于生物体的神经系统，相信大家对生物神经系统的工作方式都非常了解，这里我也就不详细介绍了，不过，为了后续说明的方便，给大家上一个截图：
 

图1

根据生物神经系统的工作过程，我们可以大概理解以下这个图所要表达的含义：

图2

大家可以想象这样一种情形：寒冷的冬天，我们伸手到火炉边烤火，慢慢地，你觉得自己快要睡着了，这个时候，突然发现自己伸在火炉边的手特别烫得疼，然后马上将手缩回去。这就是一个神经网络的工作实例，火对手产生的温度就是图2的输入层（Input），而缩手或不缩手就是图2的输出层（Output）。但是缩手只有在手的温度达到一定的程度才发生的，比如说40度。

用图2来表示上面所说的情形：

X1 = 火对手产生的温度

w1 =火对手产生的温度的权值（对火对手产生的温度的放大或是缩小，我们让这个值为1）

激活函数（Active Function）= 如果 x1 * w1 > 40 激活（缩手），否则抑制（不缩手）

这是单输入的情况，如果有多个输入，则输出为 f(x1 * w1 + x2 * w2 + x3 * w3 …)

其中，f(x)为激活函数。

下面，我们来看2个多输入的神经网络结构图：

AND运算

其中f(x) =

If (x >= 2) return 1;

Else return 0;

阀值为2

我们可以利用这个结构图来检验一下是否正确：

X1 = 0, x2 = 0, x = x1*w1 + x2*w2 = 0 f(x) = 0;正确

X1 = 0, x2 = 1, x = x1*w1 + x2*w2 = 1 f(x) = 0;正确

X1 = 1, x2 = 0, x = x1*w1 + x2*w2 = 1 f(x) = 0;正确

X1 = 1, x2 = 1, x = x1*w1 + x2*w2 = 2 f(x) = 0;正确

OR运算

其中f(x) =

If (x >= 1) return 1;

Else return 0;

阀值为1

我们可以利用这个结构图来检验一下是否正确：

X1 = 0, x2 = 0, x = x1*w1 + x2*w2 = 0 f(x) = 0;正确

X1 = 0, x2 = 1, x = x1*w1 + x2*w2 = 1 f(x) = 1;正确

X1 = 1, x2 = 0, x = x1*w1 + x2*w2 = 1 f(x) = 1;正确

X1 = 1, x2 = 1, x = x1*w1 + x2*w2 = 2 f(x) = 1;正确

上面2个实例，就是我上篇文章中所需要建立的一个神经网络模型。

但是我们如何确定w1,w2和阀值呢？

这就需要通过神经网络来学习，从而确定w1,w2和阀值。

2 学习

拿计算AND运算的模型来说，需要2个输入1个输出是肯定的。关键就是如何确定2个输入的权值和激活函数的阀值。

为了计算激活函数的阀值，我们可以增加一个输入层，变成这个样子

这样，我们只需让激活函数f(x)=

If (x >= 1) return 1;

Else return 0;

即可。至于阀值究竟是多少，可以让w3的值去确定。这样，原先的问题就转化成了求解w1, w2 ,w3的大小的问题了。

接下来，我们制定这样的学习规律：

W(i) =     W(i)    + (正确值-实际计算的值)*x(i).

通过一定次数的训练，我们就可以让    (正确值-实际计算的值)变得相当下，这样最后的结果也就稳定了，同时求出了我们需要的w1, w2 ,w3的近似值。

3实际执行过程

• 得到训练集合（合理的输入和期望的输出（如：输入x1=1，x2=1输出1））
• 随机给w1, w2,w3赋值
• 执行一定次数的训练

4 预告
在下一篇文章中，我将介绍和一个多层的神经网络，用于计算XOR（异或）操作。

5 总结
在本文中，咱们介绍了神经网络的简单最最基本的原理和上一篇文章的实例原理。