不过,哈佛大学的 Henry Lin 和 MIT 的 Max Tegmark 给出了转机。他们认为数学家之所以狼狈不堪,是因为事情的关键在于世界万物运作的道理——宇宙的本质。换句话说,答案在物理而非数学里。
首先,我们假设要将几兆的灰度图像分类,判断该图像是一只猫还是一只狗。
这样一幅图片含有几百万像素,每一个像素都有 256 个灰度值。因此,从理论上说,一共有 256^1000000 种可能的图像,每一种都需要计算是否组成了猫或狗。而神经网络只有几万或几百万的参数,却不知怎的能够很轻松地完成这项分类的任务。
用数学的语言讲,神经网络的工作方式是用较为简单的函数逼近复杂的函数。当要分类猫或狗的图像时,神经网络必须实现一个函数,这个函数将一百万的灰度像素作为输入,输出它可能代表的图案的概率分布。
问题是,数学函数的数量相比用于逼近它们的可能的网络的数量,多了好几个量级。但尽管如此,深度神经网络仍然能够得到正确答案。