Tag: Programming

  1. 让神经网络会做唐诗

    黑云知旧柳,时日万年春 杨柳秋云雪,光微欲满霜 相随无寂寞,出国自曾之 不是诸侯客,今朝忆白头 今年早些时候,受到Karpathy的《不可思议的神经网络》启发,我训练出了一个能做近体唐诗的神经网络。具体效果如何请各位看官移步到这个展示页面上面来自行鉴赏。代码已经放在Github上面。 神经网络(Neural Network)最近被吹捧的很厉害。各大公司们觉得好像找到了一个解决无数问题的方法,学术界觉得找到了一个能让自己论文数量翻倍的利器。它目前应用在图像和语言方面的效果非常好,原因有两个: 传统的机器学习方法都是建立在统计的基础上,但是当数据与数据之间的关系难以用统计来描述的时候传统方法就无能为力了。 传统的机器学习很多时候需要专家的知识来挑选特征(feature),特征的好坏跟学习成果有很大的关系。 但是很多时候程序员们并不是绘画、语言学、古典文学或者X光片诊断专家,挑出来的特征效果往往不好。往往就算是专家,因为人的学习过程跟程序的学习过程不同,可能同样的特征还是没有用。 神经网络的厉害之处就在于它克服了以上两个难点。一是神经网络里面每一个神经元都有非线性的公式,有办法抓取复杂的难以用数学公式描述的关系。二是最近几年大家经常在媒体上面见到的一些做语音识别,图像识别的网络,它们训练的时候都是原始数据输入,到结果直接输出的模型(End to End)。对于程序员来说这是一个福音,因为他们现在并不需要在某个领域成为专家就能做一些非常好玩实用的程序。就拿这个作诗的模型作为例子。我以前中学的时候成天语文不及格,一度以为自己再接着写作文就要给中国文学丢脸了。…

    on Programming

  2. Neural Art Video - Yangshuo

    Inspired by A Neural Algorthm of Artistic Style, I made a video style adaption from a drone aerial of Yangshuo, Guilin. Looking at my hometown through the lens of artist is a pleasant experience. (If you are in China 墙内请戳优酷) Some of the higher layer neural network from the original…

    on Programming

  3. Deep Neural Network's Discrimination Against Color

    Maybe I mislead you with the title. Machine learning only knows how to distinguish pictures from features that they were trained on. And this is a good example to show that limitation.  I attended a meetup for deep learning a while back. And it was very cool to see the…

    on Programming