微信讀書《2001:太空漫游》 5h23m讀完
人類對太空的想象,到《2001:太空漫游》為止。
我所有作品都是對《2001:太空漫游》的拙劣模仿,科幻文學(xué)在此達(dá)到了一個頂峰,之后再也沒有人能超越,即使是克拉克本人?!獎⒋刃?/p>
2019-06-12
【官方雙語/合集】線性代數(shù)的本質(zhì) - 系列合集
深度學(xué)習(xí) Deep Learning:B站up主 3Blue1Brown
2019-06-14
谷歌發(fā)布顛覆性研究:不訓(xùn)練不調(diào)參,AI自動構(gòu)建超強網(wǎng)絡(luò),告別煉丹一大步
真正的神經(jīng)網(wǎng)絡(luò),敢于不學(xué)習(xí)權(quán)重
它也宣告了深度學(xué)習(xí)分層編碼特征這一解釋壽終正寢。
來自德國波恩-萊茵-錫格應(yīng)用技術(shù)大學(xué)和谷歌大腦的一項新研究提出了一種神經(jīng)網(wǎng)絡(luò)架構(gòu)搜索方法,這些網(wǎng)絡(luò)可以在不進(jìn)行顯式權(quán)重訓(xùn)練的情況下執(zhí)行各種任務(wù)。
搜索權(quán)重?zé)o關(guān)的神經(jīng)網(wǎng)絡(luò)(WANN)的流程如下:
- 創(chuàng)建最少神經(jīng)網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)的初始群組;
- 在多個 rollout 上對每個網(wǎng)絡(luò)進(jìn)行評估,每個 rollout 分配一個不同的共享權(quán)重值;
- 根據(jù)網(wǎng)絡(luò)的性能和復(fù)雜度對其進(jìn)行排序;
- 通過改變排名最高的網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)創(chuàng)建新的群組,這些拓?fù)浣Y(jié)構(gòu)是通過錦標(biāo)賽選擇法(tournament selection)根據(jù)概率選擇的。
接下來,算法從 (2) 開始重復(fù),生成復(fù)雜度遞增的權(quán)重?zé)o關(guān)拓?fù)浣Y(jié)構(gòu),其性能優(yōu)于之前的幾代。