AI叫做“人工智能”——被人工調(diào)（陪）教（練）出來(lái)的智能。在訓(xùn)練AI的時(shí)候，研究者們有一個(gè)很常用的路線：

　　比如說(shuō)遺傳算法，基本的思路就是把自然選擇的想法套用在程序上：設(shè)定一套規(guī)則和目標(biāo)當(dāng)成環(huán)境，然后讓里面的程序不停“突變”并遭受環(huán)境選擇，從而向目標(biāo)不斷前進(jìn)。

　　其實(shí)也不算作弊，人家是很精準(zhǔn)地滿足了你設(shè)定的規(guī)則，問(wèn)題就是人制定規(guī)則的時(shí)候難免有漏洞。人類自己因?yàn)檫\(yùn)算能力和思維定勢(shì)，很難看出漏洞，可是對(duì)一大批方法同時(shí)進(jìn)行試錯(cuò)和選擇，漏洞就很容易被逮著了……在經(jīng)濟(jì)學(xué)上有一個(gè)概念叫古德哈特原則很好地形容了這個(gè)現(xiàn)象：“如果你把一個(gè)指標(biāo)拿出來(lái)當(dāng)成評(píng)價(jià)標(biāo)準(zhǔn)，這個(gè)指標(biāo)就失效了?！?

　　有一群研究者就整理了一個(gè)這種場(chǎng)景的list，基本上可以當(dāng)AI笑話大全來(lái)看。

　　算法利用了物理模擬器的溢出漏洞，搞出了一個(gè)特別巨大的力，讓溢出被判九游娛樂(lè)NineGame定為0，從而獲得了完美得分。

　　程序發(fā)現(xiàn)有毒無(wú)毒蘑菇的圖片是交替展現(xiàn)的，所以直接按照這個(gè)來(lái)分類，沒(méi)有從圖片里學(xué)到一丁點(diǎn)東西。

　　程序本應(yīng)該尋找碳原子較低能量的排列方式，但它找到了物理模型的一個(gè)bug，把所有的原子都疊在了同一個(gè)地方，成功獲得了最低能量。

　　這個(gè)模型里，生物生存需要消耗能量，但是繁育后代不消耗。于是一個(gè)物種演化出來(lái)的生活方式就是：不斷生育后代，然后把后代吃掉。

　　為了鼓勵(lì)造高塔，衡量標(biāo)準(zhǔn)是樂(lè)高積木底面的z坐標(biāo)。于是程序?qū)W會(huì)了把底面翻過(guò)來(lái)。

　　起初的衡量標(biāo)準(zhǔn)是模擬生物能抵達(dá)的最高點(diǎn)，于是程序演化出的生物長(zhǎng)成一根桿子而抵達(dá)這個(gè)點(diǎn)。

　　后來(lái)，標(biāo)準(zhǔn)修改為生物本來(lái)的最低處能抵達(dá)的最高點(diǎn)，于是程序演化出一根重心很高的桿子，依靠翻倒來(lái)把最低點(diǎn)翻上去。

　　這個(gè)機(jī)器人只有向左、向右和前進(jìn)三個(gè)指令，目標(biāo)是跟著線條走，有一段線條是曲線，沒(méi)法完美追蹤。于是它發(fā)現(xiàn)通過(guò)交替左轉(zhuǎn)和右轉(zhuǎn)可以后退，從而一直留在直線部分，不停前進(jìn)后退。

　　，因?yàn)樗鞍l(fā)現(xiàn)”病重的病人更可能在特定的醫(yī)院使用特定的機(jī)器拍片。Zech et al, 2018

　　BTW，我們?cè)O(shè)置了小小的門檻，相信熱愛科學(xué)的你肯定會(huì)通過(guò)考驗(yàn)！掃描下面的